로그인

검색

Home
✔ 뷰어로 보기
Deeplearning
2023.03.09 14:40

LLaMA: INT8 edition

OBG
조회 수 3062 추천 수 0 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

https://github.com/tloen/llama-int8

https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232

 

This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM

 

https://github.com/go-noah/llama

LLaMA 7B example

Who's OBG

profile
Facebook Twitter Google Pinterest KakaoStory Band
위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
에디터 선택하기
?
에디터 사용하기 닫기

  1. Programming 게시판 관련

    Date2014.11.01 CategoryTool/etc ByMoA Views17893
    read more

  2. [번역]거대언어모델(LLM) 가이드

    Date2023.07.20 CategoryLLM ByOBG Views2504
    Read More

  3. PyTorch 딥러닝 챗봇

    Date2023.07.04 CategoryDeeplearning ByOBG Views2727
    Read More

  4. Debugging Node.js Memory Leaks: How to Detect, Solve or Avoid Them in Applications

    Date2023.07.04 Category서버 ByOBG Views2174
    Read More

  5. LLM 출력 속도 24배 높여주는 라이브러리 등장했다

    Date2023.06.30 CategoryLLM ByOBG Views2928
    Read More

  6. [한빛미디어] 머신러닝·딥러닝 도서 선택 가이드

    Date2023.06.11 CategoryDeeplearning ByOBG Views3167
    Read More

  7. Numpy의 axis 변경

    Date2023.06.09 CategoryPython ByOBG Views3588
    Read More

  8. Design a Basic Search Engine (Google or Bing) | System Design Interview Prep

    Date2023.05.27 Category서버 ByOBG Views2937
    Read More

  9. SSH-Tunneling을 통한 MySQL 서버 연결

    Date2023.04.21 Category서버 ByOBG Views2934
    Read More

  10. Reinforcement Learning for Dynamic Pricing Suggestion

    Date2023.04.01 CategoryDeeplearning ByOBG Views2791
    Read More

  11. 추천 시스템

    Date2023.03.30 CategoryDeeplearning ByOBG Views3551
    Read More

  12. 잡담) AWS에 서버 띄워 놓으니 벼라별 리퀘스트가 다 날아 오네요

    Date2023.03.11 CategoryTool/etc ByOBG Views3609
    Read More

  13. PM2를 활용한 Node.js 무중단 서비스하기

    Date2023.03.09 Category서버 ByOBG Views2464
    Read More

  14. LLaMA: INT8 edition

    Date2023.03.09 CategoryDeeplearning ByOBG Views3062
    Read More

  15. Caching In Node.js Applications

    Date2023.03.03 Category서버 ByOBG Views2808
    Read More

  16. 개발에 도움되는 사이트 (초보 개발자 꿀팁)

    Date2023.01.28 CategorySite ByOBG Views3010
    Read More

  17. FastAPI 톺아보기 - 부제: python 백엔드 봄은 온다

    Date2023.01.25 CategoryPython ByOBG Views3141
    Read More

  18. 수신 기한이 지난 데이터를 MySQL에서 삭제할 때의 이야기

    Date2023.01.25 CategoryDatabase ByOBG Views2798
    Read More

  19. How To Set Up Multi-Factor Authentication for SSH on Ubuntu 20.04

    Date2023.01.17 CategoryTool/etc ByOBG Views3092
    Read More

  20. Caching in Node.js to optimize app performance

    Date2023.01.16 Category서버 ByOBG Views2246
    Read More

  21. defer, async 스크립트

    Date2023.01.10 CategoryWeb ByOBG Views2653
    Read More
쓰기
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 17 Next
/ 17