로그인

검색

Home
✔ 뷰어로 보기
Deeplearning
2023.03.09 14:40

LLaMA: INT8 edition

OBG
조회 수 540 추천 수 0 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

https://github.com/tloen/llama-int8

https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232

 

This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM

 

https://github.com/go-noah/llama

LLaMA 7B example

Who's OBG

profile
Facebook Twitter Google Pinterest KakaoStory Band
위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
에디터 선택하기
?
에디터 사용하기 닫기
List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 Tool/etc Programming 게시판 관련 2 MoA 2014.11.01 5313
48 Tool/etc 쿠버네티스 클러스터 OBG 2022.11.11 1113
47 Web defer, async 스크립트 OBG 2023.01.10 550
46 서버 Caching in Node.js to optimize app performance OBG 2023.01.16 406
45 Tool/etc How To Set Up Multi-Factor Authentication for SSH on Ubuntu 20.04 OBG 2023.01.17 577
44 Database 수신 기한이 지난 데이터를 MySQL에서 삭제할 때의 이야기 OBG 2023.01.25 406
43 Python FastAPI 톺아보기 - 부제: python 백엔드 봄은 온다 OBG 2023.01.25 515
42 Site 개발에 도움되는 사이트 (초보 개발자 꿀팁) OBG 2023.01.28 478
41 서버 Caching In Node.js Applications OBG 2023.03.03 764
» Deeplearning LLaMA: INT8 edition OBG 2023.03.09 540
39 서버 PM2를 활용한 Node.js 무중단 서비스하기 OBG 2023.03.09 433
38 Tool/etc 잡담) AWS에 서버 띄워 놓으니 벼라별 리퀘스트가 다 날아 오네요 OBG 2023.03.11 964
37 Deeplearning 추천 시스템 OBG 2023.03.30 934
36 Deeplearning Reinforcement Learning for Dynamic Pricing Suggestion OBG 2023.04.01 614
35 서버 SSH-Tunneling을 통한 MySQL 서버 연결 OBG 2023.04.21 538
34 서버 Design a Basic Search Engine (Google or Bing) | System Design Interview Prep OBG 2023.05.27 437
33 Python Numpy의 axis 변경 OBG 2023.06.09 561
32 Deeplearning [한빛미디어] 머신러닝·딥러닝 도서 선택 가이드 OBG 2023.06.11 863
31 LLM LLM 출력 속도 24배 높여주는 라이브러리 등장했다 OBG 2023.06.30 614
30 서버 Debugging Node.js Memory Leaks: How to Detect, Solve or Avoid Them in Applications OBG 2023.07.04 427
29 Deeplearning PyTorch 딥러닝 챗봇 OBG 2023.07.04 416
쓰기
Board Pagination Prev 1 ... 6 7 8 9 10 11 12 13 14 15 Next
/ 15