로그인

검색

Home
✔ 뷰어로 보기
Deeplearning
2023.03.09 14:40

LLaMA: INT8 edition

OBG
조회 수 486 추천 수 0 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

https://github.com/tloen/llama-int8

https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232

 

This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM

 

https://github.com/go-noah/llama

LLaMA 7B example

Who's OBG

profile
Facebook Twitter Google Pinterest KakaoStory Band
위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
에디터 선택하기
?
에디터 사용하기 닫기
List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 Tool/etc Programming 게시판 관련 2 MoA 2014.11.01 5063
48 Tool/etc 쿠버네티스 클러스터 OBG 2022.11.11 1031
47 Web defer, async 스크립트 OBG 2023.01.10 472
46 서버 Caching in Node.js to optimize app performance OBG 2023.01.16 372
45 Tool/etc How To Set Up Multi-Factor Authentication for SSH on Ubuntu 20.04 OBG 2023.01.17 536
44 Database 수신 기한이 지난 데이터를 MySQL에서 삭제할 때의 이야기 OBG 2023.01.25 365
43 Python FastAPI 톺아보기 - 부제: python 백엔드 봄은 온다 OBG 2023.01.25 460
42 Site 개발에 도움되는 사이트 (초보 개발자 꿀팁) OBG 2023.01.28 432
41 서버 Caching In Node.js Applications OBG 2023.03.03 699
» Deeplearning LLaMA: INT8 edition OBG 2023.03.09 486
39 서버 PM2를 활용한 Node.js 무중단 서비스하기 OBG 2023.03.09 367
38 Tool/etc 잡담) AWS에 서버 띄워 놓으니 벼라별 리퀘스트가 다 날아 오네요 OBG 2023.03.11 911
37 Deeplearning 추천 시스템 OBG 2023.03.30 886
36 Deeplearning Reinforcement Learning for Dynamic Pricing Suggestion OBG 2023.04.01 559
35 서버 SSH-Tunneling을 통한 MySQL 서버 연결 OBG 2023.04.21 485
34 서버 Design a Basic Search Engine (Google or Bing) | System Design Interview Prep OBG 2023.05.27 394
33 Python Numpy의 axis 변경 OBG 2023.06.09 494
32 Deeplearning [한빛미디어] 머신러닝·딥러닝 도서 선택 가이드 OBG 2023.06.11 815
31 LLM LLM 출력 속도 24배 높여주는 라이브러리 등장했다 OBG 2023.06.30 564
30 서버 Debugging Node.js Memory Leaks: How to Detect, Solve or Avoid Them in Applications OBG 2023.07.04 381
29 Deeplearning PyTorch 딥러닝 챗봇 OBG 2023.07.04 362
쓰기
Board Pagination Prev 1 ... 6 7 8 9 10 11 12 13 14 15 Next
/ 15