로그인

검색

Home
✔ 뷰어로 보기
Deeplearning
2023.03.09 14:40

LLaMA: INT8 edition

OBG
조회 수 863 추천 수 0 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

https://github.com/tloen/llama-int8

https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232

 

This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM

 

https://github.com/go-noah/llama

LLaMA 7B example

Who's OBG

profile
Facebook Twitter Google Pinterest KakaoStory Band
위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
에디터 선택하기
?
에디터 사용하기 닫기
List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
공지 Tool/etc Programming 게시판 관련 2 MoA 2014.11.01 5719
268 Tool/etc How to stop programmers to copy the code from GitHub when they leave the company? OBG 2024.01.02 717
267 Site 10 Useful/Fun/Weird Github Repos You Have to Play Around With OBG 2023.12.28 935
266 Site 모든 개발자를위한 10 가지 특별한 GitHub 리포지토리 OBG 2023.12.28 658
265 Deeplearning 마이크로소프트가 공개한 무료 AI 코스들 OBG 2023.11.28 906
264 Deeplearning 내 마음대로 선정한 머신러닝/딥러닝 학습 추천 서적 OBG 2023.08.14 1024
263 Deeplearning LSTM-AE를 이용한 시퀀스 데이터 이상 탐지 OBG 2023.08.14 452
262 Deeplearning Top 3 most used Pytorch Ecosystem Libraries you should Know about OBG 2023.08.02 1148
261 LLM [번역]거대언어모델(LLM) 가이드 OBG 2023.07.20 394
260 Deeplearning PyTorch 딥러닝 챗봇 OBG 2023.07.04 437
259 서버 Debugging Node.js Memory Leaks: How to Detect, Solve or Avoid Them in Applications OBG 2023.07.04 443
258 LLM LLM 출력 속도 24배 높여주는 라이브러리 등장했다 OBG 2023.06.30 755
257 Deeplearning [한빛미디어] 머신러닝·딥러닝 도서 선택 가이드 OBG 2023.06.11 996
256 Python Numpy의 axis 변경 OBG 2023.06.09 635
255 서버 Design a Basic Search Engine (Google or Bing) | System Design Interview Prep OBG 2023.05.27 464
254 서버 SSH-Tunneling을 통한 MySQL 서버 연결 OBG 2023.04.21 563
253 Deeplearning Reinforcement Learning for Dynamic Pricing Suggestion OBG 2023.04.01 680
252 Deeplearning 추천 시스템 OBG 2023.03.30 1056
251 Tool/etc 잡담) AWS에 서버 띄워 놓으니 벼라별 리퀘스트가 다 날아 오네요 OBG 2023.03.11 1125
250 서버 PM2를 활용한 Node.js 무중단 서비스하기 OBG 2023.03.09 441
» Deeplearning LLaMA: INT8 edition OBG 2023.03.09 863
쓰기
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 15 Next
/ 15