https://github.com/tloen/llama-int8
https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232
This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM
https://github.com/go-noah/llama
LLaMA 7B example
Deeplearning
2023.03.09 14:40
LLaMA: INT8 edition
조회 수 1270 추천 수 0 댓글 0
| 번호 | 분류 | 제목 | 글쓴이 | 날짜 | 조회 수 |
|---|---|---|---|---|---|
| 공지 | Tool/etc | Programming 게시판 관련 2 | MoA | 2014.11.01 | 8009 |
| 298 | API/MFC | 후킹 링크 | MoA | 2013.07.28 | 2700 |
| 297 | Python | 화면 캡쳐 소스 | MoA | 2014.01.14 | 2299 |
| 296 | API/MFC | 프린터 출력하기 | MoA | 2013.10.16 | 5126 |
| 295 | API/MFC | 프로세스 - 생성과 종료 그리고 이것 저것 | 너울 | 2011.10.12 | 2901 |
| 294 | API/MFC | 프로그램 배포용으로 만드는 과정 | 너울 | 2012.01.20 | 2303 |
| 293 | Site | 프로그래밍 관련 사이트 | MoA | 2012.08.02 | 1152 |
| 292 | C/C++ | 파일 입출력 | MoA | 2013.07.28 | 1791 |
| 291 | Python | 파이썬에서 C모듈 사용하기 | MoA | 2014.02.10 | 3057 |
| 290 | Deeplearning | 파이썬 머신러닝 무료 강의 (7시간) | OBG | 2022.07.06 | 945 |
| 289 | Site | 특정 자료형의 데이터를 binary(hex값, 2진수값)으로 변환 | Naya | 2012.11.15 | 2147 |
| 288 | Tool/etc | 텍스트 에디터 Sublime Text 2 | 너울 | 2012.03.30 | 1702 |
| 287 | API/MFC | 태스크 대화상자 (Task Dialog) | MoA | 2013.10.22 | 1715 |
| 286 | Algorithm | 큰 수 구하기 알고리즘 | Naya | 2012.08.02 | 2129 |
| 285 | Tool/etc | 쿠버네티스 클러스터 | OBG | 2022.11.11 | 1771 |
| 284 | C/C++ | 코드 실행 시간 계산 | Naya | 2012.08.02 | 1772 |
| 283 | C/C++ | 코드 실행 시간 계산 | Naya | 2012.09.27 | 1824 |
| 282 | Tool/etc | 컨텍스트 스위칭 (Context Switching) | MoA | 2013.07.28 | 2412 |
| 281 | Web | 카카오톡 웹버전 만들기 | OBG | 2022.11.09 | 1552 |
| 280 | Deeplearning | 추천(Recommendation) 시스템 - 알고리즘 Trend 정리 | OBG | 2021.08.03 | 1342 |
| 279 | Deeplearning | 추천 시스템 | OBG | 2023.03.30 | 1808 |