로그인

검색

Home
✔ 뷰어로 보기
Deeplearning
2023.03.09 14:40

LLaMA: INT8 edition

OBG
조회 수 3022 추천 수 0 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

https://github.com/tloen/llama-int8

https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232

 

This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM

 

https://github.com/go-noah/llama

LLaMA 7B example

Who's OBG

profile
Facebook Twitter Google Pinterest KakaoStory Band
위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
에디터 선택하기
?
에디터 사용하기 닫기
  1. No Image notice by MoA 2014/11/01 by MoA
    in Tool/etc
    Views 17555  Replies 2

    Programming 게시판 관련

  2. No Image 20Jul
    by OBG
    2023/07/20 by OBG
    in LLM
    Views 2461 

    [번역]거대언어모델(LLM) 가이드

  3. No Image 04Jul
    by OBG
    2023/07/04 by OBG
    in Deeplearning
    Views 2682 

    PyTorch 딥러닝 챗봇

  4. No Image 04Jul
    by OBG
    2023/07/04 by OBG
    in 서버
    Views 2159 

    Debugging Node.js Memory Leaks: How to Detect, Solve or Avoid Them in Applications

  5. No Image 30Jun
    by OBG
    2023/06/30 by OBG
    in LLM
    Views 2874 

    LLM 출력 속도 24배 높여주는 라이브러리 등장했다

  6. No Image 11Jun
    by OBG
    2023/06/11 by OBG
    in Deeplearning
    Views 3125 

    [한빛미디어] 머신러닝·딥러닝 도서 선택 가이드

  7. No Image 09Jun
    by OBG
    2023/06/09 by OBG
    in Python
    Views 3546 

    Numpy의 axis 변경

  8. No Image 27May
    by OBG
    2023/05/27 by OBG
    in 서버
    Views 2897 

    Design a Basic Search Engine (Google or Bing) | System Design Interview Prep

  9. No Image 21Apr
    by OBG
    2023/04/21 by OBG
    in 서버
    Views 2901 

    SSH-Tunneling을 통한 MySQL 서버 연결

  10. No Image 01Apr
    by OBG
    2023/04/01 by OBG
    in Deeplearning
    Views 2738 

    Reinforcement Learning for Dynamic Pricing Suggestion

  11. No Image 30Mar
    by OBG
    2023/03/30 by OBG
    in Deeplearning
    Views 3517 

    추천 시스템

  12. No Image 11Mar
    by OBG
    2023/03/11 by OBG
    in Tool/etc
    Views 3559 

    잡담) AWS에 서버 띄워 놓으니 벼라별 리퀘스트가 다 날아 오네요

  13. No Image 09Mar
    by OBG
    2023/03/09 by OBG
    in 서버
    Views 2426 

    PM2를 활용한 Node.js 무중단 서비스하기

  14. No Image 09Mar
    by OBG
    2023/03/09 by OBG
    in Deeplearning
    Views 3022 

    LLaMA: INT8 edition

  15. No Image 03Mar
    by OBG
    2023/03/03 by OBG
    in 서버
    Views 2771 

    Caching In Node.js Applications

  16. No Image 28Jan
    by OBG
    2023/01/28 by OBG
    in Site
    Views 2962 

    개발에 도움되는 사이트 (초보 개발자 꿀팁)

  17. No Image 25Jan
    by OBG
    2023/01/25 by OBG
    in Python
    Views 3097 

    FastAPI 톺아보기 - 부제: python 백엔드 봄은 온다

  18. 25Jan
    by OBG
    2023/01/25 by OBG
    in Database
    Views 2773 

    수신 기한이 지난 데이터를 MySQL에서 삭제할 때의 이야기

  19. No Image 17Jan
    by OBG
    2023/01/17 by OBG
    in Tool/etc
    Views 3051 

    How To Set Up Multi-Factor Authentication for SSH on Ubuntu 20.04

  20. No Image 16Jan
    by OBG
    2023/01/16 by OBG
    in 서버
    Views 2210 

    Caching in Node.js to optimize app performance

  21. No Image 10Jan
    by OBG
    2023/01/10 by OBG
    in Web
    Views 2598 

    defer, async 스크립트

쓰기
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 17 Next
/ 17