로그인

검색

Home
✔ 뷰어로 보기
Deeplearning
2023.03.09 14:40

LLaMA: INT8 edition

OBG
조회 수 14370 추천 수 0 댓글 0
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
?

단축키

Prev이전 문서

Next다음 문서

가 크게 작게 위로 아래로 게시글 수정 내역 댓글로 가기 인쇄

https://github.com/tloen/llama-int8

https://github.com/facebookresearch/llama/issues/79#issuecomment-1454687232

 

This is a fork of the LLaMA code that runs LLaMA-13B comfortably within 24 GiB of RAM

 

https://github.com/go-noah/llama

LLaMA 7B example

Who's OBG

profile
Facebook Twitter Google Pinterest KakaoStory Band
위로 아래로 게시글 수정 내역 댓글로 가기 인쇄
에디터 선택하기
?
에디터 사용하기 닫기
  1. No Image notice by MoA 2014/11/01 by MoA
    in Tool/etc
    Views 108244  Replies 2

    Programming 게시판 관련

  2. No Image 04Jul
    by OBG
    2023/07/04 by OBG
    in Deeplearning
    Views 19457 

    PyTorch 딥러닝 챗봇

  3. No Image 04Jul
    by OBG
    2023/07/04 by OBG
    in 서버
    Views 18793 

    Debugging Node.js Memory Leaks: How to Detect, Solve or Avoid Them in Applications

  4. No Image 30Jun
    by OBG
    2023/06/30 by OBG
    in LLM
    Views 11656 

    LLM 출력 속도 24배 높여주는 라이브러리 등장했다

  5. No Image 11Jun
    by OBG
    2023/06/11 by OBG
    in Deeplearning
    Views 11869 

    [한빛미디어] 머신러닝·딥러닝 도서 선택 가이드

  6. No Image 09Jun
    by OBG
    2023/06/09 by OBG
    in Python
    Views 21474 

    Numpy의 axis 변경

  7. No Image 27May
    by OBG
    2023/05/27 by OBG
    in 서버
    Views 17780 

    Design a Basic Search Engine (Google or Bing) | System Design Interview Prep

  8. No Image 21Apr
    by OBG
    2023/04/21 by OBG
    in 서버
    Views 18427 

    SSH-Tunneling을 통한 MySQL 서버 연결

  9. No Image 01Apr
    by OBG
    2023/04/01 by OBG
    in Deeplearning
    Views 19656 

    Reinforcement Learning for Dynamic Pricing Suggestion

  10. No Image 30Mar
    by OBG
    2023/03/30 by OBG
    in Deeplearning
    Views 13246 

    추천 시스템

  11. No Image 11Mar
    by OBG
    2023/03/11 by OBG
    in Tool/etc
    Views 12642 

    잡담) AWS에 서버 띄워 놓으니 벼라별 리퀘스트가 다 날아 오네요

  12. No Image 09Mar
    by OBG
    2023/03/09 by OBG
    in 서버
    Views 9150 

    PM2를 활용한 Node.js 무중단 서비스하기

  13. No Image 09Mar
    by OBG
    2023/03/09 by OBG
    in Deeplearning
    Views 14370 

    LLaMA: INT8 edition

  14. No Image 03Mar
    by OBG
    2023/03/03 by OBG
    in 서버
    Views 18055 

    Caching In Node.js Applications

  15. No Image 28Jan
    by OBG
    2023/01/28 by OBG
    in Site
    Views 11521 

    개발에 도움되는 사이트 (초보 개발자 꿀팁)

  16. No Image 25Jan
    by OBG
    2023/01/25 by OBG
    in Python
    Views 11977 

    FastAPI 톺아보기 - 부제: python 백엔드 봄은 온다

  17. 25Jan
    by OBG
    2023/01/25 by OBG
    in Database
    Views 8977 

    수신 기한이 지난 데이터를 MySQL에서 삭제할 때의 이야기

  18. No Image 17Jan
    by OBG
    2023/01/17 by OBG
    in Tool/etc
    Views 20661 

    How To Set Up Multi-Factor Authentication for SSH on Ubuntu 20.04

  19. No Image 16Jan
    by OBG
    2023/01/16 by OBG
    in 서버
    Views 18708 

    Caching in Node.js to optimize app performance

  20. No Image 10Jan
    by OBG
    2023/01/10 by OBG
    in Web
    Views 18397 

    defer, async 스크립트

  21. No Image 11Nov
    by OBG
    2022/11/11 by OBG
    in Tool/etc
    Views 12459 

    쿠버네티스 클러스터

쓰기
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 ... 17 Next
/ 17