WTF Is Going On(Weights, Tools & Frameworks)

English
TheBloke/CodeLlama-70B-hf-AWQ
text-generation llama2 AWQ

이게 뭔가

파라미터 69B. 프롬프트를 받아 텍스트를 씁니다. 흔히 LLM이라고 부르는 종류입니다.

AWQ 형식으로 나와 있습니다. AWQ는 vLLM 같은 GPU 서빙 스택이 필요합니다.

llama2 — 표준 라이선스가 아니라 해당 연구소의 자체 약관입니다. 배포 전에 읽어볼 만합니다.

릴리스 체인이 기록으로 증명되는 단계만

  1. weights 공개2024-01-30

여기서 측정한 것저희 일간 수집 기록 — 업스트림은 오늘 값만 공개합니다 · 이 구간에서 4일은 수집하지 못했습니다

← 상황판