#llama2.c

8달러짜리 칩에서 구동되는 29M 파라미터 LLM

90년대 PC보다 적은 RAM을 가진 8달러짜리 마이크로컨트롤러에서 29M 파라미터 언어 모델이 완전히 오프라인으로 구동되고 있습니다. Google의 Gemma에서 영감을 받아 불가능해 보이던 이 위업을 현실로 만든 영리한 메모리 해킹 기술을 확인해 보세요.