AI 연구
10달러짜리 칩이 듣는 법을 배우다
놀라운 점은 작은 보드가 음성을 텍스트로 변환할 수 있다는 사실이 아니라, 모델이 칩 전체를 거의 다 차지할 정도로 크다는 것입니다. 이러한 절충안은 네트워크 없이 작동하는 개인정보 보호 중심의 음성 제어 기능의 가능성을 재정의할 수 있습니다.
기사 읽기→
Tag
2 개 게시물
놀라운 점은 작은 보드가 음성을 텍스트로 변환할 수 있다는 사실이 아니라, 모델이 칩 전체를 거의 다 차지할 정도로 크다는 것입니다. 이러한 절충안은 네트워크 없이 작동하는 개인정보 보호 중심의 음성 제어 기능의 가능성을 재정의할 수 있습니다.
90년대 PC보다 적은 RAM을 가진 8달러짜리 마이크로컨트롤러에서 29M 파라미터 언어 모델이 완전히 오프라인으로 구동되고 있습니다. Google의 Gemma에서 영감을 받아 불가능해 보이던 이 위업을 현실로 만든 영리한 메모리 해킹 기술을 확인해 보세요.