AI研究
10ドルのチップが「聞く」ことを覚えた
驚くべきは、小さなボードが音声を書き起こせることではなく、モデルがチップの容量をどれほどギリギリまで占有しているかという点です。このトレードオフは、ネットワークに依存しないプライバシー重視の音声制御の可能性を大きく広げるかもしれません。
記事を読む→
Tag
#TinyML
2 件
Tag
2 件
驚くべきは、小さなボードが音声を書き起こせることではなく、モデルがチップの容量をどれほどギリギリまで占有しているかという点です。このトレードオフは、ネットワークに依存しないプライバシー重視の音声制御の可能性を大きく広げるかもしれません。
90年代のPCよりも少ないRAMしか搭載していない8ドルのマイクロコントローラーで、2900万パラメータの言語モデルを完全にオフラインで実行することに成功しました。GoogleのGemmaから着想を得た、この不可能な偉業を実現した巧妙なメモリハックを解き明かします。