AI研究 ·
10ドルのチップが「聞く」ことを覚えた
驚くべきは、小さなボードが音声を書き起こせることではなく、モデルがチップの容量をどれほどギリギリまで占有しているかという点です。このトレードオフは、ネットワークに依存しないプライバシー重視の音声制御の可能性を大きく広げるかもしれません。
11 件の記事 · 更新
AI研究 ·
驚くべきは、小さなボードが音声を書き起こせることではなく、モデルがチップの容量をどれほどギリギリまで占有しているかという点です。このトレードオフは、ネットワークに依存しないプライバシー重視の音声制御の可能性を大きく広げるかもしれません。
チュートリアル ·
クラウド型アシスタントには、ネットワークへの依存、継続的なコスト、そして音声を外部へ送信するマイクという隠れた代償があります。この実験では、エッジデバイスにどれだけの知能を詰め込めるか、そしてメモリが不足した際に何が機能しなくなるのかを明らかにします。
AI研究 ·
モバイルAIの次なる飛躍は、より高速なチップやより小さなモデルから生まれるわけではないかもしれません。ある大胆な研究アイデアは、無線信号そのものをコンピュータの一部に変えることで、驚異的な向上と引き換えにいくつかの課題をもたらします。
AI研究 ·
小型モデルが、シミュレーション上のアヒルに対し、いつ従い、いつ拒否し、いつ怒るべきかを学習させました。しかも、すべてオフラインで実行可能です。驚くべきは、わずか数分のファインチューニングで、これほどまでに振る舞いを再構築できるという点です。
AIツール ·
AI開発の多くは、コストのかかるクラウドベースの軍拡競争に行き詰まっています。ある静かなヨーロッパの研究所が、AIの未来はデータセンターではなく、あなたのデバイス上にあることを証明しています。
AI研究 ·
4500万パラメータのAIモデルが10ドルのマイクロコントローラに収まりました。しかし、その真の力は会話ではなく、何十億もの日常デバイスにインテリジェントな動作を組み込む可能性を秘めた画期的な技術である点にあります。
AI研究 ·
90年代のPCよりも少ないRAMしか搭載していない8ドルのマイクロコントローラーで、2900万パラメータの言語モデルを完全にオフラインで実行することに成功しました。GoogleのGemmaから着想を得た、この不可能な偉業を実現した巧妙なメモリハックを解き明かします。
使う価値のあるツールだけを、1日1通の短いメールで。しつこい売り込みはありません。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
AIツール ·
スマートフォンで大規模なAIモデルをローカルで実行すると、通常はバッテリー切れやアプリのクラッシュを意味します。「Cactus」と呼ばれる新しい推論エンジンは、zero-copy memory mappingとNPU-first architectureを使用することで、わずかなフットプリントで大規模なパフォーマンスを提供し、状況を一変させます。
チュートリアル ·
わずか512MBのRAMを搭載した10年前のコンピューターがローカルAIモデルを実行しています。現代のAIを真にポータブルにする、不可能とも思えるエンジニアリングの偉業を詳しく解説します。
AIニュース ·
Googleは、スマートフォン上で完全にオフラインで動作するように設計された画期的なAIモデル、Gemma 4をリリースしました。その革新的な新アーキテクチャは、小さなパッケージで前例のないインテリジェンスを約束し、日常的なタスクにおいてクラウドAIを時代遅れにする可能性を秘めています。