Tag

#MoE

5 件

DeepSeekのAI：高速、安価、そして不完全

新しいAIモデルが、業界大手を凌駕する性能をわずかなコストで実現し、驚異的な速度を誇ると主張しています。しかし、我々の実機テストにより、ベンチマークでは完全に見落とされている重大な欠陥が明らかになりました。

数千億のパラメータを持つ最先端のAIモデルを実行することは、データセンターを持たない人にとっては夢物語でした。しかし、新しいオープンソースエンジンがその常識を覆しました。VRAMを増やすのではなく、VRAMをCPUキャッシュのように扱うことで実現しています。

あなたのMacBookで、かつてはデータセンターが必要だったAIモデルが実行可能になりました。その秘密はAppleのハードウェアだけではありません。ローカルAIの常識を覆す、巧妙なソフトウェアのトリックがあるのです。

元OpenAI CTOのMira Murati氏が、975Bパラメータのオープンウェイトモデル「Inkling」を発表しました。生の音声を処理する独自の能力と、超特化型のファインチューニングに重点を置いたこのモデルは、企業のAI構築手法を根本から変える可能性があります。

Googleは、従来のAI生成を捨て去り驚異的な速度を実現する実験的なモデル、DiffusionGemmaを発表しました。これは一度に段落全体を書き出し、これまで不可能だったリアルタイムでの利用を可能にします。