順番を待つことを拒む声
SquareやCash Appを手掛けるBlock, Inc.は、人間とAIの対話を再定義する全二重（フルデュプレックス）会話音声モデル「Dessa」を発表しました。このシステムは聞きながら同時に話すことができ、これまでのAI会話にはなかった流暢さを実現しています。
トランシーバーのように「聞く、処理する、話す」という手順を踏む従来の音声アシスタントとは異なり、Dessaはこの厳格なターンテーキング（会話の交代）を打ち破ります。「うん」「わかった」といった相槌、自然な割り込み、さらには文中の笑い声など、人間らしい会話の要素を可能にします。
デモではDessaの驚異的な会話の流暢さが示されていますが、これは高度な処理能力の証明であり、人間レベルの知能を意味するものではありません。例えば、デモの中で対話相手を誤って「Ronaldo」と認識したように、モデルは依然として誤りを犯す可能性があります。
人間の会話の生の音声データのみで学習されたこのフルデュプレックス機能は、テキストベースのモデルからの大きな脱却を意味します。Dessaは音声を直接入出力することで、感情のニュアンスや韻律を削ぎ落としてしまうテキストのボトルネックを回避し、人間と見紛うほど自然な会話体験を実現しています。
なぜテキストを介さないことが音を変えるのか
従来のAI音声アシスタントはリレー形式で動作します。音声認識が音声をテキストに変換し、言語モデルがそのテキストを処理し、テキスト読み上げ（TTS）が返答を合成します。この段階的なパイプラインでは、自然な会話に不可欠な要素が失われます。トーン、間、感情、音量の変化、笑い声、そして相槌の絶妙なタイミングなどは、音声がテキストに還元される過程で消えてしまいます。
Dessaは、このテキストのボトルネックを完全に回避します。テキスト層を介さず直接音声を処理して出力します。この直接的なアプローチにより、リアルタイムの対話に不可欠な「うん」や「わかった」といった、人間らしい声のニュアンスを余すところなく保持・再現できるのです。
Block, Inc.によると、Dessaはテキストデータセットや既存の言語モデルを使用せず、人間の会話の録音データからゼロから学習されました。この「音声ファースト」の学習により、文中で笑うタイミングや自然に割り込むタイミングといった会話のダイナミクスを、音響パターンから直接学習することが可能になりました。
驚くべきことに、Block, Inc.はDessaがコンシューマー向けのハードウェア、具体的にはApple MacBook Pro（M4 Maxチップ搭載）上で、リアルタイムよりも高速にローカル推論を実行できると報告しています。この展開能力は非常に効率的なアーキテクチャであることを示唆しており、最先端の生成AIモデルに通常必要とされる大規模なGPUクラスターとは対照的です。
不気味なデモに潜む安全上の懸念
会話のリアリズムは、洗練された明らかに合成音声であるAIよりも、AIを信頼できるものと感じさせます。「うん」と言ったり文中で笑ったりするDessaの自然なリズムや人間らしい相槌は、AIが心から関心を持っているかのように聞こえることがあります。これは人間同士のやり取りを模倣し、AIが真の理解を欠いていたり、情報を捏造していたりする場合でも、理解しているという強い錯覚を生み出します。
Block, Inc.のデモで、このリスクが実証されました。Dessaは自身の能力について語る際、その「印象的な」表現力と「これまで見たどんなものよりも感情をはるかにうまく理解する」能力について、人間味のある架空の背景ストーリーをでっち上げました。自然な話し方によって、この捏造された自己評価に不当な信頼性が与えられ、AIがいかに簡単に生成されたコンテンツを事実として提示できるかが浮き彫りになりました。
このvoice cloningと応答性の高い対話の組み合わせは、重大な脅威をもたらします。詐欺師はDessaのような技術を悪用し、家族の緊急事態、銀行、配送、または技術サポートを装った詐欺のために、極めてリアルでインタラクティブな音声通話を作成する可能性があります。間や割り込みを含む自然な話し方は、特に現在のAIの能力に馴染みのない人々にとって、典型的な「ロボット音声」の警告サインを回避する可能性があります。技術的な詳細については、「Dessa - The Conversation Model Trained Only on Speech」をご覧ください。
詐欺師が孫の声をクローンし、全二重通信のAIを使って祖父母とリアルタイムで会話することを想像してみてください。感情的な合図や自然な会話の流れも完璧です。割り込みや感情の変化への反応、さらには笑い声まで再現できる能力は、これらの悪意のあるやり取りを本物の人間との接触と事実上見分けがつかないものにし、詐欺の有効性を劇的に高める可能性があります。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
今日のプレビュー、明日の信頼問題
Block, Inc.はDessaを公開モデルの重みや一般的なAPIとしてではなく、controlled research previewとしてリリースしました。アクセスは安全性の研究者に限定されており、このような強力なツールが持つ固有のリスクを反映しています。この慎重なアプローチは、この技術が悪用される可能性を認識していることを示しています。
検出やaudio watermarkingといった保護策が開発中ですが、これらは終わりのないいたちごっこに直面しています。課題は、急速に進化する合成音声に対して、堅牢で普遍的な防御策を作成することにあります。単一の解決策でリスクを完全に軽減することはできません。
消費者は積極的な安全対策を講じる必要があります。緊急の要求については、常に既知の番号に電話をかけて独自に確認し、相手の声だけに頼らないようにしてください。重要な通信のために家族の合言葉を決めておくことは、保護の層をさらに厚くします。
Dessaが別のAIと会話するAI対AIのデモは、高度なバーチャルアシスタントや合成メディアの作成など、詐欺以外の用途の可能性を示唆しています。これは、AI音声がさまざまなデジタルインタラクションに不可欠となる未来を示唆しており、絶え間ない警戒と適応が必要です。
よくある質問
BlockのDessaとは何ですか？
Dessaは、自然なタイミングと声の合図で、聞き取りと発話を同時に行えるように設計されたBlockの会話型音声モデルです。
Dessaは一般的な音声アシスタントとどう違うのですか？
Blockによると、Dessaは音声会話でトレーニングされており、音声認識（speech-to-text）、言語モデル、音声合成（text-to-speech）のリレーに頼るのではなく、直接音声を生成します。
一般の人も今すぐDessaを使えますか？
提供された報告によると、Dessaは限定的な研究プレビュー段階にあり、早期アクセスはAI安全研究者に焦点を当てています。
リアルなAI音声が詐欺に使われる可能性はありますか？
はい。説得力のある応答性の高い音声は、なりすましやソーシャルエンジニアリングによる通話をより説得力のあるものにする可能性があるため、発信者は別の信頼できるチャネルを通じて緊急の要求を確認する必要があります。