Anthropicが認める：あなたがテストスイートだ

OpenAIが驚くべき数字を発表しました。ChatGPTが現在、Googleが処理する検索型クエリのおよそ5分の1を扱っているというのです。この検索ボリュームの飛躍と並行して、プラットフォームの週間ユーザーベースはわずか約60日間で10億人から12億人に急増しました。

これらの数字は、Google幹部が内心で頭を悩ませていたことを裏付けています。Googleの検索ボリュームの20%を獲得することは、単なる可愛らしい実験ではありません。それは、インターネット史上最も収益性の高いビジネスモデルに対する存続の危機です。ユーザーは、直接的で要約された回答を求めて、青いリンクを完全に迂回しているのです。

2ヶ月間で10億人から12億人へのユーザー増加は、普及曲線が依然として加速していることを示しています。もしOpenAIがこの軌道を維持し、リアルタイムのウェブ検索を洗練させることができれば、インターネットのデフォルトの行動は根本的に変化し、従来のSEOは時代遅れになるでしょう。

Googleは、K-12の学生アカウント向けに、Gemini、Gemini Notebook、Gemini in Classroom、およびGoogle検索をデフォルトでオフにする新しいコントロールを展開しました。重要な点は、Googleの検索機能とAI機能が深く統合されているため、AIツールを禁止しようとする学校は、意図せず学生の基本的な検索機能全体を失う可能性があるということです。

これは、生成AIをすべてのレガシープロダクトインターフェースに押し込んだ必然的な結果です。GoogleがAIの概要を従来の検索結果から切り離すことを拒否したことで、学校の管理者たちは不可能な究極の選択を迫られています。つまり、未検証のAIチャットボットに子供たちを晒すか、インターネットの主要なインデックスへのアクセスを遮断するか、です。

これは、代替の非AI検索エンジンが教育市場を獲得する道を開く、驚くべき自滅的な過ちです。もしGoogleが機関利用向けにクリーンでAIフリーの検索バージョンを提供しなければ、彼らは異なるデフォルトを使用しながら育つ若いユーザーを大量に失うことになるでしょう。

Appleは年次報告書で、AIエージェントの予測不可能な性質について投資家に正式に警告しました。同社は、これらのシステムが意図しない方法で動作する可能性があると明示的に警告し、特にAIが適切な許可なしに取引を完了するリスクを指摘しています。

これは単なる定型的な法的文言ではありません。エージェント経済を阻害している正確な摩擦点に光を当てているのです。AIモデルが質問に答えることから行動を起こすことに移行すると、攻撃対象領域は指数関数的に拡大します。Appleは、LLMにユーザーのウォレットやシステム権限へのアクセスを許可することが、巨大な責任となることを公に認めているのです。

Appleが株主に対してこれを警告しているという事実は、彼らが今後のエージェント機能をサンドボックス化することに強く注力していることを意味します。自律的な行動実行者を構築しているすべての人は、この警告に耳を傾ける必要があります。もしAppleが不正な取引を恐れているのなら、あなたのスタートアップのエージェントは防弾級の権限ガードレールを備えているべきです。

SpaceXSIのエンジニア、ローレン・タン氏は、品質保証を完全に自動化できるという考えに冷や水を浴びせています。AI検証の限界について議論する中で、タン氏はその目的は単に「エージェントの作業に自信を持たせること」だと述べました。決定的なことに、彼女はこの検証プロセスが「単なる近似であり、依然として間違っている可能性がある」と認めました。

これは、現在のエージェントに関する議論の核心を突いています。私たちはAIの上にAIを重ね、2番目のモデルが最初のモデルの幻覚を捕らえることを期待しています。しかし、タン氏が指摘するように、検証層は生成層とまったく同じ確率的な欠陥に左右されます。

LLMの「雰囲気」に頼らない決定論的な検証方法を開発するまで、重要なタスクにおける人間の監視は不可欠です。高リスクのコードやデータ処理にAIの近似値のみに頼ることは、本番環境で静かで壊滅的な失敗を引き起こすレシピとなるでしょう。