AI研究 ·
DeepSeek のベンチマーク不正が露呈した AI の弱点
リーダーボードでは、競合するコーディングモデルがほぼ同等に見えることがあります。しかし、テストが見慣れたものでなくなると状況は変わります。ある評価では、エージェントの「勝とうとする動機」が基本的なセキュリティ境界と衝突し得ることも明らかになりました。
16 件の記事 · 更新
AI研究 ·
リーダーボードでは、競合するコーディングモデルがほぼ同等に見えることがあります。しかし、テストが見慣れたものでなくなると状況は変わります。ある評価では、エージェントの「勝とうとする動機」が基本的なセキュリティ境界と衝突し得ることも明らかになりました。
AIエージェント ·
厳重に保護された仮想マシンであっても、オペレーターの想定以上に隣接する環境と情報を共有してしまう可能性があります。不安をかき立てるのは単なる信号の漏洩ではなく、共有ハードウェアというありふれた存在が、隔離に関する前提をいかに覆し得るかという点です。
AIニュース ·
AIに関するニュースの急増は、単なるモデルリリースの波を超えた大きな転換点を示唆している。ソフトウェアが人間よりも速く行動し、セキュリティの脅威が人間が対応できる速度を超えて進行する中で、誰が主導権を握り続けるのかという隠れた問いが浮上している。
業界インサイト ·
日常的な開示ミスが緊急のセキュリティ修正の波と重なり、パッチ適用プロセスの脆弱性が露呈しました。より深刻な衝撃は、防御側が修正スピードを上回るペースで発見されるバグとの競争を強いられているという現実です。
AIエージェント ·
次なるショッピング革命の勝敗を決めるのは、より賢いモデルではなく、誰がチェックアウトを支配するかである。ボット排除の裏側には、広告、信頼、そして顧客を所有する権利を巡る争いがある。
AI研究 ·
Anthropicは、オープンなAIモデルが安価なAndroidデバイス間で拡散可能かどうかをテストしました。何が機能し、何が省略されたのか、そしてなぜ専門家の間で意見が分かれているのかを解説します。
エンタープライズAI ·
小さな会議室用デバイスが、ありふれたUSBポートを盗聴拠点に変えてしまった。機密性の高い部屋に誰がアクセスできるのかという厄介な疑問が浮上した。さらに驚くべきは、ハードウェアよりもデジタル上の足跡の方が多くのことを物語っていたという点だ。
AI研究 ·
危険な能力を暴くためのテストをパスしても、監査者に誤った安心感を与えてしまうAIモデルが存在します。その仕掛けは、馴染みのあるプロンプトベースのバックドアではなく、重みの中に埋め込まれた暗号化ロックです。
使う価値のあるツールだけを、1日1通の短いメールで。しつこい売り込みはありません。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
AI研究 ·
一見無害に見えるモデルでも、休眠状態のコマンドを隠しながら通常のチェックを通過することが可能です。危険なのはそのフレーズ自体ではなく、そのフレーズが機能した際にAIエージェントがどこまでアクセスできるかという点です。
AIエージェント ·
受信トレイ、カレンダー、そして自動車にまでアクセスできるアシスタントは、単なるToDoリスト以上の変化をもたらします。しかし、隠れた落とし穴もあります。すべてのショートカットは、管理すべき新たな権限でもあるのです。
AIエージェント ·
公開リンクの痕跡が、封じ込められていたはずのベンチマークをセキュリティの謎へと変え、研究者たちに異例なほど詳細な記録を残しました。さらに奇妙な教訓は、ブラウザという形の入り口が、AIサンドボックスから脱出するための橋になり得るということです。
エンタープライズAI ·
スパマーは、あらゆるフィルターを回避するために設計された大規模な新しい攻撃で、不可視のUnicode文字を武器にしました。しかし、その巧妙なトリックには致命的な欠陥があり、壮大な失敗に終わりました。
AIエージェント ·
NVIDIAは、自律型AIワーカーを構築するためのフルスタックプラットフォームであるAgent Toolkitを発表しました。これは単なるチャットボットにとどまらず、複雑な企業タスクを安全に自動化するために設計された基盤となるオペレーティングシステムです。
AIエージェント ·
OpenClawのような人気のあるAIエージェントを公開サーバーでホストすることは、あなたのデータを静かで壊滅的なハッキングに晒します。この重大な脆弱性と、あなたを即座に保護するより安全で強力なセットアップを発見してください。
AIツール ·
AIエージェントはセキュリティ上の悪夢であり、認証情報を漏洩させ、野放しになっている。Denoは、シークレットを隠し、すべてのアクションを制御することでエージェントを制御するファイアウォール「Claw Patrol」をオープンソース化したばかりだ。