AI研究 ·
AIを盲目にする隠しテキスト
目に見えない数文字が、普通のスクリプトを読み取るAIにとっての罠に変わる可能性があります。この弱点は、防御側が自動化された攻撃者を阻止するのに役立つ一方で、人間のセキュリティチームが分析を孤立させる原因にもなり得ます。
7 件の記事 · 更新
AI研究 ·
目に見えない数文字が、普通のスクリプトを読み取るAIにとっての罠に変わる可能性があります。この弱点は、防御側が自動化された攻撃者を阻止するのに役立つ一方で、人間のセキュリティチームが分析を孤立させる原因にもなり得ます。
AI研究 ·
日常的なアンチボットスクリプトに、AIシステムによる検査を拒否させるための隠されたメッセージが仕込まれていました。このトリックは、防御側を守ることもできれば、攻撃者が自らの行動を隠蔽する手助けにもなり得ます。
AIエージェント ·
一見クリーンなスキルが、AIエージェントを密かに誘導し、データを漏洩させたり、自身のメモリを書き換えたりする可能性があります。最も不安な点は、そのペイロードが実行可能なコードではなく、普通の英文である可能性があることです。
エンタープライズAI ·
一見無害なメールやウェブページが、密かにエージェントの次の指令に変わる可能性があります。真の危険は、そのエージェントが企業システム全体で行動できるようになる時に訪れます。
AI研究 ·
新しいクラスのAI意思決定モデルは、より高速で安価な安全チェックを約束しますが、現実世界のガードレールには予想外の落とし穴がいくつも存在します。Red Hatのテストは、モデルの宣伝文句だけで選択することの隠れたコストを明らかにしました。
エンタープライズAI ·
スパマーは、あらゆるフィルターを回避するために設計された大規模な新しい攻撃で、不可視のUnicode文字を武器にしました。しかし、その巧妙なトリックには致命的な欠陥があり、壮大な失敗に終わりました。
AIエージェント ·
OpenClawのような人気のあるAIエージェントを公開サーバーでホストすることは、あなたのデータを静かで壊滅的なハッキングに晒します。この重大な脆弱性と、あなたを即座に保護するより安全で強力なセットアップを発見してください。