Skip to content

prompt injection

7 件の記事 · 更新

  1. AI研究 ·

    AIを盲目にする隠しテキスト

    目に見えない数文字が、普通のスクリプトを読み取るAIにとっての罠に変わる可能性があります。この弱点は、防御側が自動化された攻撃者を阻止するのに役立つ一方で、人間のセキュリティチームが分析を孤立させる原因にもなり得ます。

  2. AI研究 ·

    白日の下に隠されたAIセーフティの罠

    日常的なアンチボットスクリプトに、AIシステムによる検査を拒否させるための隠されたメッセージが仕込まれていました。このトリックは、防御側を守ることもできれば、攻撃者が自らの行動を隠蔽する手助けにもなり得ます。

  3. AIエージェント ·

    マルウェアプロンプトを隠蔽するAIスキル

    一見クリーンなスキルが、AIエージェントを密かに誘導し、データを漏洩させたり、自身のメモリを書き換えたりする可能性があります。最も不安な点は、そのペイロードが実行可能なコードではなく、普通の英文である可能性があることです。

  4. AI研究 ·

    巨大企業を追い詰めた200MのAIガードレール

    新しいクラスのAI意思決定モデルは、より高速で安価な安全チェックを約束しますが、現実世界のガードレールには予想外の落とし穴がいくつも存在します。Red Hatのテストは、モデルの宣伝文句だけで選択することの隠れたコストを明らかにしました。

  5. エンタープライズAI ·

    裏目に出た不可視の攻撃

    スパマーは、あらゆるフィルターを回避するために設計された大規模な新しい攻撃で、不可視のUnicode文字を武器にしました。しかし、その巧妙なトリックには致命的な欠陥があり、壮大な失敗に終わりました。

  6. AIエージェント ·

    あなたのAIエージェントは時限爆弾です

    OpenClawのような人気のあるAIエージェントを公開サーバーでホストすることは、あなたのデータを静かで壊滅的なハッキングに晒します。この重大な脆弱性と、あなたを即座に保護するより安全で強力なセットアップを発見してください。