overview
Overview
MrProbeは、攻撃者の視点からAIエージェントを調査し、20次元の品質スコアカードを用いてその応答を評価することを可能にします。このツールは、広範な敵対的テストを実行することで、脆弱性や複数のフレームワークへの準拠状況を特定し、包括的な評価を提供します。
MrProbeは、攻撃者の視点からAIエージェントを調査し、20次元の品質スコアカードを用いてその応答を評価することを可能にします。このツールは、広範な敵対的テストを実行することで、脆弱性や複数のフレームワークへの準拠状況を特定し、包括的な評価を提供します。
注目ポイント
APIドキュメント
API提供状況
overview
MrProbeは、攻撃者の視点からAIエージェントを調査し、20次元の品質スコアカードを用いてその応答を評価することを可能にします。このツールは、広範な敵対的テストを実行することで、脆弱性や複数のフレームワークへの準拠状況を特定し、包括的な評価を提供します。
類似ツール
検討すべき他のツール
Mindgard
Offers automated AI red teaming, AI assessment, and runtime protection, focusing on discovering and fixing AI security and safety vulnerabilities.
Garak
An open-source LLM vulnerability scanner, focusing on prompt injection, jailbreaks, and guardrail bypass, aligning with MrProbe's adversarial probing.
Microsoft PyRIT
An open-source framework for red teaming generative AI systems, covering content harms, psychosocial risks, and data leakage.
PromptFoo
An open-source CLI and library for evaluating and red-teaming LLM apps, including automated red teaming and quality/accuracy evaluation.
Storkでもっと
同じカテゴリの他のツール(共通タグで関連付け)