MrProbe permet aux utilisateurs de sonder les agents IA du point de vue d'un attaquant, en évaluant leurs réponses à l'aide d'une grille de qualité à 20 dimensions. L'outil fournit une évaluation complète, identifiant les vulnérabilités et la conformité à de multiples cadres de référence grâce à l'exécution de tests contradictoires approfondis.
Pourquoi c'est important
Documentation API
API disponible
overview
MrProbe permet aux utilisateurs de sonder les agents IA du point de vue d'un attaquant, en évaluant leurs réponses à l'aide d'une grille de qualité à 20 dimensions. L'outil fournit une évaluation complète, identifiant les vulnérabilités et la conformité à de multiples cadres de référence grâce à l'exécution de tests contradictoires approfondis.
Outils similaires
D'autres outils à considérer
Mindgard
Offers automated AI red teaming, AI assessment, and runtime protection, focusing on discovering and fixing AI security and safety vulnerabilities.
Garak
An open-source LLM vulnerability scanner, focusing on prompt injection, jailbreaks, and guardrail bypass, aligning with MrProbe's adversarial probing.
Microsoft PyRIT
An open-source framework for red teaming generative AI systems, covering content harms, psychosocial risks, and data leakage.
PromptFoo
An open-source CLI and library for evaluating and red-teaming LLM apps, including automated red teaming and quality/accuracy evaluation.
Plus sur Stork
Autres outils de cette catégorie, rapprochés par tags communs
