MrProbe permite a los usuarios sondear agentes de IA desde la perspectiva de un atacante, calificando sus respuestas mediante una tarjeta de puntuación de calidad de 20 dimensiones. La herramienta proporciona una evaluación integral, identificando vulnerabilidades y el cumplimiento de múltiples marcos de trabajo mediante la ejecución de pruebas adversarias exhaustivas.
Por qué importa
Documentación API
API disponible
overview
MrProbe permite a los usuarios sondear agentes de IA desde la perspectiva de un atacante, calificando sus respuestas mediante una tarjeta de puntuación de calidad de 20 dimensiones. La herramienta proporciona una evaluación integral, identificando vulnerabilidades y el cumplimiento de múltiples marcos de trabajo mediante la ejecución de pruebas adversarias exhaustivas.
Herramientas similares
Otras herramientas que podrías considerar
Mindgard
Offers automated AI red teaming, AI assessment, and runtime protection, focusing on discovering and fixing AI security and safety vulnerabilities.
Garak
An open-source LLM vulnerability scanner, focusing on prompt injection, jailbreaks, and guardrail bypass, aligning with MrProbe's adversarial probing.
Microsoft PyRIT
An open-source framework for red teaming generative AI systems, covering content harms, psychosocial risks, and data leakage.
PromptFoo
An open-source CLI and library for evaluating and red-teaming LLM apps, including automated red teaming and quality/accuracy evaluation.
Más en Stork
Otras herramientas de esta categoría, emparejadas por etiquetas comunes
