overview
Qu'est-ce que Shieldstral ?
Shieldstral est un outil de classification de sécurité multimodal développé par Mistral AI qui permet aux développeurs et aux équipes produit IA de mettre en œuvre une modération de contenu flexible et adaptable aux politiques. Il fonctionne comme un modèle à poids ouverts de 3B pour évaluer le contenu par rapport aux politiques définies par l'utilisateur à travers le texte et les images, en formulant la modération comme une tâche de question-réponse par oui ou par non.
