Un agent peut obéir à la mauvaise voix
L'injection de prompt est un point d'entrée, mais la véritable menace émerge lorsqu'un contenu non fiable influence un agent autonome. Le risque ne réside pas seulement dans ce qu'on dit à un agent, mais dans ce qu'il fait une fois compromis par une instruction externe malveillante. Cela exige de passer d'un simple filtrage des entrées à une gouvernance complète des agents.
Cole Medin, développeur en IA, illustre cela avec son agent « second cerveau », qui gère des opérations commerciales importantes et accède à des données privées. Pour atténuer les risques, Medin met en œuvre des contrôles de sécurité rigoureux pour toutes les données entrantes avant qu'elles n'atteignent le LLM, tout en limitant strictement l'accès de l'agent aux seuls systèmes nécessaires.
La combinaison mortelle pour les entreprises implique des agents ayant accès à des données privées, à des entrées externes non fiables et à la capacité d'écrire ou de communiquer de manière indépendante. Bien que le filtrage des entrées soit une première ligne de défense essentielle, il ne peut garantir qu'un agent prendra toujours des mesures sûres. Une protection complète nécessite de régir l'identité et les autorisations des agents au moment de l'exécution, en traitant les agents comme des identités non humaines nécessitant un confinement Zero-Trust.
Le problème de l'entreprise est la prolifération des agents
Un agent géré personnellement, comme le « second cerveau » de Cole Medin, peut fonctionner avec des contrôles de sécurité manuels et des restrictions d'outils codées en dur. Cependant, ce modèle s'effondre à l'échelle de l'entreprise. Les entreprises ne déploient pas un seul agent ; elles gèrent des flottes fonctionnant dans des services cloud et sur les appareils des employés, souvent avec une propriété et une portée peu claires.
Cette prolifération des agents crée un profond déficit de visibilité pour l'informatique. Les organisations ont besoin d'un inventaire précis des agents existants, des responsables de ces agents, des identités spécifiques qu'ils utilisent et, surtout, des ressources auxquelles ils peuvent accéder. Sans cela, l'entreprise est aveugle aux vecteurs d'attaque potentiels.
Les agents d'entreprise ne sont pas simplement des extensions du compte d'un employé ; ce sont des identités non humaines (NHI) qui nécessitent leur propre gouvernance stricte. Chaque agent doit adhérer aux principes du moindre privilège et d'une auditabilité complète pour toutes ses activités. Traiter les agents comme des identités distinctes, plutôt que comme le mandataire d'un employé, est primordial.
Project Perception et Agent 365 de Microsoft répondent à ce besoin en dotant les agents de leurs propres identités, distinctes de celles des utilisateurs humains. Cela permet un accès limité aux tâches et dans le temps, garantissant qu'un agent ne dispose que des autorisations dont il a besoin, précisément au moment où il en a besoin. Ce passage d'un accès statique à des autorisations dynamiques adaptées au risque est essentiel pour contenir les menaces liées aux agents à grande échelle.
La réponse de Microsoft : des autorisations qui expirent
Project Perception et Agent 365 de Microsoft offrent une couche de gouvernance critique conçue pour découvrir les agents, identifier les lacunes de contrôle et gérer les risques à l'échelle de la flotte. Cette architecture attribue aux agents leur propre identité, découplant leur accès opérationnel des autorisations approuvées d'un employé.
Au lieu de privilèges permanents étendus, les agents reçoivent des autorisations dynamiques et limitées dans le temps. Cela signifie qu'un agent obtient l'accès à des ressources spécifiques et prises en charge uniquement pour une tâche définie, l'accès expirant une fois la tâche terminée. Ce principe du moindre privilège, appliqué de manière dynamique, réduit considérablement les dommages potentiels causés par un agent compromis.
Il est crucial de noter que l'évaluation des risques va au-delà de la connexion initiale. Les contrôles de Microsoft évaluent en continu les actions des agents pris en charge par rapport aux politiques et aux niveaux de risque actuels lors de l'exécution (runtime). Si un agent présente un comportement inattendu ou si son profil de risque change, des mesures de confinement restreignent ses capacités sans interrompre l'accès en cours de l'employé.
Cette approche empêche une seule instruction injectée de se transformer en une compromission plus large de l'entreprise. Pour en savoir plus sur les vecteurs d'attaque courants, consultez le OWASP Top 10 for Large Language Model Applications. Votre équipe peut examiner les protections recommandées, prévisualiser leur impact et approuver des déploiements progressifs avant leur application, garantissant ainsi une transition contrôlée vers une sécurité renforcée des agents.
Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.
un e-mail par jour · désinscription en deux clics · aucun traqueur tiers
La défense à l'échelle de la flotte nécessite toujours une approbation humaine
La vision de Microsoft s'étend au-delà de la sécurité des agents individuels vers une défense à l'échelle de la flotte. Project Perception introduit des « agents gardiens » pour aider les équipes à identifier et à réagir aux modèles de risque dans des groupes entiers d'agents. Cela déplace l'attention des enquêtes isolées vers une protection cohérente et systémique.
Cette approche maintient un élément humain crucial. La vidéo souligne que les équipes informatiques examinent les protections recommandées, prévisualisent l'impact des changements de politique et approuvent un déploiement progressif avant que toute nouvelle mesure de sécurité ne soit appliquée. Ce processus délibéré, avec intervention humaine, garantit que les défenses automatisées s'alignent sur les objectifs commerciaux et les réalités opérationnelles.
Les entreprises doivent adopter dès maintenant une stratégie de défense en profondeur. Cela inclut :
- L'inventaire de tous les agents et de leurs capacités
- La définition des identités avec un accès au moindre privilège
- La surveillance continue des actions pour détecter les anomalies
- Le test des stratégies de confinement
Pour des conseils techniques plus approfondis, reportez-vous aux directives de sécurité des applications LLM de l'OWASP et à la documentation de Microsoft Learn. Stork.AI remercie Microsoft pour son partenariat dans l'avancement de la sécurité des agents.
Foire aux questions
Pourquoi l'injection de prompt n'est-elle pas le seul risque de sécurité lié aux agents IA ?
Une instruction injectée peut exploiter l'accès d'un agent aux données et aux outils, transformant une entrée manipulée en une action non autorisée.
Qu'est-ce que Project Perception ?
Project Perception est l'initiative de sécurité des agents de Microsoft, décrite dans la vidéo comme fournissant des informations et des outils sur les agents pour aider les équipes à gérer les risques à travers les agents.
Comment les autorisations dynamiques aident-elles à sécuriser les agents ?
Elles accordent à un agent l'accès pour une tâche et une période spécifiques, réduisant ainsi la dépendance à des autorisations larges et permanentes.
Les contrôles des agents de Microsoft bloquent-ils automatiquement les actions risquées ?
La vidéo décrit des protections recommandées que les équipes informatiques peuvent examiner, prévisualiser et approuver pour un déploiement progressif avant leur application.