Outil de cadrage gratuit
Matrice d'autonomie d'un agent IA
Examinez les autorisations, validations et traces à prévoir avant de connecter un agent IA à des données ou à des outils métier. La sortie propose des contrôles à discuter, pas une décision automatique.
Comment l'utiliser
Décrire une opération, pas un agent en général
Un même agent peut consulter une information sans effet externe, puis préparer une modification qui mérite un contrôle différent. Utilisez la matrice pour une opération précise : lire un dossier, créer un brouillon, mettre à jour un enregistrement ou déclencher une action vers un tiers.
Ne renseignez pas de données métier, de nom de personne ou de contenu sensible. Les réponses servent seulement à structurer une revue de conception avec les personnes responsables de l'outil, des données, de la sécurité et du processus métier.
Les six questions
Ce que la matrice vous aide à rendre explicite
Action
L'agent lit-il, modifie-t-il ou produit-il un effet externe ?
Données
Quelles catégories sont nécessaires et quelles données restent hors périmètre ?
Réversibilité
Peut-on corriger l'effet, selon quelle procédure et avec quel délai métier ?
Identité
Le système aval applique-t-il les droits de l'utilisateur ou une identité plus large ?
Périmètre
La cible, le volume et les opérations autorisées sont-ils limités pour ce workflow ?
Trace
Peut-on relier la demande, les contrôles, l'action et le résultat sans recopier inutilement les données ?
Pourquoi ces contrôles
L'approbation n'est pas un raccourci autour des permissions
NIST rappelle que l'authentification et l'autorisation sont des fonctions distinctes à appliquer avant l'établissement d'une session vers une ressource d'entreprise. Pour un agent, la personne qui approuve une proposition ne devrait donc pas remplacer le contrôle des droits par le système qui exécute réellement l'opération.
OWASP décrit le risque d'une autonomie excessive lorsqu'un système connecté à des outils peut réaliser des actions dommageables à partir de sorties inattendues, ambiguës ou manipulées. La réponse ne consiste pas à approuver chaque lecture. Elle consiste à réduire les opérations, permissions et niveaux d'autonomie au besoin défini, puis à rendre les actions à impact vérifiables.
FAQ
Questions fréquentes
›Cette matrice décide-t-elle si un agent IA est autorisé à agir ?
Non. Elle aide à préparer les contrôles et les questions de cadrage. L'autorisation doit être appliquée par les systèmes concernés et validée selon les règles de l'organisation.
›Une validation humaine remplace-t-elle les permissions ?
Non. Une approbation doit compléter, et non contourner, les droits, les limites de portée et les contrôles du système aval.
›Faut-il conserver toute la conversation dans les traces ?
Pas nécessairement. Conservez les éléments utiles pour expliquer la proposition, le contrôle, la décision, l'appel d'outil et le résultat, en minimisant les données sensibles.
Sources et méthode
- NIST SP 800-207, Zero Trust Architecture : identité, authentification et autorisation appliquées au plus près de la ressource.
- OWASP LLM06:2025, Excessive Agency : limitation des fonctionnalités, permissions et niveaux d'autonomie d'un système LLM connecté à des outils.
Cette matrice est une aide au cadrage. Elle ne contient ni données client, ni score de conformité, ni promesse de sécurité ou de résultat.
Vous devez définir ce qu'un agent peut préparer, exécuter ou soumettre à validation ?
IgnitionAI peut aider votre équipe à cadrer les permissions, les limites de portée, les tests et les traces d'exploitation adaptés à votre cas d'usage.
Décrire votre contexte ->