# Sécurité des agents IA : définir les accès et les responsabilités

Cadrez la sécurité d’un agent IA : permissions, données, actions sensibles, validation humaine, incidents et responsabilités de maintenance.

Auteur: Binov

Canonical: https://www.binov.com/fr/guides/securite-gouvernance-agents-ia

La sécurité d’un agent IA se construit autour des données qu’il peut consulter, des outils qu’il peut utiliser et des actions qu’il peut déclencher. Définissez ces limites dans l’application, avec des responsabilités identifiées. Un prompt seul ne constitue pas un contrôle d’accès.

## Cartographier les frontières du système

Listez les utilisateurs, les sources, les outils et les systèmes qui reçoivent un résultat. Pour chaque échange, indiquez l’identité utilisée, les informations transmises et les opérations possibles. Ce travail permet de voir où une décision du modèle pourrait devenir une action réelle.

Séparez les informations à lire des instructions autorisées. Un document ou un message reçu peut contenir une demande visant à détourner le comportement du système. [OWASP décrit le risque de prompt injection](https://genai.owasp.org/llmrisk/llm01-prompt-injection/). Le traitement doit tenir compte de cette frontière.

## Définir les contrôles selon l’action

| Type d’action | Contrôle à examiner |
| --- | --- |
| Lire une information | Vérifier les droits de l’utilisateur et le périmètre |
| Préparer une proposition | Identifier sources, limites et éléments à revoir |
| Modifier un enregistrement | Contrôler permissions et données de l’opération |
| Envoyer un message | Vérifier destinataire, contenu et autorisation |
| Répéter une opération | Prévenir les doublons et fixer une limite |

La validation humaine doit être placée avant l’action concernée. Elle doit présenter un aperçu suffisamment précis pour permettre une décision réelle.

## Tester les limites explicitement

Préparez des scénarios avec une demande hors périmètre, un utilisateur moins autorisé, une source contradictoire et une instruction suspecte dans un document. Vérifiez ce que le système montre et ce qu’il exécute effectivement.

Les contrôles ne doivent pas dépendre uniquement de la bonne formulation d’un refus. Une réponse indiquant « je ne peux pas » n’est pas suffisante si l’outil a tout de même été appelé. Les journaux et les vérifications côté application doivent permettre de constater le comportement réel.

## Répartir les responsabilités

Nommez un propriétaire métier du parcours, un responsable technique et des responsables de données. Indiquez qui approuve un nouvel outil, un élargissement des accès ou un changement de modèle. Une fonctionnalité déjà déployée continue d’évoluer et doit garder un propriétaire.

Une approche de gestion du risque peut aider à organiser ces décisions ; le [cadre AI RMF du NIST](https://www.nist.gov/itl/ai-risk-management-framework) constitue une référence générale. Son usage ne vaut pas certification ni démonstration de conformité d’un produit.

## Préparer l’incident et la reprise

Définissez comment arrêter une action, retirer un accès et identifier les opérations concernées. Conservez les éléments nécessaires à l’analyse avec une durée et un périmètre adaptés. Évitez que les traces deviennent une copie incontrôlée des documents métier.

Prévoyez la communication à l’utilisateur et le retour au processus manuel. Après correction, rejouez les cas qui ont révélé le problème avant d’élargir de nouveau l’usage.

## Questions fréquentes

**Peut-on donner tous les accès pour simplifier le prototype ?** Le prototype doit disposer d’un périmètre explicite. Des permissions trop larges rendent les conclusions de l’essai difficiles à transposer et augmentent les conséquences d’une erreur.

**Faut-il valider chaque action à la main ?** Le niveau de contrôle dépend des conséquences et du besoin. Il doit être défini par catégorie d’action, puis vérifié dans le fonctionnement réel.

**La sécurité se termine-t-elle au lancement ?** Non. L’ajout de données, d’outils ou d’utilisateurs change le périmètre à examiner.

Précisez ces décisions dans votre [cahier des charges](/fr/guides/cahier-des-charges-agent-ia) et votre [plan de production](/fr/guides/passer-poc-ia-production). Binov apporte un [accompagnement en architecture et leadership technique](/fr/services/cto-a-la-demande).