Ajouter un modèle IA à un produit ressemble parfois à une intégration API classique : une entrée, une réponse, un coût à surveiller. C'est une erreur de lecture. Un modèle reçoit du contexte, influence des décisions, peut produire des instructions dangereuses et s'insère souvent dans des parcours où l'utilisateur ne voit pas tout ce qui se passe.

La sécurité doit donc arriver avant la démonstration publique, pas après. Le sujet n'est pas de bloquer les usages IA, mais d'éviter qu'un prototype efficace devienne un canal de fuite de données, un point d'exécution non contrôlé ou une dépendance impossible à auditer.

Commencer par la cartographie des données

La première question est simple : quelles données partent vers le modèle ? Les équipes doivent distinguer données publiques, documents internes, informations personnelles, secrets techniques, données contractuelles et données soumises à une obligation réglementaire. Tout ne doit pas entrer dans un prompt, même si le modèle donne une bonne réponse pendant la démonstration.

La bonne pratique consiste à définir des classes de données et à les relier à des règles d'usage. Certaines informations peuvent être utilisées telles quelles, d'autres doivent être masquées, résumées, pseudonymisées ou exclues. Cette décision doit être visible dans l'architecture, pas cachée dans une consigne de prompt.

Traiter les sorties comme du contenu non fiable

Une réponse IA peut être convaincante et fausse. Elle peut aussi contenir une commande risquée, une recommandation juridique fragile, une hallucination de source ou une donnée sensible récupérée par erreur dans le contexte. C'est pourquoi la sortie ne doit pas être exécutée, publiée ou transmise sans contrôle adapté au risque.

Dans un assistant interne, une validation humaine peut suffire. Dans un outil qui modifie des données, envoie un message client ou déclenche une action système, il faut ajouter des règles plus strictes : liste d'actions autorisées, seuils, prévisualisation, journalisation, confirmation explicite et blocage des opérations irréversibles.

Encadrer les outils connectés

Le risque augmente fortement quand le modèle peut appeler des outils. Un connecteur vers une base documentaire n'a pas le même impact qu'un connecteur vers un CRM, un espace cloud, un dépôt Git ou une console d'administration. Chaque outil doit être conçu avec le principe du moindre privilège : accès réduit, permissions séparées, scopes courts et absence de secrets inutiles.

Les attaques par injection de prompt exploitent souvent cette frontière. Un document malveillant peut tenter de convaincre le modèle d'ignorer les consignes ou d'exfiltrer des données. Les contrôles doivent donc être techniques : séparation entre instructions système et contenus non fiables, filtrage des sorties, validation des appels d'outils et détection des comportements anormaux.

Garder la trace de ce qui s'est passé

Quand une anomalie survient, il faut pouvoir reconstruire la chaîne : version du modèle, prompt, paramètres, documents consultés, outil appelé, décision prise, utilisateur concerné et sortie produite. Sans cette traçabilité, l'équipe ne peut ni corriger proprement ni expliquer l'incident.

Il ne s'agit pas de conserver indéfiniment toutes les données. La journalisation doit être proportionnée et compatible avec la protection des données personnelles. Mais elle doit être suffisante pour diagnostiquer un incident, comparer deux versions de modèle et vérifier que les garde-fous fonctionnent.

Le bon niveau de friction

Une intégration IA sûre n'est pas forcément lourde. Les contrôles simples peuvent être automatisés : masquage des secrets, refus de certains types de fichiers, validation de schéma, limites de coût, tests d'évaluation, alertes sur les actions sensibles. La validation humaine doit être réservée aux décisions qui engagent l'entreprise ou l'utilisateur.

Le vrai compromis consiste à rendre le risque visible. Une équipe peut accepter qu'un assistant résume un document public avec peu de friction. Elle ne doit pas accepter qu'un agent modifie une facture, supprime une donnée ou exécute une commande système sans preuve et sans autorisation.

L'IA apporte de la vitesse. La sécurité lui donne une forme exploitable en production.