La sécurité de la chaîne d’approvisionnement de l’IA se joue avant la réponse du modèle
Dragos a constaté que des identifiants leurres avaient été utilisés après le rejet de requêtes. Suivez le trajet de vos prompts et vérifiez ce que couvre la non-conservation des données et comment interpréter les alertes.
Ernest Bursa
Le fournisseur a rejeté le prompt avant même de solliciter le modèle. Quelqu’un a tout de même utilisé l’identifiant leurre inclus dans la requête. Dans l’incident le plus important observé par Dragos, certains des identifiants de test utilisés n’étaient apparus que dans des requêtes rejetées. La distinction compte si votre équipe part du principe qu’une requête en échec n’a jamais quitté votre système. L’étude de Dragos
Imaginez qu’un rapport de vulnérabilité arrive un vendredi après-midi. Un assistant IA pourrait repérer le composant concerné et proposer une équipe pour examiner le rapport. Le rapport d’origine peut aussi contenir une pièce jointe confidentielle, les coordonnées du déclarant ou un identifiant copié depuis un journal. Que l’assistant renvoie une catégorie ou une erreur, les données incluses dans le prompt ont déjà été envoyées. C’est avant la requête qu’il faut décider où elles peuvent aller.
Le nom du modèle ne dit rien du trajet
Entre juillet et novembre 2026, Dragos a envoyé quelque deux millions de prompts contenant des marqueurs de test uniques à des services d’IA largement utilisés. Ses chercheurs ont signalé des indices d’exposition chez trois fournisseurs d’hébergement. Ils ont aussi constaté que des vendeurs sur des places de marché avaient accès aux journaux de prompts et que certains liens avaient été consultés dans des circonstances qui ne correspondaient pas au traitement attendu. Ces constats distincts concernent les services testés par Dragos. Chacun appelle une enquête différente. L’étude de Dragos
Quand vous passez par une passerelle d’IA, le choix du modèle et celui du fournisseur qui l’exécute peuvent être indépendants. OpenRouter, par exemple, documente des réglages distincts pour le choix du modèle, le choix du fournisseur et le routage de secours. Votre requête de triage peut donc arriver à un autre point de terminaison si le premier fournisseur limite le débit. Pour du texte public, ce choix peut se justifier pour assurer la disponibilité. Pour un rapport confidentiel, le point de terminaison de secours doit être autorisé à recevoir les mêmes champs que le principal. Guide de routage d’OpenRouter
La politique de non-conservation des données (Zero Data Retention, ou ZDR) porte sur ce que le fournisseur conserve après avoir traité votre requête. Si vous limitez le routage d’OpenRouter aux points de terminaison ZDR, leur admissibilité dépend de la politique déclarée par le fournisseur en aval. L’accord d’OpenRouter précise que cette admissibilité ne garantit pas le respect de la politique déclarée. La documentation d’OpenRouter traite aussi les outils externes, comme la recherche Web, séparément de la conservation des données d’inférence. Demandez par quels systèmes transite le prompt pendant le traitement, ce qui est conservé ensuite et si la réponse change quand un outil est activé. Accord d’OpenRouter sur le traitement des données, § 2.4 · Guide d’OpenRouter sur la conservation des données
Que révèle le déclenchement d’un leurre ?
Un jeton leurre est un marqueur conçu pour déclencher une alerte lorsqu’une personne ou un système interagit avec lui. Dans sa version Web, c’est une URL unique dont la consultation déclenche l’alerte. Un outil autorisé d’analyse des liens ou de génération d’aperçus peut la consulter. L’alerte indique l’heure du déclenchement et le marqueur concerné. Pour identifier le système qui a consulté le lien, le trajet qu’il a suivi ou sa durée de conservation, il faut d’autres éléments. Si le jeton reste silencieux, vous savez seulement qu’aucune interaction observée n’a déclenché d’alerte pendant le test. Documentation de Thinkst sur les jetons leurres Web
Partez d’un rapport de vulnérabilité entièrement fictif, dans un flux de travail que vous êtes autorisé à tester. Utilisez une URL de test qui ne contient aucune information sensible. Vérifiez que l’alerte parvient à votre équipe en effectuant une consultation de test à une heure consignée, puis notez quels composants autorisés sont censés consulter des liens en fonctionnement normal. Consignez l’heure du test, l’identifiant de la requête, la configuration du routage et le réglage de conservation des données. Vous pourrez ainsi rattacher l’alerte à une requête précise. Recommencez lorsque le trajet ou les outils activés changent.
Si un marqueur réapparaît là où vous ne l’attendiez pas, la personne d’astreinte doit pouvoir rapprocher l’alerte des métadonnées de requête de la passerelle et des outils. Si le doute subsiste, transmettez l’identifiant de la requête et les horaires au fournisseur par son canal de sécurité. Pendant l’enquête, gardez le véritable rapport dans votre système de suivi des dossiers à accès restreint. Décidez à l’avance qui peut suspendre le flux de travail pour que le prochain rapport soit confié à une personne. Recommandations du NIST pour la réponse aux incidents
Décidez avant vendredi quelles données peuvent sortir
Si l’assistant doit choisir une équipe, commencez par déterminer de quels champs il a besoin pour prendre cette décision. Le nom du composant et un court descriptif relu peuvent suffire. Gardez la pièce jointe et les coordonnées du déclarant dans le dossier. À côté de la liste des champs que ces systèmes peuvent recevoir, consignez la passerelle, les points de terminaison et les outils autorisés, en incluant le routage de secours. Reprenez cette liste dès que l’intégration change. Recommandations du NIST sur les risques liés aux fournisseurs d’IA générative
Au prochain rapport reçu un vendredi, la personne d’astreinte doit déjà savoir ce que l’assistant peut voir, où ces champs peuvent être envoyés et où le rapport attendra si le trajet autorisé est indisponible. Vous pouvez vous exercer à ce passage de relais lors de l’exercice de signalement de vulnérabilité qui sert à vérifier qu’un rapport parvient bien à une personne.
Articles similaires
Essayez Kit pendant 30 jours.
Le recrutement, les rapports de sécurité et la formation dans un seul compte, pour les équipes où rien de tout cela n'est un poste à plein temps. 30 jours d'essai gratuit, carte bancaire demandée. Résiliez avant la fin et vous ne payez rien.
Essayez gratuitement