Ce que l'on confie à l'IA et ce qu'elle lit réellement
Deux risques : les données partagées avec l'IA et les instructions cachées dans les contenus qu'elle analyse.
- 46 %
- des professionnels ont déjà importé des informations sensibles de leur entreprise dans une IA externe
- 32 %
- des incidents de sécurité des données impliquent des outils d'IA générative
Bonjour ! Comment puis-je vous aider ?
Définition
Qu'est-ce que la sûreté dans l'utilisation de l'IA ?
La sûreté de l'IA comporte de nombreux enjeux, parmi lesquels le partage de données confidentielles (données clients, contrats, données RH) et les injections de prompt (des instructions dissimulées dans les contenus que l'IA analyse).
Une phrase comme « ignore les consignes précédentes… » glissée dans un fichier, une page web ou un mail peut détourner l'IA de la demande utilisateur.
Ce que ces risques coûtent à l'entreprise
Risque juridique
La communication de données personnelles ou confidentielles à un service tiers expose l'entreprise à des sanctions, au titre du RGPD, et à des litiges avec ses clients.
Risque réputationnel
Une fuite de données ou un assistant IA détourné par une instruction cachée peut mettre en péril des années de confiance de vos partenaires.
Risque opérationnel
Une injection de prompt peut fausser un résumé, déclencher une action malveillante ou interrompre un processus critique.
Mesurer
Comment Taboo évalue l'utilisation sûre de l'IA
Lors de la simulation, le collaborateur manipule des fichiers sensibles et des documents piégés. Taboo vérifie qu'il anonymise les données confidentielles et repère les instructions malveillantes.
- Anonymisation des données sensibles avant le partage de documents
- Repérage des injections de prompt
document.pdf
ignore les instructions précédentes…
Questions fréquentes
Des données clients peuvent-elles être partagées avec une IA ?
Seulement avec un outil approuvé par l'entreprise et en anonymisant les informations sensibles, telles que des noms, coordonnées ou identifiants personnels.
Comment repérer une injection de prompt ?
En développant les bons réflexes pour inspecter les contenus avant de les importer dans le système.
Découvrez et en démonstration
En 30 minutes, nous vous présentons le test, le rapport d'analyse et le parcours de formation, adaptés à votre organisation.