Cet article ne traite pas des hallucinations. Il parle d’un risque plus discret : le texte peut paraître parfaitement correct, mais le traitement des données en arrière-plan peut comporter des risques. Pour les organisations de la société civile (OSC), cela a une grande importance. Nous travaillons avec des informations qui ont des conséquences réelles : bénéficiaires, protection des personnes, finances, donateurs, questions liées au personnel, conflits internes et données de sécurité. En d’autres termes, exactement le type de contenu qui ne devrait pas devenir, sans réflexion, un « contexte de conversation » dans un outil que l’on ne maîtrise pas pleinement.
Le but n'est pas de vous faire fuir l'IA. L’objectif est de rendre son utilisation prévisible, afin que votre organisation bénéficie des gains de rapidité, de clarté et d’amélioration des brouillons, sans transformer l’« efficacité » en incident de sécurité des données parfaitement rédigé.
Commencez par une habitude simple et peu engageante pour éviter des problèmes plus sérieux
Quand quelqu'un demande : « Peut-on utiliser l'IA pour ça ? », commencez par poser trois questions qui n'ont rien de très glamour :
1. En cas de fuite, qui serait impacté ?
Pensez aux bénéficiaires, au personnel, aux partenaires, aux donateurs et à la crédibilité de votre organisation.
2. En cas de réponse fausse, qui serait impacté ?
Une mauvaise légende sur les réseaux sociaux est irritante. Une erreur dans les décisions liées aux services, à l’éligibilité, à la protection ou aux finances devient un problème de gouvernance.
3. Peut-on vérifier cela à moindre coût ?
Si la vérification de l'exactitude nécessite l'intervention d'un expert, des documents sources ou un examen juridique, la tâche présente un risque plus élevé qu'il n'y paraît à première vue.
Ces questions sont efficaces, car elles vous obligent à ne plus vous concentrer uniquement sur la tâche à accomplir, mais à réfléchir aussi à ses conséquences. Ce simple changement de perspective permet d'éviter un nombre surprenant d'erreurs pourtant prévisibles.
Parfois, la meilleure précaution est simplement de s’abstenir.
L'IA excelle dans la rédaction, la réécriture, la simplification du langage et la génération de propositions. Elle n'est pas très douée pour assumer ses responsabilités. Cette responsabilité reste la vôtre.
Beaucoup d’organisations cherchent à résumer cela par une formule unique : «Une vérification humaine est requise. » C'est sensé, oui. Non, cela ne suffit pas. Si les données fournies contiennent des données personnelles sensibles, ou si le résultat est susceptible d'influencer des décisions concernant des personnes, une simple vérification ne suffit pas toujours. Parfois, la meilleure précaution consiste à ne pas saisir du tout les données dans l'outil. Ou à repenser le flux de travail pour limiter l’IA à des informations anonymisées et à faible risque.
Les « tâches sans risque » ne sont souvent pas si sûres que ça dans la réalité du quotidien des ONG
Certaines tâches semblent anodines : résumer, traduire, réécrire des e-mails, mettre de l'ordre dans des notes. Dans la pratique, ce sont souvent précisément ces tâches qui laissent passer des données sensibles.
Un compte rendu de réunion peut contenir des noms, des conflits, des informations salariales, des données de santé ou des éléments liés à la protection des personnes. Un e-mail traduit peut contenir des lieux, des identifiants ou des détails contextuels qui permettent toujours d'identifier une personne. Une note de don reformulée peut révéler davantage d’informations sur un bénéficiaire que prévu.
La vraie question n'est donc pas : «Cette tâche est-elle adaptée à l'IA ? » La vraie question est la suivante : Que contiennent les données en entrée, et que deviennent-elles après avoir quitté vos systèmes ?
Le risque lié aux données dans l'IA comporte trois niveaux
Lorsque les organisations abordent la question des risques liés à l'IA, elles se retrouvent souvent bloquées sur une question : « Le fournisseur utilise-t-il nos données pour l’entraînement ? » Cette question est importante, mais elle ne représente qu’un seul des trois niveaux.
Niveau 1 : Utilisation à des fins d’entraînement. Vos prompts et vos résultats seront-ils utilisés pour améliorer le modèle ? Dans les offres entreprise et professionnelles des principaux fournisseurs, les contenus clients ne sont en général pas utilisés pour l’entraînement des modèles par défaut, sauf consentement explicite. OpenAI applique ce principe à ChatGPT Business, Enterprise, Edu, Healthcare, Teachers et à l’API. Anthropic fait de même pour ses produits commerciaux, tels que Claude for Work et l'API. Google affirme que le contenu de Workspace avec Gemini n'est pas utilisé pour l'entraînement de modèles en dehors de votre domaine sans autorisation. Microsoft indique que les données de prompts, les réponses et les données Microsoft Graph dans Microsoft 365 Copilot ne servent pas à l’entraînement des modèles de langage fondamentaux.
Niveau 2 : Conservation et journaux. Même lorsque l’entraînement est désactivé, les contenus peuvent continuer à être conservés pendant une certaine durée à des fins de prévention des abus, de support, de sécurité ou de conformité légale. « Pas d’utilisation pour l’entraînement » ne signifie pas « aucune conservation ». OpenAI, par exemple, distingue l’usage pour l’entraînement des politiques de conservation et des contrôles administratifs dans sa documentation destinée aux offres professionnelles.
Niveau 3 : Chemins d'accès. Qui a accès aux données en fonction des fonctionnalités et de la configuration ? Le partage de liens, les outils d'administration, les journaux d'audit, les applications connectées, les plugins et les agents constituent autant de points d'entrée supplémentaires pour les menaces. Microsoft précise clairement que Copilot n'affiche que les contenus auxquels les utilisateurs ont déjà accès, ce qui semble rassurant jusqu'à ce que l'on se rappelle à quel point la gestion des autorisations est souvent compliquée dans les entreprises.
Offres gratuites, personnelles payantes et entreprise : qu’est-ce qui change concrètement ?
Cette distinction doit apparaître dans toute politique sérieuse d’IA, car on suppose souvent, à tort, que le fait de payer un service garantit son usage en contexte professionnel. Ce n'est pas le cas.
Les formules gratuites ou destinées au grand public conviennent généralement à des usages à faible risque, non sensibles et pouvant être anonymisés. Elles impliquent souvent des contrôles administratifs plus limités, des périmètres de partage plus larges et une supervision organisationnelle réduite. Dans certains cas, les contenus utilisateurs peuvent aussi être utilisés pour l’entraînement, sauf désactivation explicite. Anthropic, par exemple, distingue le traitement des données selon les usages grand public et commerciaux,. OpenAI fait également la distinction entre les formules pour particuliers et les offres destinées aux entreprises.
Il vaut mieux considérer les formules personnelles payantes comme des formules « grand public plus ». Vous pouvez bénéficier de fonctionnalités supplémentaires, de modèles plus rapides ou de moins de restrictions. Vous ne bénéficiez pas automatiquement de la confidentialité d'entreprise, des garanties contractuelles, des contrôles administratifs ou de l'application des politiques. C'est une différence importante.
C'est avec les formules « Business », « Team » ou « Entreprise » que commence une utilisation professionnelle à part entière. Ces produits proposent généralement des politiques de non-utilisation des données pour l’entraînement par défaut, des contrôles administratifs renforcés, une meilleure gestion des accès et un cadre contractuel plus clair pour les exigences de conformité. Mais même dans ce cadre, le service ne rend pas automatiquement une organisation conforme. Il reste nécessaire de mettre en place de la gouvernance, de la minimisation des données et des règles internes adaptées.
Par exemple, même dans un environnement de travail d'entreprise, un collaborateur peut coller des notes de dossier sensibles dans une conversation privée ; des mois plus tard, ce contenu peut encore figurer dans l'historique du compte, être réutilisé hors contexte ou être copié dans un document diffusé à un public plus large que ne l'auraient jamais dû l'être les notes d'origine.
Le processus de décision « Puis-je coller ceci dans une IA ? » en termes simples
Voici le processus de décision le plus court et le plus efficace.
Si les données fournies ne contiennent pas de données à caractère personnel, posez-vous une autre question : sont-elles toujours confidentielles ? Cela inclut la stratégie, les finances, les mesures de sécurité ou les discussions sensibles avec les partenaires. Si oui, utilisez un outil de gestion approuvé et limitez les données saisies au strict minimum. Si non, vous vous trouvez généralement dans une zone à moindre risque : L'IA peut vous aider, et votre tâche principale consiste à vérifier le résultat.
Si les données d'entrée contiennent des données à caractère personnel, n'envisagez d'utiliser l'IA que si votre organisation dispose d'un outil et d'une infrastructure approuvés pour le traitement de ces données — généralement un service professionnel ou d'entreprise assorti de contrats, de contrôles et de règles internes appropriés. À défaut de tels mécanismes, les données personnelles doivent être exclues de tout outil d’IA.
Si les données concernent des catégories particulières, des mineurs, la protection de l'enfance, la santé ou des dossiers sociaux, les exigences sont encore plus strictes : l'IA ne doit être utilisée que dans un environnement sécurisé et expressément approuvé, et uniquement lorsqu'il existe une raison valable de le faire. En vertu du RGPD, la conformité dépend de la base juridique, du contrat, de la configuration et de la finalité du traitement — et non d'un slogan publicitaire ou du fait qu'une personne s'abonne à un service.
Même s'il s'agit de données à caractère personnel « classiques », cela ne signifie pas pour autant qu'elles sont « sécurisées par défaut ». N'utilisez que des outils approuvés, limitez le contenu au strict minimum, masquez les informations sensibles dans la mesure du possible et assurez-vous que l'organisation comprenne bien les modalités contractuelles et techniques.
Quels outils d’IA générative (LLM) peuvent être utilisés de manière conforme au RGPD ?
La conformité au RGPD n'est pas un simple label que l'on obtient en souscrivant à un abonnement. Elle dépend du niveau de l'outil, du contrat, des paramètres, du flux de travail et de la gouvernance propre à votre organisation.
Pourtant, certains outils permettent de se conformer au RGPD de manière plus fiable que les chatbots grand public :
OpenAI – ChatGPT Business / Enterprise / Edu / API
Entraînement : non par défaut pour les produits professionnels
Utilisation conforme au RGPD : oui, lorsqu’il est utilisé sur des offres entreprise avec des contrôles administratifs appropriés, une gestion de la conservation des données et des garanties contractuelles adéquates
Microsoft – Microsoft 365 Copilot
Entraînement : non pour les prompts, les réponses et les données Microsoft Graph
Utilisation conforme au RGPD : oui, au sein d'un tenant Microsoft 365 correctement géré, doté de permissions et de contrôles de conformité
Google Workspace avec Gemini
Entraînement : pas hors de votre domaine sans autorisation ; les protections de Workspace s'appliquent
Utilisation conforme au RGPD : oui, dans un environnement Workspace correctement géré avec des contrôles administratifs et une gouvernance interne
Anthropic – Claude for Work / API
Entraînement : non par défaut pour les produits commerciaux
Utilisation conforme au RGPD : oui, sur les niveaux commerciaux avec des règles organisationnelles claires concernant la conservation, l'accès et le partage des retours
Le point critique : connecteurs, extensions et agents
Dès qu'un outil d'IA peut accéder à votre Drive, à votre messagerie, à Teams, à SharePoint ou à vos systèmes de gestion de projets, le profil de risque change. Vous ne vous contentez plus de gérer ce que quelqu'un a copié-collé dans une ligne de commande. Vous contrôlez ce à quoi l'outil peut accéder, ce qu'il peut récupérer, afficher et, éventuellement, divulguer.
C'est aussi là que les erreurs en matière d'autorisations peuvent coûter cher. Microsoft et Google soulignent tous deux que la sécurité des entreprises dépend de la configuration adéquate des autorisations existantes et des contrôles administratifs. Si vos fichiers sont en désordre, l'IA ne pourra pas les remettre en ordre par la seule force de son optimisme.
Il existe également ce qu'on appelle le « prompt injection » : des instructions dissimulées dans un document ou une page web peuvent influencer le comportement de l'IA. En clair, l'outil peut être induit en erreur par le document qu'il analyse.
Votre organisation a besoin d'un code de conduite en matière d'IA
Si vous souhaitez que l'utilisation responsable de l'IA ne se limite pas à quelques personnes prudentes, vous avez besoin d'un code interne en matière d'IA. Pas d’un pavé de cinquante pages qui constitue un monument à la bureaucratie. D’un document pratique que les gens utiliseront réellement.
Il doit définir quels outils sont approuvés et lesquels ne le sont pas, quels types de données peuvent ou non être utilisés avec l’IA, comment fonctionne la suppression ou l’anonymisation des données sensibles, quel niveau de revue humaine est requis, comment sont gérés les connecteurs et les agents, quoi faire en cas d’incident, et à quelle fréquence les règles sont révisées.
C’est de la gouvernance ennuyeuse. Parfait. La gouvernance ennuyeuse, c’est ce qui évite qu’une même erreur prévisible se reproduise douze fois, sous douze variantes différentes.
Une IA sûre, ce sont surtout des habitudes constantes et prévisibles.
L'IA peut véritablement aider les ONG, mais elle n’assume pas les conséquences d’un usage inapproprié. C’est votre organisation qui les supporte.
C’est pourquoi l’usage sûr de l’IA dépend rarement de prompts sophistiqués ou de réglages miraculeux. C'est avant tout une question d'habitudes : limitez au maximum ce que vous partagez, choisissez des outils adaptés au niveau de risque, contrôlez les accès, vérifiez la conformité au RGPD de l'IA que vous utilisez, assurez-vous de ce qui est essentiel et consignez les règles par écrit afin qu'elles perdurent malgré le renouvellement du personnel.
Et en cas de doute, gardez ce principe à l'esprit : réduisez la sensibilité des données d'entrée, plutôt que de rendre l'outil plus « magique ».
Votre avis compte
Que pensez-vous de ce texte ? Prenez 30 secondes pour nous faire part de vos commentaires et nous aider à créer un contenu utile pour la société civile !
Mentions légales
Ce document a été élaboré dans le cadre de l'initiative L’IA au service du changement social au sein du Digital Activism Program de TechSoup, avec le soutien de Google.org.
L'auteur a utilisé l'IA pour créer ce contenu. Toutefois, l'intégralité de cet article a été conçue, révisée et vérifiée par l'auteur et l'équipe de TechSoup.
Les outils d'IA évoluent rapidement, et bien que nous fassions tout notre possible pour garantir la fiabilité des informations que nous fournissons, il peut arriver que certains éléments ne soient plus à jour. Si vous constatez qu'une information n'est plus à jour, merci de nous le signaler à l'adresse contact@hive-mind.community