Avant de vous plonger dans cette partie, assurez-vous d'avoir lu l'article sur Comment les OSC peuvent jouer un rôle moteur dans le développement d'une IA responsable, https://en.hive-mind.community/blog/1168,creating-your-csos-responsible-ai-principles-a-practical-guideintroduction à ce guide pratiquehttps://en.hive-mind.community/blog/1168,creating-your-csos-responsible-ai-principles-a-practical-guide, Partie 1 : REGARDER - Préparer le terrain, et Partie 2 : CRÉER - Identifier et définir vos principes, Partie 3 : Mettre en pratique, et Partie 4 : CRÉER - Définir les responsabilités en matière de gouvernance de l'IA pour les OSC
Dans certaines organisations, la politique en matière d'IA commence par un contrôle de type « feux tricolores » que n'importe quel membre de l'équipe peut effectuer en moins de 60 secondes. Dans d’autres, cette politique repose sur un principe intitulé « Ne pas se laisser guider par la machine », une expression proposée directement par un membre de l'équipe lors d'un atelier. Les gens y font sans cesse référence, non pas parce qu'on leur a demandé de le faire, mais parce qu'ils s'y reconnaissent.
Comparez cela à une situation bien plus courante : on demande à quelqu'un de « rédiger la politique », et trois mois plus tard, un document de 20 pages se retrouve sur un disque partagé que personne n'ouvre.
La différence ? Les deux premières politiques ont été rédigées avec les personnes. La troisième a été écrite à leur sujet.
Cet article, le troisième de la série « Feuille de route pour une IA responsable pour les OSC », examine comment les organisations de la société civile (OSC) peuvent élaborer des politiques en matière d'IA qui soient réellement mises en pratique par leurs équipes. Non pas des documents de conformité qui prennent la poussière, mais des enregistrements vivants d’accords partagés.
Ce qu’est réellement une politique en matière d’IA (et ce qu’elle n’est pas)
Une politique en matière d'IA n'est pas un document juridique imposé par la hiérarchie. Il s'agit de la version écrite des accords collaboratifs qu'une organisation a mis en place au cours des premières étapes de cette feuille de route.
La progression est naturelle : Dans l'article 1, les tensions sont devenues des principes, les valeurs qui sous-tendent chaque décision en matière d’IA. Dans l'article 2, ces principes ont trouvé leur place au sein de l’organe de gouvernance — l’Arbre —, c’est-à-dire les personnes qui animent le dialogue permanent. À présent, la première tâche majeure de l'Arbre consiste à consigner les accords qui régissent l'utilisation quotidienne de l'IA. Cette politique consiste simplement à consigner ces accords par écrit dans un langage que toute l'équipe puisse mettre en pratique.
Et si une organisation n'a pas encore franchi ces premières étapes ? Commencer par une discussion sur la politique reste une bonne idée. Dans la pratique, cela met naturellement en évidence les principes et les questions de gouvernance qui doivent être abordés, mais dans un ordre différent.
Dans la méthodologie REGARDER → CRÉER → CONSTRUIRE présentée dans l'article 1, l'élaboration de la politique constitue la dernière étape de la phase CRÉER ; il s'agit de consigner les accords par écrit avant de passer à la phase CONSTRUIRE, où l'évaluation des risques permet de mettre ces accords en œuvre.
Une distinction utile :
Les principes reflètent nos convictions.
La gouvernance détermine qui mène le dialogue.
La politique définit ce que nous sommes convenus de faire.
Ce cadrage est important car il modifie la charge émotionnelle associée à l'expression « rédiger une politique ». Il ne s'agit pas d'inventer des règles. Il s'agit de consigner les décisions que l'équipe a déjà prises ensemble.
Remarque importante concernant le champ d'application : La plupart des organisations commencent par élaborer une politique en matière d'IA axée sur l'utilisation de l'IA générative, avec des directives pratiques concernant des outils tels que ChatGPT, les services de traduction ou les générateurs d'images. C'est un point de départ valable et judicieux. À mesure qu'une organisation mûrit et commence à réaliser des évaluations des risques (traitées dans l'article 4), les conclusions de ces évaluations sont naturellement intégrées à la politique, qui s'enrichit ainsi pour devenir un document de gouvernance plus complet. Commencer par l’usage de l’IA générative n’est pas « se tromper », c’est simplement procéder dans le bon ordre.
Pourquoi est-ce important aujourd'hui ?
Deux réalités rendent cette tâche urgente pour les organisations de la société civile.
1)Le problème de l'IA fantôme. En l'absence d'accords clairs et accessibles, les gens prennent des décisions de manière isolée, exactement comme dans le scénario qui ouvrait l'article 2 de cette série. Dans les organisations qui ont mené un processus de diagnostic, l'un des constats les plus fréquents est que des outils d'IA sont utilisés par l'ensemble de l'équipe sans qu'il n'y ait jamais eu de discussion formelle à ce sujet. Ce n'est pas un échec individuel ; c'est un manque de clarté. La politique rend visible ce qui est invisible, non pas pour punir, mais pour créer un terrain d'entente.
Les risques sont bien réels : un bénévole copie-collé les données d’un bénéficiaire dans un outil d’IA gratuit sans se rendre compte que ces données peuvent être utilisées pour l’entraînement du modèle ; un rapport destiné à un bailleur de fonds est envoyé avec des statistiques inventées par l’IA que personne n’a vérifiées ; un document juridique traduit par l’IA comporte une erreur sur un point essentiel. Il ne s'agit pas d'hypothèses, mais bien de situations auxquelles les OSC sont déjà confrontées.
2) Le problème de la confiance. Les OSC détiennent des informations particulièrement sensibles : récits de bénéficiaires, détails de dossiers, relations avec les donateurs et confiance des communautés patiemment construite au fil des années. C’est une politique comprise et portée par l’ensemble de l’équipe qui permet de préserver cette confiance. Non pas un document figé relégué dans une armoire ou un répertoire, mais un cadre de référence vivant auquel chacun peut se référer lorsqu’une situation soulève des questions ou des incertitudes.
Qui l’élabore (et comment) ?
L'organe de gouvernance (l’« Arbre ») dirige le processus, mais la politique doit refléter la vision de ceux qui devront la mettre en pratique au quotidien. Dans une petite équipe, il arrive que l'ensemble du personnel soit présent lors de la discussion sur la politique, ce qui constitue en réalité un avantage. Moins de niveaux hiérarchiques permet un alignement plus rapide et renforce le sentiment d'appropriation.
Dans la pratique, deux approches s'avèrent généralement efficaces.
L'approche consistant à traduire un manifeste en mesures concrètes fonctionne lorsqu'une organisation a déjà énoncé ses principes dans un document destiné au grand public. L'organe de gouvernance traduit ces principes en directives pratiques pour le quotidien, avec un système de feux tricolores, des règles de conduite et des canaux de signalement des incidents ; l'ensemble de l'équipe examine ensuite le projet et l'affine. La politique d’IA responsable de ChangemakerXchange est un excellent exemple concret de cette approche.
1) L'approche de co-création guidée s'avère efficace lorsque la politique doit être élaborée à partir de zéro. Le processus comprend généralement une séance de diagnostic visant à dresser un état des lieux de l'utilisation actuelle de l'IA et du cadre réglementaire, un atelier sur les principes au cours duquel un petit groupe représentant différents rôles met en avant les attentes, les craintes et les points non négociables, ainsi qu'un atelier de co-création destiné à valider ensemble le projet.
Ces deux approches ont en commun un choix conceptuel essentiel : utiliser, dans le document final, les propres termes et formulations des participants. Lorsqu’une expression employée par un membre de l’équipe devient le nom d’un principe ou d’une règle, la politique cesse d’être un « document de la direction » pour devenir un document que l’équipe s’approprie. Les gens adhèrent plus facilement aux accords qu’ils ont contribué à façonner.
Quelques personnes motivées peuvent permettre d'élaborer une première version solide, mais il ne faut pas s'arrêter là. Diffuser largement le projet pour recueillir des commentaires et profiter des sessions de formation pour soulever des questions et mettre en évidence les lacunes permet d'élargir délibérément le cercle de consultation avant que la politique ne soit définitivement adoptée. Plus les contributions sont variées, moins le document final comporte de lacunes.
Cette tendance se vérifie quelle que soit la taille : Mettez en avant ce qui compte. Construisez les accords collectivement. Formulez-les dans un langage compréhensible par toute l'équipe. C'est l'organe de gouvernance (l’« Arbre ») qui dirige ce processus, mais la contribution de toute l'équipe doit transparaître dans le document.
De quoi est-il composé ? Les éléments essentiels
Plutôt que d'énumérer une douzaine de points, la meilleure façon d'aborder le contenu d'une politique consiste à se pencher sur les trois questions que chaque membre de l'équipe se posera.
1) « Puis-je utiliser cet outil ? » — le système des feux tricolores
Les organisations qui ont mis en place des politiques efficaces en matière d'IA adoptent systématiquement une forme ou une autre du système des feux tricolores. Ce système fonctionne car il remplace la paralysie due à l'incertitude par une vérification simple et concrète :
🔴 Feu rouge (interdit) : Limites non négociables découlant directement des principes.
Par exemple : On n’entre jamais de données confidentielles dans des modèles d'IA publics. L'IA ne prend jamais de décisions importantes concernant des personnes sans vérification par un être humain. Les témoignages personnels sensibles (tels que ceux de demandeurs d'asile, de survivants ou de personnes en situation de crise) ne sont jamais traités via des outils publics. Ce sont les limites absolues de l'organisation, qu'il ne faut en aucun cas franchir.
🟡 Feu orange (à vérifier) : C'est là que la gouvernance s'exerce concrètement.
Par exemple : Réservé aux décisions à enjeux élevés , aux nouveaux outils n'ayant pas encore fait leurs preuves et aux données sensibles dans tout contexte d'IA. Cela nécessite de consulter l'organe de gouvernance avant de poursuivre. Orange ne signifie pas « non », mais « vérifions ensemble ».
🟢 Feu vert (autorisé) : Utilisations autorisées dans le cadre des lignes directrices établies qui permettent aux personnes d'agir en toute confiance sans avoir à demander d'autorisation pour les tâches courantes. Par exemple : utiliser un outil d'IA agréé pour rédiger une première version d'une lettre d'information destinée au public, ou générer une liste de questions de discussion pour un atelier communautaire en utilisant uniquement des informations non sensibles et accessibles au public. Bien sûr, cela dépendra des accords conclus en interne.
Une nuance essentielle : Le système des feux tricolores s'applique à la combinaison outil + cas d'utilisation + sensibilité des données, et non à l'outil seul. Ce même outil peut être vert pour la rédaction d'un article de blog public et rouge pour la synthèse de notes de dossier confidentielles. Tous ces détails dépendent de chaque organisation !
2) « Quelles sont les règles de conduite ? » — Conseils d'utilisation au quotidien
Au-delà du système des feux tricolores, chaque politique peut comporter des accords de base qui s'appliquent à toutes les utilisations de l'IA, y compris celles relevant du feu vert. Ce ne sont que des points de départ. Chaque organisation élaborera des règles qui reflètent ses propres principes et méthodes de travail.
Vérifiez tout. Les contenus générés par l’IA peuvent être erronés ou entièrement inventés. Considérez chaque résultat comme une première ébauche et non comme une version définitive.
Protégez les données. Considérez toute information saisie dans un outil d’IA externe comme si elle était destinée à être rendue publique. Anonymisez les données sensibles.
Préservez l'authenticité. Assurez-vous que les contenus générés par l’IA reflètent bien la voix de l'organisation. CXC appelle cela se prémunir contre les contenus IA de faible qualité (« AI slop »)
Faites preuve de transparence. Indiquez l'utilisation de l'IA lorsque celle-ci a influencé le contenu de manière significative, en particulier dans les communications externes ou les évaluations.
Faites preuve de mesure. Tous les e-mails ne nécessitent pas un brouillon généré par IA. Demandez-vous si la tâche justifie l'utilisation de cet outil.
3) « Et si quelque chose tourne mal ? » — Le processus d'apprentissage
Une politique n'est pas complète sans une ligne de conduite claire en cas de problème, qui se résume ainsi : « signalez, ne cachez pas ». Une personne ou un canal clairement identifié pour les signalements, des indications sur les informations utiles à fournir, et un engagement vers l’apprentissage plutôt que la sanction. Quel que soit le format adapté à la culture d’entreprise (fil de discussion, adresse e-mail dédiée, responsable nommé), l’essentiel est qu’il existe et que tout le monde en ait connaissance.
Éléments structurels
Autour de ces trois questions fondamentales, plusieurs éléments structurels assurent la cohésion de la politique : un champ d'application clair (à qui s'applique la politique), le cadre de gouvernance (qui est responsable de la politique), l'inventaire des outils d’IA (la liste évolutive des outils mentionnée à l'article 1) et un engagement en matière de révision (quand et comment les mises à jour sont effectuées).
Il y a en outre un dernier élément qu'on a tendance à oublier : la formation. Une politique sur laquelle personne n'a reçu d'explications détaillées est une politique qui ne sera pas respectée. Cela ne nécessite pas de programmes complexes : une session d’équipe de 30 minutes pour expliquer le système des feux tricolores, parcourir des situations concrètes et répondre aux questions peut suffire. Par exemple, un membre de l'équipe de terrain peut être choisi pour former ses pairs, quelqu'un qui connaît bien la réalité quotidienne du travail. Le format doit être adapté à la culture d'entreprise : réunion d'équipe, courte vidéo, fiche de référence d'une page ou guides pratiques basés sur des scénarios. L'objectif est que tout le monde connaisse les limites à ne pas franchir, comprenne le système des feux tricolores et sache à qui s'adresser en cas de questions.
Une politique qui évolue : de la première version à un système vivant
Le plus important avec la première version, c'est qu'elle existe.
Les organisations qui considèrent leurs politiques d’IA comme des documents vivants mettent en place des mécanismes d’évolution spécifiques : des révisions planifiées tous les six mois, des déclencheurs lors de l’adoption d’un nouvel outil ou à la suite d’un incident significatif, ainsi que des boucles de retour d’expérience où les consultations de « feu orange » et les échanges de formation font continuellement remonter les points à clarifier.
Cette évolution est tout à fait naturelle. La première version est axée sur l'utilisation de l'IA générative. À mesure que l’organisation commence à réaliser des évaluations des risques (Article 4), les résultats de ces analyses viennent alimenter la politique : les situations de « feu orange » sont examinées à travers les évaluations d’impact, des stratégies d’atténuation émergent et de nouveaux garde-fous sont ajoutés. Le document s'étoffe à mesure que l'équipe approfondit sa compréhension, et non parce que quelqu'un a décidé de le rallonger.
Invitation à commencer
Les principes sont définis. L'Arbre a été désigné. La politique ne fait que mettre par écrit ce qui a déjà été convenu et permet à toute l'équipe d'y voir plus clair afin d'agir en toute confiance.
Commencez par les lignes rouges. Construisez le système des feux tricolores autour d’elles. La première version n'a pas besoin d'être exhaustive ; elle doit être sincère, collaborative et utile. Le reste évoluera naturellement.
Le guide complémentaire « Guide pratique pour élaborer votre politique en matière d'IA » fournit un modèle complet : des questions guides pour chaque section, des exemples de texte à adapter et une méthode pour y travailler en équipe.
Article suivant de cette série : Les scénarios de « feu orange » de la politique constituent précisément le point de départ de l'évaluation des risques. Le prochain article examinera comment analyser ces cas de manière plus approfondie, évaluer les risques potentiels et mettre en place des garde-fous qui seront intégrés dans les futures versions de la politique.
Cet article fait partie de la série intitulée « Feuille de route pour une IA responsable pour les OSC », élaborée dans le cadre de l’initiative L'IA au service du changement social du Digital Activism Program de TechSoup, avec le soutien de Google.org. Toutes les ressources sont publiées sous la licence Creative Commons Attribution 4.0 International.
Votre avis compte
Que pensez-vous de ce texte ? Prenez 30 secondes pour nous faire part de vos commentaires et nous aider à créer un contenu utile pour la société civile !
Mentions légales
Ce document a été élaboré dans le cadre de l'initiative L’IA au service du changement social au sein du Digital Activism Program de TechSoup, avec le soutien de Google.org.
L'auteur a utilisé l'IA pour créer ce contenu. Toutefois, l'intégralité de cet article a été conçue, révisée et vérifiée par l'auteur et l'équipe de TechSoup.
Les outils d'IA évoluent rapidement, et bien que nous fassions tout notre possible pour garantir la fiabilité des informations que nous fournissons, il peut arriver que certains éléments ne soient plus à jour. Si vous constatez qu'une information n'est plus à jour, merci de nous le signaler à l'adresse contact@hive-mind.community
A propos de l'auteur
Ayşegül Güzel est une architecte en gouvernance de l'IA responsable qui aide les organisations axées sur une mission à transformer l'anxiété liée à l'IA en systèmes dignes de confiance. Sa carrière combine le leadership social exécutif — notamment en tant que fondatrice de Zumbara, le plus grand réseau mondial de banques de temps — et la pratique technique de l’IA, en tant qu’auditrice certifiée en IA et ancienne data scientist. Elle guide les organisations à travers des transformations complètes de la gouvernance de l'IA et réalise des audits techniques en IA. Elle enseigne à ELISAVA et intervient à l’international sur les approches centrées sur l’humain dans la technologie. Pour en savoir plus, consultez le site https://aysegulguzel.info ou abonnez-vous à sa lettre d'information AI of Your Choice à l'adresse https://aysegulguzel.substack.com