Avant de vous plonger dans cette partie, assurez-vous d'avoir lu l'article sur Comment les OSC peuvent jouer un rôle moteur dans le développement d'une IA responsable, introduction à ce guide pratique, Partie 1 : REGARDER - Préparer le terrain, et Partie 2 : CRÉER - Identifier et définir vos principes, et Partie 3 : Mettre en pratique
Une responsable de programme au sein d'une association environnementale à but non lucratif de taille moyenne a demandé à sa collègue : « Est-ce que je peux utiliser ChatGPT pour rédiger nos communications destinées aux bénéficiaires ? »
La collègue a haussé les épaules. « Je crois que oui. Tu n’as qu’à demander au service informatique ? »
Le service informatique a répondu : « Ce n'est pas vraiment à nous de décider. Demandez à la direction. »
La direction a déclaré : « Il faudrait sans doute mettre en place une politique à ce sujet. Pourriez-vous vous en occuper ? »
La responsable de programme est retournée à son bureau. Elle avait du travail à faire. Elle a quand même utilisé ChatGPT.
C'est là que la gouvernance de l'IA échoue, non pas à cause de principes erronés, mais en raison d'un manque de clarté quant aux responsabilités.
Si vous avez suivi le premier article de cette série, vous avez accompli un travail significatif. Vous avez réuni votre équipe, mis en lumière les tensions et défini les principes qui guideront votre organisation dans son parcours avec l'IA. Peut-être même sont-ils consignés par écrit, partagés, mis à l'honneur.
Et maintenant ? Vous avez terminé la phase REGARDER et vous passez maintenant à CRÉER, l'espace collaboratif où les principes prennent forme.
Pourquoi la responsabilité est importante, et pourquoi maintenant
L'adoption de l'IA dans la société civile s'accélère à un rythme que les structures de gouvernance ne parviennent pas à suivre. Les membres de votre équipe utilisent déjà des outils d'IA, dont certains vous sont connus, mais beaucoup d'autres vous échappent. Chaque jour où la responsabilité n'est pas clairement définie est un jour marqué par des décisions incohérentes, des risques croissants et des principes laissés sans gardien.
Voici une vérité qui dérange : « Tout le monde est responsable » signifie que personne n'est responsable.
Votre gouvernance est déjà menacée si :
Votre document de principes ne désigne aucun responsable
Les équipes utilisent souvent l'expression « Je suppose que quelqu'un a validé cela »
Personne ne sait à qui s'adresser lorsqu'il se retrouve face à une situation ambiguë
Les différents programmes prennent des décisions contradictoires en matière d'IA
Pour les OSC disposant de ressources limitées, cette ambiguïté est particulièrement coûteuse. Vous ne pouvez pas vous permettre de multiplier les efforts redondants, d'envoyer des messages contradictoires aux communautés ou de nuire à votre réputation à cause d'un incident lié à l'IA. La clarté n'est pas synonyme de bureaucratie, c'est une question de survie.
Gouvernance et principes : deux réflexions menées en parallèle
Voici ce que j'ai appris en accompagnant des organisations dans ce processus : n'attendez pas que vos principes soient « finalisés » pour désigner les personnes qui en seront les garants.
La réflexion sur la gouvernance doit avoir lieu parallèlement à la définition de vos principes, et non après. Pourquoi ? Parce que les personnes qui seront chargées de votre gouvernance de l’IA doivent participer à l'élaboration de ces principes. Elles doivent comprendre les tensions, les compromis et les raisons qui sous-tendent chaque engagement.
Une organisation peut passer des mois à élaborer de beaux principes, pour ensuite se retrouver en difficulté au moment de rédiger sa politique. Sans responsables désignés, personne n'est là pour faire avancer le processus.
Désigner dès le départ votre instance de gouvernance, même à titre provisoire, permet de commencer immédiatement à exercer cette responsabilité : faciliter la réflexion sur les principes, recueillir les contributions et renforcer progressivement les réflexes de prise de décision collaborative. Au moment où la politique peut être rédigée, l'équipe a déjà établi la confiance et les rythmes de travail nécessaires pour la mettre en œuvre.
À quoi ressemble la responsabilité : l'Arbre qui mène la discussion
Imaginez un arbre sur la place d'un village. Les gens s'y rassemblent. C'est à son ombre que les conversations s'engagent. Il ne dit rien, mais il offre un cadre où l'on aborde les sujets importants.
C’est à cela que ressemble la prise en charge de la gouvernance de l'IA : « l’Arbre », c’est ce petit groupe de personnes qui veille à ce qu’un dialogue permanent sur l’IA puisse se tenir au sein de l’organisation. Elles ne s'occupent pas de tout ce qui touche à l'IA. Elles ne prennent pas toutes les décisions seules. Elles sont le cadre, le point d'ancrage, cette présence stable qui permet à la discussion de se poursuivre. Le rôle de l'Arbre est de veiller, pas de contrôler.
Dans la pratique, « l'Arbre » :
Est le premier endroit où les gens se rendent lorsqu'ils ont des questions ou des préoccupations concernant l'IA, une véritable « porte d'entrée » qui n'existait pas auparavant
Recueille des informations au sein de toute l'organisation sur ce qui fonctionne, ce qui prête à confusion et ce qui comporte des risques
Veille à ce que les engagements pris dans vos principes soient réellement respectés, non seulement au moment du lancement, mais aussi de manière continue
Crée un espace propice au dialogue continu, afin que l'IA ne devienne pas un sujet que l'on évite ou que l'on gère seul
Fait le lien entre l'utilisation de l'IA par différentes équipes et repère des tendances qu'aucune équipe ne pourrait détecter seule
Conserve la mémoire institutionnelle des décisions passées et de leur justification, afin de ne pas repartir de zéro à chaque fois
À quoi cela ressemble-t-il dans les différentes organisations ? Les organisations qui réussissent leur gouvernance de l’IA n’ajoutent pas de processus externes : elles intègrent la responsabilité dans leurs pratiques existantes.
La Khan Academy montre comment la gouvernance s'intègre dans les rythmes existants. Un comité de pilotage de l’IA responsable, réunissant des responsables produit, data et recherche utilisateur, assure l’alignement stratégique. Un groupe de travail élargi sur l’IA responsable évalue les capacités à venir et suit les fonctionnalités déployées. Il intègre l’évaluation dans la conception des produits, analyse les fonctionnalités à travers des démonstrations et des boucles de retour d’expérience, et maintient une communication continue avec les parties prenantes. Pour eux, la gouvernance de l’IA s’inscrit naturellement dans leurs modes de travail, simplement appliqués à un nouveau domaine.
ChangemakerXchange (CXC), réseau mondial d'entrepreneurs sociaux, propose un modèle adapté aux petites organisations. Leur cercle de gouvernance de l’IA, une petite équipe dédiée, veille au respect de leur manifeste et de leur politique d’IA responsable. Au quotidien, les membres du cercle sont les premiers interlocuteurs lorsqu’un membre de l'équipe a une question ou une préoccupation concernant l'IA. Ce sont eux qui collectent les retours d’expérience : ce qui marche, ce qui crée de la confusion, et les zones d’incertitude. Ils veillent à ce que l'équipe reste fidèle à ses principes, non seulement en théorie, mais aussi dans la pratique quotidienne.
Plus précisément, le cercle procède à des mises à jour des documents deux fois par an, supervise les évaluations d'impact des nouveaux outils et des nouveaux processus, et soumet les décisions importantes ou controversées à l'ensemble de l'équipe. Il convient de noter que ce cercle peut inclure un membre de la communauté ou un expert externe en IA, ce qui permet d'apporter un regard extérieur à la gouvernance.
Ces deux exemples mettent en lumière un point essentiel : la gouvernance doit s'apparenter à une greffe, et non à une transplantation. Vos processus décisionnels, vos modes de communication et vos structures d'équipe actuels constituent la base. Avant de concevoir quoi que ce soit de nouveau, posez-vous la question suivante : Comment prenons-nous les décisions importantes ici ?
Une erreur fatale consiste à imposer une structure de gouvernance qui ne correspond pas à votre culture d’entreprise. Elle sera rejetée comme un organe étranger. Cherchez plutôt où l'IA s'intègre naturellement dans ce qui fonctionne déjà.
Différents modèles de responsabilité
Il n'y a pas de structure « idéale » en soi. Le modèle le plus adapté dépend de la taille de votre organisation, de sa complexité, de son niveau de maturité en matière d'IA et, surtout, de votre culture d'entreprise.
Duo : Un partenariat entre au moins deux personnes, idéalement une personne à l'aise avec les aspects techniques et une autre qui adhère pleinement à votre mission et à vos valeurs. Ensemble, ils se demandent à la fois « Est-ce qu'on peut le faire ? » et « Est-ce qu'on doit le faire ? » Le duo permet de ne pas porter cette responsabilité seul. Particulièrement adapté aux petites organisations et aux premières phases d’adoption de l’IA.
Cercle : Un groupe pluridisciplinaire composé de 3 à 7 personnes représentant les programmes, les opérations, la communication et la direction. Tout comme le « cercle de gouvernance » de CXC, il se réunit régulièrement et chaque fois que des décisions importantes doivent être prises. Pensez à inclure des représentants de la communauté. Particulièrement adapté aux organisations de taille moyenne qui utilisent l'IA dans plusieurs programmes.
Modèle en étoile : Un point de coordination central qui fournit des orientations et des normes, tandis que la responsabilité de la mise en œuvre incombe à chaque équipe. Ce centre donne aux équipes les moyens de prendre elles-mêmes les bonnes décisions. Particulièrement adapté aux grandes organisations dotées de structures fédérées.
Commencez par le modèle le plus simple qui reflète votre façon de travailler au quotidien. Vous pouvez toujours ajouter de la complexité plus tard.
La collaboration et les conditions nécessaires à son bon fonctionnement
S'il y a une chose qui ressort clairement des pratiques en matière d'IA responsable, c'est bien celle-ci : la collaboration est le modèle opérationnel indispensable à une innovation responsable.
L'IA touche à tout : données, programmes, communications, relations avec les communautés. Personne ne dispose à lui seul de toutes les compétences nécessaires pour s'y retrouver. Si une seule personne est chargée à elle seule de la gouvernance de l'IA, elle finira par s'épuiser, deviendra un goulot d'étranglement ou prendra des décisions sans pouvoir s'appuyer sur la diversité des points de vue qu'exige une IA responsable.
Un outil simple permet de rendre la collaboration concrète pour les tâches qui nécessitent réellement plusieurs perspectives, comme l’approbation d’un nouvel outil ou l’élaboration d’une politique. Fixez qui est responsable (réalise le travail), qui est décideur (prend la décision finale), qui est consulté (apporte une contribution essentielle) et qui est informé (est tenu au courant).
La collaboration implique que plusieurs personnes puissent être responsables (réalisation du travail) et consultées (apport de contributions essentielles). Mais le décideur, c’est-à-dire celui qui prend la décision finale, doit être une seule personne. Lorsque la responsabilité de la décision est partagée, elle disparaît. Personne ne veut prendre la décision, alors personne ne la prend. Le fait d'avoir une seule personne qui décide n'est pas une question de hiérarchie ; il s'agit de garantir que les décisions soient réellement prises.
Par exemple, lors de la validation d'un nouvel outil d'IA destiné à la communication avec la communauté, les rôles au sein de l'équipe seraient répartis comme suit :
Décideur : Le responsable de votre cercle de gouvernance
Responsable : L'équipe programme qui a demandé l'outil, un membre de l'équipe technique
Consultés : Les représentants de la communauté, le service juridique/conformité, le cas échéant
Informés : La direction, l’ensemble du personnel
Remarquez que la consultation de la communauté est intégrée dès le départ, non pas comme un élément ajouté après coup, mais comme une contribution essentielle.
Cependant, la collaboration ne fonctionne que dans un environnement propice. Pour reprendre la métaphore, votre Arbre a besoin d'un sol adapté pour pousser :
Des espaces sécurisants et la sécurité psychologique. Tout le monde, à tous les niveaux, doit se sentir véritablement en sécurité pour s'exprimer sur les risques liés à l'IA, les biais potentiels ou les questions éthiques, sans craindre de représailles. Ce sont souvent les préoccupations dont on ne parle pas qui comptent le plus.
Une écoute attentive et un dialogue ouvert à tous. Les organes de gouvernance ne peuvent pas fonctionner en vase clos. Ils doivent rechercher activement et valoriser des points de vue variés, qu'ils soient techniques ou non, internes ou externes. Cela inclut les communautés bénéficiaires, dont l'expérience vécue constitue une source d'informations irremplaçable.
Une résolution constructive des conflits. Les débats sur l'éthique de l'IA impliquent par nature des points de vue divergents et de véritables compromis. Il est essentiel de savoir gérer les désaccords de manière constructive, en recherchant un terrain d'entente ou en prenant des décisions transparentes et fondées sur des principes.
Un changement encouragé à tous les niveaux. Une gouvernance efficace de l'IA ne se résume pas à une politique imposée par la hiérarchie ; c'est un catalyseur d'évolution culturelle qui favorise la réflexion critique sur la technologie et une meilleure collaboration entre les équipes.
Concrétiser le projet : la charte
Une charte n'est pas une formalité administrative. C'est le document unique qui donne des racines à votre Arbre ; il en définit le but, les pouvoirs et le fonctionnement.
Votre charte doit répondre à cinq questions :
Pourquoi existons-nous ? (votre raison d’être)
Qu’allons-nous faire ? (principales responsabilités, et ce que vous n'aurez pas à faire)
Qui sommes-nous ? (composition, sélection, durée des mandats)
Comment prenons-nous nos décisions ? (procédure de prise de décision et d'escalade)
Comment les gens travaillent-ils avec nous ? (le point de contact pour toute question)
Le modèle d’accompagnement fournit un cadre de charte prêt à être adapté. Mais n'oubliez pas : ce modèle est une source d'inspiration, pas une règle à suivre à la lettre. Le véritable objectif est d'apporter des réponses à ces questions d'une manière qui corresponde à la culture propre à l'OSC.
Invitation à ancrer vos principes
Les principes de l'organisation en matière d'IA sont le fruit d'un travail concret : des échanges francs, des tensions mises au jour, des engagements communs. Ils méritent mieux qu'un simple document. Ils méritent un espace vivant.
Identifiez l'Arbre. Il peut s'agir d'un duo prêt à avoir cette discussion ensemble. Il peut s'agir d'un petit cercle de collègues de confiance. Nommez-les dès maintenant, avant même que vos principes ne vous semblent « finalisés ». Qu'ils s'approprient ce rôle en s'exerçant à la gouvernance à travers le processus d'élaboration de la politique à venir.
Les principes n'attendent plus qu'à être mis en pratique. Donnez-leur un Arbre sous lequel grandir, et des gens pour en prendre soin ensemble.
Ressource complémentaire : Concrétiser le projet : un modèle de charte pour vous aider à structurer votre réflexion
N'oubliez pas de poursuivre le guide avec Partie 5 : Comment les OSC peuvent élaborer des politiques en matière d'IA qui soient réellement applicables, pour en savoir plus sur le processus d'élaboration des règles en matière d'IA et Partie 6 : Comment les OSC peuvent évaluer les risques liés à l'IA avant que des dommages ne surviennent, pour savoir comment faire face aux risques liés à l'IA.
Votre avis compte
Que pensez-vous de ce texte ? Prenez 30 secondes pour nous faire part de vos commentaires et nous aider à créer un contenu utile pour la société civile !
Mentions légales
Ce document a été élaboré dans le cadre de l'initiative L’IA au service du changement social au sein du Digital Activism Program de TechSoup, avec le soutien de Google.org.
L'auteur a utilisé l'IA pour créer ce contenu. Toutefois, l'intégralité de cet article a été conçue, révisée et vérifiée par l'auteur et l'équipe de TechSoup.
Les outils d'IA évoluent rapidement, et bien que nous fassions tout notre possible pour garantir la fiabilité des informations que nous fournissons, il peut arriver que certains éléments ne soient plus à jour. Si vous constatez qu'une information n'est plus à jour, merci de nous le signaler à l'adresse contact@hive-mind.community
A propos de l'auteur
Ayşegül Güzel est une architecte en gouvernance de l'IA responsable qui aide les organisations axées sur une mission à transformer l'anxiété liée à l'IA en systèmes dignes de confiance. Sa carrière combine le leadership social exécutif — notamment en tant que fondatrice de Zumbara, le plus grand réseau mondial de banques de temps — et la pratique technique de l’IA, en tant qu’auditrice certifiée en IA et ancienne data scientist. Elle guide les organisations à travers des transformations complètes de la gouvernance de l'IA et réalise des audits techniques en IA. Elle enseigne à ELISAVA et intervient à l’international sur les approches centrées sur l’humain dans la technologie. Pour en savoir plus, consultez https://aysegulguzel.info ou abonnez-vous à sa lettre d'information AI of Your Choice à l'adresse https://aysegulguzel.substack.com.