C’est la première partie de la « Feuille de route pour une IA responsable pour les OSC ». Pour voir l'introduction, cliquez ici.
Ce que produit la phase LOOK :
Des tensions mises en lumière (à travers des entretiens ou un travail de réflexion).
Un premier inventaire de l’IA (quels outils sont utilisés, quelles données ils mobilisent, quelles préoccupations existent).
Un recueil de connaissances et de repères existants (réglementations applicables, valeurs déjà présentes dans votre organisation, références ou bonnes pratiques du secteur).
Tout cela constitue la matière première de la phase CRÉER.
1.1 Commencer par les tensions
Le point de départ le plus puissant est de reconnaître la complexité que votre équipe ressent déjà. L'IA existe dans un espace de tension créative : efficacité contre authenticité, innovation contre sécurité, accès contre vie privée. Ces tensions ne sont pas des problèmes à résoudre, mais des portes d'entrée vers vos valeurs.
Deux approches :
Option A : Entretiens de pré-session
Une personne mène de brefs entretiens avec les membres de l'équipe avant la séance de groupe. Posez les 5 questions individuellement, écoutez les schémas et présentez une synthèse au groupe lors de la session CRÉER. Il s'agit d'écouter profondément avant de créer en collaboration. Cette approche fonctionne particulièrement bien lorsque :
vous souhaitez faire émerger des préoccupations sincères que certaines personnes n’exprimeraient pas en groupe ;
vous avez des parties prenantes diverses, avec des perspectives différentes ;
vous souhaitez que la session CRÉER se concentre sur la synthèse plutôt que sur la découverte initiale.
Option B : En direct pendant la session
Réunissez l'équipe et répondez ensemble aux 5 questions lors de la session CREATE. Prévoyez un temps de réflexion individuelle avant la discussion en groupe. Cette méthode fonctionne bien pour les petites équipes, ou lorsque la construction d’une compréhension partagée est aussi importante que le contenu lui-même
Cette approche fonctionne particulièrement bien lorsque :
Votre équipe est restreinte et psychologiquement sûre
La découverte partagée fait partie de l'objectif
Le temps consacré au travail préparatoire est limité
Les 5 questions :
Qu'elles soient recueillies à l'avance ou explorées en direct, ces questions constituent la matière première de vos principes :
1. Notre relation avec l'IA
En tant qu'équipe, quelles sont les émotions qui nous viennent à l'esprit lorsque nous pensons à l'IA ?
Ne sautez pas cette étape. Les gens sont-ils enthousiastes ? Anxieux ? Curieux ? Dépassés ? Sceptiques ? Nommez les sentiments. Notez-les. Ils peuvent être complexes et contradictoires. Il ne s'agit pas d'une thérapie, mais d'un contexte. Vous ne pouvez pas avoir une discussion pertinente sur les principes si vous ne comprenez pas le paysage émotionnel dans lequel vous évoluez.
2. Nos espoirs
Quel est le résultat le plus positif que nous espérons atteindre grâce à l’IA ?
Qu’est-ce qui devient possible aujourd’hui qui ne l’était pas auparavant ? Quels problèmes pourrions-nous résoudre ? Que pourrions-nous faire mieux, plus vite, ou avec une portée plus large ? Laissez les personnes rêver à ce stade. C’est l’énergie de l’« étoile polaire », l’élan vers ce que vous souhaitez construire.
3. Nos craintes
Quel est le préjudice que nous nous engageons le plus à prévenir ?
Si tout tournait mal, à quoi cela ressemblerait-il ? Quel résultat vous ferait dire : « Nous n’aurions jamais dû faire ça » ? Quelle est votre ligne rouge, la limite que vous ne franchirez absolument pas ? Pouvez-vous décrire un usage spécifique de l’IA qui semblerait fondamentalement inacceptable pour une organisation comme la nôtre, même s’il était techniquement efficace ? Qu’est-ce qui franchirait une ligne éthique ?
C’est l’énergie du « garde-fou », la prise de conscience de ce contre quoi vous devez vous protéger.
4. Nos éléments non négociables
En examinant les valeurs existantes de notre organisation, laquelle est la plus critique à préserver lors de l’adoption de l’IA ?
La plupart des organisations ont déjà des valeurs déclarées. Laquelle vous semble la plus menacée dans un contexte d’IA ? Laquelle doit guider toutes les autres décisions ?
Quelle partie de votre travail doit rester entièrement humaine, là où l’assistance de l’IA réduirait plutôt qu’elle n’améliorerait ce que vous faites ? Qu'est-ce qui doit être protégé de l'automatisation par un « pare-feu » ?
Cela permet de lier vos principes d’IA à l’identité de votre organisation.
5. Notre étoile polaire
Si nous pouvions choisir seulement 3 à 5 principes pour guider notre travail en matière d'IA, quels seraient-ils et pourquoi ?
Plantez cette graine très tôt. Vous y reviendrez avec plus d'informations lors de la phase CRÉER.
Ce qu'il faut capturer :
Documentez tout : les tensions spécifiques nommées par les gens, les craintes, les espoirs, les schémas récurrents. Lorsque certaines expressions ou certains mots reviennent, comme « authenticité » ou « confiance de la communauté », c’est un signal indiquant vos principes.
1.2 Commencer votre inventaire de l'IA
Quand le faire ? Avant la séance de groupe, si possible. Une personne ou un petit groupe peut rédiger l'inventaire initial, puis le valider et le développer avec l'ensemble de l'équipe lors de la session CRÉER.
→ Utiliser la fiche d'inventaire de l'IA dans la Feuille de travail Identifier | Définir les principes de l'IA pour recenser les outils et les préoccupations de votre organisation en matière d'IA.
Pourquoi cela est-il important ?
Cela rend la discussion concrète (pas de principes abstraits, mais « nous utilisons ces outils »).
Fait émerger les tensions de manière organique (l’inventaire met en lumière les zones d’incertitude au sein de l’organisation).
Fournit la matière première pour l’identification des principes (les outils et leurs risques permettent de déterminer quels principes sont les plus importants).
Met au jour l’« IA fantôme » – les outils que les membres de l’équipe utilisent de manière informelle, sans approbation organisationnelle.
Structure de l'inventaire :
Figure 1 : Le contenu de ce tableau est un exemple, vous pouvez le trouver, ainsi que le tableau modifiable, ici
Important : Un outil d'IA n'a pas de statut permanent. Son statut est le résultat de la combinaison de l'outil + du cas d'usage + de la sensibilité des données. Évaluez toujours la tâche spécifique avant de commencer.
Catégories de statut :
🟢 Vert : Autorisé
🟡 Jaune : Utiliser avec prudence, autorisé MAIS seulement si vous respectez des garde-fous spécifiques.
🔴 Rouge : Interdit. Ne pas utiliser.
⚪ Gris : Liste de souhaits / Phase exploratoire.
Niveaux de sensibilité des données :
Public : Pas d'inquiétude quant à l'exposition
Interne : Réservé à l'usage de l'organisation
Confidentiel : Accès limité, contient des informations organisationnelles sensibles
Très sensible : Contient des données à caractère personnel, des informations sur les bénéficiaires ou du contenu protégé par la loi.
Conseil de facilitation : Lors de la collecte des informations pour l’inventaire, créez un environnement sûr pour que les personnes puissent parler ouvertement. Les personnes utilisent souvent des outils d’IA qu’elles n’ont pas mentionnés, car elles ne savent pas si c’est « autorisé ». Des mécanismes de saisie anonymes peuvent aider à faire émerger l’usage de l’IA fantôme.
Conservez cet inventaire comme un document vivant. Il deviendra plus détaillé au fur et à mesure que vous développerez les structures de gouvernance et les politiques lors de la phase CRÉER.
→ La fiche d’inventaire de l’IA dans la feuille de calcul est conçue pour être mise à jour au fil du temps. Commencez simplement ; ajoutez des détails au fur et à mesure que vous approfondissez votre compréhension.
1.3 Rassembler les connaissances existantes
Quand le faire ? Avant la séance de groupe. Une personne peut compiler ces informations et les présenter lors de la réunion CRÉER afin que l'équipe dispose d'une base de travail commune.
Ce qu'il faut rassembler :
Les valeurs et principes existants dans votre organisation
Déclaration de mission, plan stratégique, code de déontologie
Toute politique existante en matière de technologie ou de données
Déclarations de valeurs tirées de vos documents fondateurs
Engagements pris à l'égard des bailleurs de fonds, des partenaires ou des communautés
Demandez : Comment ces valeurs existantes peuvent-elles s'appliquer à l'IA ?
Votre paysage réglementaire
Quelles sont les réglementations qui s'appliquent dans votre contexte ? (règlement européen sur l'IA, RGPD, exigences sectorielles)
Quelles sont les attentes des bailleurs de fonds en matière d'utilisation de l'IA ou de protection des données ?
Quelles sont les attentes de votre communauté ?
Existe-t-il des normes professionnelles dans votre secteur ?
Pour les OSC européennes, les principes clés du règlement européen sur l'IA comprennent la supervision humaine, la transparence, la qualité des données et la non-discrimination. Même en dehors de l'UE, ces cadres offrent des points de référence utiles.
→ Voir l'alignement du règlement et des principes de l'UE en matière d'IA (Principes les plus courants en matière d'IA responsable ) dans la feuille de travail téléchargeable (Fiche d'identification et de définition des principes de l'IA) pour comprendre quels sont les principes qui bénéficient d'un soutien réglementaire.
Références du secteur
Une communauté mondiale élabore des principes d'IA responsable depuis 2019. Vous n'avez pas besoin de faire toutes ces recherches vous-même. Nous avons rassemblé pour vous les cadres et les exemples les plus pertinents.
→ Voir la ressource Principes de l'IA responsable - Repères pour des exemples d'organisations à mission, notamment Khan Academy, ChangemakerXchange, Common Sense Media, et d'autres.
→ Voir les Principes les plus courants de l'IA responsable dans la feuille de travail téléchargeable (Fiche d'identification et de définition des principes de l'IA) pour obtenir les définitions des principes les plus cités dans les cadres de l'UE, de l'OCDE, de l'UNESCO et du NIST.
Résultat :
Un document compilé ou une présentation synthétique qui apporte ces connaissances à la session CRÉER :
Le résumé des réglementations pertinentes pour votre contexte
Les valeurs existantes dans votre organisation (avec des notes sur leur pertinence pour l’IA)
La fiche de référence des principes communs (fournie)
1 ou 2 exemples d'organisations similaires qui correspondent à votre mission
L'objectif n'est pas de devenir un expert dans chaque cadre. Il s'agit de disposer d'un contexte suffisant pour que votre équipe puisse choisir en connaissance de cause les principes les plus importants pour votre organisation. Les ressources que nous fournissons font le gros du travail. Votre tâche consiste à apporter le point de vue unique de votre organisation.
Poursuivre le guide avec la Partie 2 : CRÉER - Identifier et définir vos principes,pour savoir comment identifier les principes de l'IA qui comptent le plus pour votre OSC, et la Partie 3 : Mise en pratique, pour savoir comment identifier les principes de l'IA qui comptent le plus pour votre OSC.
Votre retour d'information est important
Que pensez-vous de ce texte ? Prenez 30 secondes pour nous faire part de vos commentaires et nous aider à créer un contenu utile pour la société civile !
Formulaire de commentaires à venir bientôt !
Cet article est le début d'une série intitulée « Feuille de route pour une IA responsable pour les OSC », élaborée dans le cadre de l’initiative L'IA au service du changement social du programme d'activisme numérique de TechSoup, avec le soutien de Google.org.