Avant de vous plonger dans cette partie, assurez-vous d'avoir lu l'article sur Comment les responsables de la sécurité des systèmes d'information peuvent jouer un rôle moteur dans le développement d'une IA responsable, l'introduction à ce guide pratique, Partie 1 : REGARDER - Préparer le terrain, et Partie 2 : CRÉER - Identifier et définir ses principes

Prêt à commencer ? Voici comment organiser votre préparation et votre séance.

3.1 Avant la séance : Préparation de la phase REGARDER

Chronologie : 1 à 2 semaines avant la session CRÉER Ce tableau présente les tâches, les résultats attendus, le temps nécessaire et la personne responsable de chaque étape à réaliser avant la session CRÉER. Vous pouvez consulter le texte complet du tableau dans le fichier fourni ici.

Si vous n'avez pas le temps de faire le travail préparatoire :

Vous pouvez tout faire pendant la séance, mais prévoyez plutôt 2h à 2h30 au lieu de 90 minutes, et acceptez que l’inventaire et la collecte d'informations soient moins approfondis. Pensez à organiser une séance de suivi pour aller au bout de ce que vous avez commencé.

3.2 La session CRÉER : Un ordre du jour de 90 minutes

Participants : 6 à 12 personnes représentant des rôles et des points de vue variés

Matériel nécessaire :

• paperboard ou tableau collaboratif en ligne

• Présentation des résultats de REGARDER (s'ils ont été recueillis au préalable)

• Modèle d'identification et de définition des principes (disponible dans la section « Ressources »)

• Liste des principes courants de l'IA responsable, accompagnée de brèves définitions (disponible dans la section « Ressources »)

Ce tableau présente l'ordre du jour proposé pour la session CRÉER. Vous pouvez consulter le texte complet du tableau dans le fichier fourni ici.

Résultats attendus :

• Une vision commune de l'utilisation actuelle de l'IA et des tensions qui y sont liées

• Un inventaire des technologies d'IA validé/élargi

• Une liste hiérarchisée de 3 à 7 principes fondamentaux

• Des projets de définitions pour les trois principes fondamentaux

• Une identification des points qui nécessitent un examen plus approfondi

• Une dynamique pour la prochaine session

3.3 Après la séance

Dans un délai d'une semaine :

• Synthétiser et consigner. Consignez par écrit ce qui est ressorti : les tensions mises en évidence, les principes identifiés, les projets de définitions, les questions encore en suspens. Créez un document clair qui présente le travail de l'équipe.

  • Vérifier l'exactitude des informations. Partagez avec les participants : « Ai-je correctement retranscrit cela ? Qu'est-ce qui manque ? Qu’est-ce qui doit être affiné ? »

  • Identifier les lacunes. Y a-t-il des voix qui manquent à ce débat ? Y a-t-il des points de vue qui ne sont pas représentés ? Demandez-vous qui d'autre devrait être consulté avant de finaliser.

Dans un délai de deux semaines :

• Compléter les définitions. Pour tous les principes qui n'ont pas été entièrement définis au cours de la séance, complétez le travail de définition. Cette tâche peut être confiée à un petit groupe de travail, puis validée par l'ensemble de l'équipe.

• Mettre à l’épreuve de la réalité. Prenez une décision liée à l'IA à laquelle votre organisation est actuellement confrontée. Demandez : « D'après notre projet de principes, que devrions-nous faire ? Ce principe constitue-t-il une orientation utile ? Sinon, il faudra peut-être affiner la définition.

En cours :

• Définir une fréquence de révision. Engagez-vous à revoir vos principes à intervalles réguliers. Six mois, c'est un bon point de départ. Comme l'indique le CXC : il s'agit de documents évolutifs qui s'adaptent aux avancées technologiques et à l'approfondissement des connaissances.

• Connecter à la gouvernance. Une fois les principes définis, vous êtes prêt à passer à l'étape suivante : déterminer qui sera responsable de ce processus et comment les décisions seront prises. Voir l'article 2 de cette série.

Des principes à l'action : un pont

Maintenant que vous avez identifié et défini vos principes, vous avez posé les bases. Mais les principes ne suffisent pas à eux seuls pour prendre des décisions ; ils doivent se traduire en structures, en politiques et en pratiques.

Les principes ne sont qu'un début

Une fois que vous avez identifié et défini vos principes, les questions suivantes se posent : Qui sera responsable de cette démarche dans la durée ? Comment ces principes seront-ils formalisés en accords documentés ? Comment évaluerons-nous les risques et prendrons-nous les décisions ?

Des principes aux garde-fous :

Le parcours de la Khan Academy illustre cette transition. Son principe « Atteindre les objectifs éducatifs » est devenu le garde-fou 1.4 : « Des mécanismes sont en place pour empêcher les usages non éducatifs de l’IA. » Ce garde-fou a ensuite servi de base à une évaluation des risques : le risque d’« usages inappropriés ou préjudiciables » a été considéré comme ayant une probabilité élevée et un impact élevé. Cela a donné lieu à la mise en place de mesures d’atténuation spécifiques : systèmes de modération, notifications aux parents, conditions d'utilisation, contrôles des comptes.

Principe → Garde-fou → Évaluation des risques → Atténuation

Du manifeste à la politique :

Le Manifeste de CXC sur l'IA consciente (le « pourquoi ») est directement lié à sa Politique sur l'IA consciente (le « comment »). Le principe du Manifeste intitulé « Confidentialité des données et confiance » se concrétise dans la règle dite du « feu rouge » de la Politique : « Les données confidentielles ou sensibles concernant la communauté ou les membres ne doivent pas être intégrées dans des modèles d'IA générative publics développés par des tiers. »

Vos principes se refléteront également dans les structures de gouvernance, les politiques et les processus d'évaluation des risques.

N'oubliez pas de revenir sur Hive Mind la semaine prochaine pour la Partie 4: CRÉER – Structurer la gouvernance et les responsabilités de l’IA : pour appréhender la structure « en arbre » de la gouvernance de l’IA, il convient d’explorer les rôles d’ownership et de redevabilité de l’IA dans votre organisation.

Votre avis compte

Que pensez-vous de ce texte ? Prenez 30 secondes pour nous faire part de vos commentaires et nous aider à créer un contenu utile pour la société civile !

Mentions légales

Ce document a été élaboré dans le cadre de l'initiative L’IA au service du changement social au sein du Digital Activism Program de TechSoup, avec le soutien de Google.org.

L'auteur a utilisé l'IA pour créer ce contenu. Toutefois, l'intégralité de cet article a été conçue, révisée et vérifiée par l'auteur et l'équipe de TechSoup.

Les outils d'IA évoluent rapidement, et bien que nous fassions tout notre possible pour garantir la fiabilité des informations que nous fournissons, il peut arriver que certains éléments ne soient plus à jour. Si vous constatez qu'une information n'est plus à jour, merci de nous le signaler à l'adresse contact@hive-mind.community