Cet article donne un aperçu d'une discussion plus constructive, en tenant compte à la fois de la version pessimiste et de la version optimiste. Les outils d'IA font déjà partie intégrante des méthodes de travail du personnel des OSC. La question n'est plus de savoir s'il faut les utiliser, mais de comment les utiliser sans perdre l'esprit critique qui donne tout son sens à ce travail.

L'outil que vous utilisez déjà — et que vous ne maîtrisez peut-être pas encore tout à fait

Pensez à la dernière fois où vous avez fait une recherche. Selon le navigateur ou le moteur de recherche que vous avez utilisé, la première chose que vous avez vue n'était peut-être pas une liste de liens, mais un paragraphe, présenté comme une réponse, généré par un modèle d'IA. Vous l'avez peut-être lu et êtes passé à autre chose, pensant que votre recherche était terminée. C'est le cas de la plupart des gens.

C'est l'une des façons dont l'IA s'est discrètement imposée comme une source d'information, et non plus seulement comme un outil de productivité. Les moteurs de recherche tels que Google, Bing et d'autres affichent désormais les réponses générées par l'IA avant les résultats produits ou sélectionnés par des humains. Le paragraphe peut sembler fiable, et les réponses n’incluent pas toujours de signature, de date ou de liste de sources vérifiables.

De la même manière, utiliser un modèle d’IA pour des recherches préliminaires sur un nouveau sujet peut être une démarche plus réfléchie, mais elle comporte des risques similaires. Cette pratique devient de plus en plus courante, parce qu’elle est rapide et efficace. Pendant des années, les gens ont consulté Wikipédia et d'autres sources similaires de la même manière, non pas comme une référence absolue, mais comme un premier repère lorsqu'ils abordaient un sujet qui leur était inconnu. Il existe toutefois une différence fondamentale : Wikipédia indique ses sources et, lorsqu'un fait ou un contenu est controversé ou contesté, une mise en garde s'affiche afin que vous puissiez savoir où se situent les doutes ou les divergences. Un chatbot, lui, vous offre un récit convaincant, sans aucune transparence équivalente.

Dans des situations encore plus simples et informelles, les utilisateurs posent à un modèle d’IA une question précise pour dissiper un doute. Par exemple : « Que signifie cet acronyme ? », « Quand cette réglementation a-t-elle été adoptée ? » ou « Qui dirige cette organisation ? » Ce sont des questions auxquelles on répondait autrefois par une recherche rapide ou en consultant une source fiable. Aujourd’hui, on les pose à des chatbots d’IA, qui répondent de manière fluide, assurée… et parfois inexacte.

Aucune de ces utilisations n'est mauvaise en soi. Le problème, c'est d'utiliser l'IA comme source d'information sans comprendre de quel type de source il s'agit réellement.

Comment ces outils fonctionnent-ils concrètement ? — et pourquoi est-ce important ?

Les grands modèles de langage (la technologie qui sous-tend ChatGPT, Claude, Gemini et d'autres outils similaires) ne comprennent ni le monde qui les entoure, ni les informations qu'ils utilisent et traitent. Ils identifient des tendances statistiques à partir d'énormes quantités de texte : quels mots ont tendance à apparaître ensemble, quelles expressions succèdent à quelles autres. Le modèle ne comprend pas le sens de ce qu'il produit. Il génère un texte qui reflète ce qui se dit généralement sur un sujet donné.

Cela a une conséquence pratique directe qu'il est important de garder à l'esprit chaque fois que l'on pose une question à ces outils : le modèle ne sait pas si ce qu'il dit est vrai, il sait simplement si cela correspond à ce qui est généralement admis. Pour les faits bien documentés et largement représentés dans ses données d'entraînement, cette distinction n'a souvent pas d'importance, la réponse sera correcte. Un exemple parfait serait l'histoire d'une découverte scientifique bien établie, comme celle du radium par Marie et Pierre Curie en 1898. Mais lorsqu'il s'agit d'événements récents, d'informations locales ou de tout autre sujet pour lequel les données disponibles sont rares, contestées ou contradictoires, le modèle peut fournir une réponse erronée avec exactement la même aisance et la même assurance qu'une réponse correcte. Pensez, par exemple, aux résultats contestés d'une récente élection locale dans un pays où l'anglais n'est pas la langue officielle (puisqu'il s'agit de modèles de langage, la langue joue un rôle important dans son entraînement). Ce n'est pas un bug, mais une caractéristique intrinsèque du fonctionnement de ces systèmes.

Il existe un deuxième problème structurel : ces modèles sont sensibles à la manière dont les questions sont formulées (techniquement, au prompt). Une personne qui comprend leur fonctionnement peut formuler une question qui amène le modèle à valider une affirmation erronée. Cela ne demande pas de compétences techniques poussées : quelques essais et ajustements suffisent généralement. Tout comme les algorithmes des réseaux sociaux peuvent être compris et utilisés à son avantage, il en va de même pour les modèles de langage.

IA et intégrité de l'information

Les risques liés à l'IA qui retiennent le plus l'attention sont ceux qui sont les plus visibles : les deepfakes, les images de synthèse et les vidéos générées par l'IA. Ce sont là des risques bien réels. D'une certaine manière, ce sont aussi les plus faciles à repérer et à aborder, car elles concernent des contenus qui ont été délibérément inventés.

Un risque plus subtil est ce que l'on pourrait appeler le « blanchiment » de discours trompeurs. Il s’agit d’un contenu qui n’est pas techniquement faux, mais qui présente un sujet d’une manière qui renforce une compréhension manipulée ou déformée. Un modèle d'IA chargé de résumer une question controversée peut produire un résumé qui semble impartial, mais qui omet systématiquement l'un des points de vue. Il peut également présenter une opinion marginale comme étant courante, car ce type de formulation était surreprésenté dans ses données d'entraînement. Personne n’a inventé quoi que ce soit, et ce n’était pas intentionnel. Dans ces situations, la distorsion émerge de la base statistique du modèle.

Cela concerne le personnel des OSC non seulement en tant que risque à prendre en compte dans les contenus externes, mais aussi en tant que risque présent dans leurs propres productions. Si vous utilisez un modèle d’IA pour faire des recherches sur un sujet, rédiger une prise de position ou résumer un rapport, les biais présents dans ses données d’entraînement peuvent se refléter dans ses résultats — sans qu’aucun signe évident n’indique qu’un problème est présent. Le résultat sera assuré et cohérent. C'est justement pour cela qu'il vaut la peine de l'examiner de près.

Quand l'IA contribue réellement à garantir l'intégrité de l'information

Si l’on garde clairement ces limites à l'esprit, l'IA peut contribuer de nombreuses façons au travail de garantie de l'intégrité de l'information, non pas en se substituant au jugement humain, mais en permettant de mieux en tirer parti.

1. Comprendre ce qui circule et pourquoi

Lorsque le volume de contenu à surveiller dépasse ce qu'une équipe peut traiter manuellement, l'IA peut faciliter le classement et le tri. À partir d’un large ensemble de publications sur les réseaux sociaux, d’articles ou de messages, un modèle peut les regrouper selon des récits sous-jacents, signaler ceux qui correspondent à des schémas de préoccupation connus, ou identifier les sujets qui gagnent en visibilité. Le modèle propose des récits, des catégories et des regroupements, tandis que l’équipe humaine décide et valide, rendant le suivi plus efficace et la vérification plus stratégique.

Une application connexe est l’extraction et l’analyse des récits : elle consiste à amener un modèle à identifier le cadrage implicite d’un contenu avant d’y répondre. Quels présupposés sont implicites dans ce texte ? Quelles émotions mobilise-t-il ? Quelles croyances antérieures contribue-t-il à renforcer ? Comprendre la structure narrative des contenus trompeurs constitue un complément très utile au processus de vérification des faits, car cela permet d'analyser simultanément de nombreux contenus différents s'ils reposent sur les mêmes schémas narratifs sous-jacents.

2. Se préparer à réagir

Avant d’utiliser un document comme source ou de répondre à une affirmation, il est utile de cartographier ce qui est effectivement vérifiable. Toutes les affirmations contenues dans un document ne constituent pas nécessairement des allégations factuelles pouvant être vérifiées, et toutes les allégations factuelles ne sont pas forcément suffisamment précises pour être vérifiées. Un modèle peut aider à déterminer rapidement quelles affirmations sont vérifiables et lesquelles ne le sont pas, afin que l'attention humaine puisse se concentrer là où elle est utile. Encore une fois : les modèles font des propositions, mais c'est le jugement humain qui les examine, les valide et prend les décisions.

Si votre organisation prépare un communiqué destiné au public pour répondre à un discours trompeur, l'IA peut s'avérer un véritable partenaire d’entrainement. Demandez-lui de repérer les faiblesses de votre argumentation, d'identifier les affirmations non étayées ou de signaler les passages susceptibles d'être mal interprétés ou sortis de leur contexte. Il faut garder à l'esprit une limite claire : il ne s'agit pas d'externaliser le jugement éditorial, mais de soumettre votre travail à des tests rigoureux avant qu'il ne parvienne au public.

Enfin, lorsque vous êtes confronté à une source ou à une affirmation dont vous n'êtes pas sûr, un modèle peut vous aider à structurer votre réflexion critique : quelles informations seraient nécessaires pour en faire une évaluation solide ? Quelles perspectives ne sont pas représentées ? Quels intérêts pourraient influencer ce contenu ? Le modèle ne répondra peut-être pas de manière fiable à ces questions, mais il peut vous aider à poser les bonnes.

Habitudes à adopter pour utiliser l'IA sans perdre son esprit critique

Par conséquent, pour utiliser l'IA sans compromettre l'intégrité des informations, la question n'est pas de savoir s'il faut y recourir, mais comment l'utiliser. Voici quelques conseils utiles :

1. Des consignes bien structurées et bien pensées donnent de meilleurs résultats. Les consignes « Résume ce rapport » et « Identifie les trois principales affirmations contenues dans ce rapport, les preuves citées pour chacune d'entre elles, ainsi que toute affirmation qui semble non étayée, en 200 mots maximum » donneront des résultats radicalement différents. Plus vous serez précis quant à ce que vous souhaitez, sous quelle forme et avec quelles contraintes, plus le résultat sera utile et auditable.

2. Demandez un raisonnement, pas seulement des conclusions. Si vous demandez à un modèle d'évaluer la crédibilité d'une source, demandez-lui d'expliquer pourquoi. Un modèle qui explicite son raisonnement produit généralement des résultats plus précis et vous donne matière à évaluation. Si le raisonnement ne tient pas selon votre jugement (rappel : c’est lui qui est déterminant), alors la conclusion ne tient pas non plus.

3. Ce n'est pas une bonne idée d'utiliser l'IA pour vérifier directement des faits. Un modèle de langage peut fournir une réponse assurée, détaillée et entièrement inventée à une question factuelle. Utilisez l'IA pour faciliter et structurer votre processus de vérification — afin d'identifier les éléments à vérifier et de générer les questions à poser — mais jamais pour le mener à son terme.

4. Soyez conscients que les résultats générés par l'IA peuvent comporter des biais. Les données d'entraînement du modèle reflètent le monde tel qu'il est représenté dans les ressources utilisées pour son apprentissage, ce qui signifie qu'il sur-représente certaines perspectives et en sous-représente d'autres. Cela peut influencer la manière dont les résumés sont formulés, les exemples choisis par le modèle et les conclusions auxquelles il tend.

5. Identifiez quels cas, conclusions et contenus qu'elle produit sont susceptibles d'être peu fiables. L'IA se montre particulièrement imprécise lorsqu'il s'agit d'événements très récents, d'informations locales ou extrêmement spécifiques, ainsi que dans toute situation où la clé permettant de détecter une éventuelle supercherie réside davantage dans le contexte que dans le contenu. Si, pour comprendre pourquoi un message est trompeur, il faut savoir qui est le public, quelles sont ses convictions et quelle période il traverse, cela nécessite sans aucun doute une vérification humaine.

6. Documentez votre utilisation de l'IA. Non pas comme une exigence administrative, mais comme une discipline. Le simple fait de savoir que l'on va consigner la manière dont un outil a été utilisé modifie la prudence avec laquelle on s'en sert. Cela permet également de développer le savoir-faire organisationnel sur ce qui fonctionne et ce qui ne fonctionne pas, et cela est de plus en plus considéré comme une norme fondamentale en matière de transparence.

Alors, l'IA peut-elle aider les OSC à renforcer l'intégrité de l'information ?

Oui, mais la prudence est de mise. L’IA peut aider à gérer le volume, faire émerger des schémas, structurer la réflexion et mettre les arguments à l’épreuve. Mais elle ne peut pas évaluer le contexte, corriger ses propres biais ou déterminer ce qui est vrai. Les organisations qui sauront bien l’utiliser sont celles qui comprennent clairement cette distinction, suffisamment pour savoir, à tout moment, ce qu’elles attendent et exigent d’elle.

Les outils sont utiles, mais le jugement doit toujours rester le vôtre.

Votre avis compte

Que pensez-vous de ce texte ? Prenez 30 secondes pour nous faire part de vos commentaires et nous aider à créer un contenu utile pour la société civile !

Dernière mise à jour le 8 octobre 2026 afin de refléter les évolutions les plus récentes.

Mentions légales

Ce document a été élaboré dans le cadre de l'initiative L’IA au service du changement social au sein du Digital Activism Program de TechSoup, avec le soutien de Google.org.

Les outils d'IA évoluent rapidement, et bien que nous fassions tout notre possible pour garantir la fiabilité des informations que nous fournissons, il peut arriver que certains éléments ne soient plus à jour. Si vous constatez qu'une information n'est plus à jour, merci de nous le signaler à l'adresse content@techsoup.org.

« IA et intégrité de l'information : guide pratique à l'intention du personnel des OSC », par Rocío Benavente Pérez, Fundación Maldita.es, 2026, pour Hive Mind, est sous licence CC BY 4.0.