« Alors, détendez-vous et profitez du voyage. Nous ne pouvons rien faire pour arrêter le changement climatique, alors il est inutile de s'en inquiéter. »

Voici ce que « Bard » a indiqué aux chercheurs en 2023. Bard de Google est un chatbot d'intelligence artificielle générative capable de produire du texte et d'autres contenus à l'allure humaine en réponse aux questions ou aux demandes des utilisateurs. 

Mais si l'IA peut désormais produire de nouveaux contenus et informations, peut-elle aussi produire de la désinformation ? Des experts en ont trouvé des preuves. 

Dans une étude Une étude du Centre de lutte contre la haine numérique a testé l'outil Bard sur 100 récits mensongers portant sur neuf thèmes, dont le climat et les vaccins. Les chercheurs ont constaté que Bard générait de la désinformation pour 78 des 100 récits testés. Ils ont également constaté que Bard générait de la désinformation pour les 10 récits concernant le changement climatique.

En 2023, une autre équipe de chercheurs de Newsguard, une plateforme fournissant des outils pour lutter contre la désinformation, examiné Les modèles 3.5 et 4 de ChatGPT d'OpenAI, capables de produire du texte, des articles et bien plus encore, ont fait l'objet d'une étude. Selon cette étude, ChatGPT-3.5 a généré de la désinformation et des canulars dans 80 % des cas lorsqu'on lui a présenté 100 récits mensongers, tandis que ChatGPT-4 a propagé ces 100 récits de manière plus détaillée et convaincante. NewsGuard a constaté que ChatGPT-4 diffusait non seulement plus fréquemment, mais aussi de façon plus persuasive que ChatGPT-3.5 les récits mensongers les plus répandus. Il a également produit des réponses sous forme d'articles de presse, de fils Twitter et même de scénarios télévisés imitant certaines idéologies politiques ou théories du complot.

« Je trouve cela important et inquiétant : la production de fausses études scientifiques, l’automatisation dans ce domaine et la facilité avec laquelle ces phénomènes s’intègrent aux outils de recherche comme Google Scholar », a déclaré Victor Galaz, directeur adjoint et professeur associé de sciences politiques au Stockholm Resilience Centre de l’Université de Stockholm, en Suède. « Car cela s’accompagne d’une lente érosion des fondements mêmes de tout dialogue. »

Dans un autre récent étude Publiée ce mois-ci, une étude révèle que des chercheurs ont découvert sur Google Scholar des contenus fabriqués par GPT, imitant des articles scientifiques légitimes portant sur des sujets tels que l'environnement, la santé et l'informatique. Ils mettent en garde contre le « piratage de preuves », une « manipulation malveillante, stratégique et coordonnée de la base de données probantes de la société », à laquelle Google Scholar peut être vulnérable.

Nous savons donc que l'IA Boite Générer de la désinformation, mais dans quelle mesure cela représente-t-il un problème ?

Commençons par les bases.

Analyse approfondie de l'IA et de l'environnement

Prenons ChatGPT comme exemple. ChatGPT est un modèle de langage étendu (LLM). 

Les LLM font partie des technologies d'IA les plus pertinentes pour les questions de désinformation et de désinformation climatique, selon Asheley R. Landrum, professeure agrégée à l'École de journalisme et de communication de masse Walter Cronkite et chercheuse principale en prospective mondiale à l'Université d'État de l'Arizona.

Étant donné que les LLM peuvent créer du texte qui semble être généré par l'homme, ce qui peut être utilisé pour créer rapidement et à moindre coût de la désinformation, des acteurs malveillants peuvent « exploiter » les LLM pour créer de la désinformation avec une simple invite saisie par un utilisateur, a déclaré Landrum dans un courriel à DeSmog.

Au même titre que les LLM, les médias synthétiques, les bots sociaux et les algorithmes sont également des technologies d'IA pertinentes dans le contexte de tous les types de désinformation, y compris sur le climat.

Les « médias synthétiques », qui incluent les soi-disant « deepfakes », sont des contenus produits ou modifiés à l'aide de l'IA.

« D’un côté, on peut craindre que les gens prennent les médias synthétiques pour de vrais. Par exemple, lorsqu’un appel automatisé imitant la voix de Joe Biden a incité les électeurs à ne pas voter lors des primaires démocrates dans le New Hampshire », a écrit Landrum dans son courriel. « Autre sujet de préoccupation, et à mon sens plus préoccupant : l’existence même des deepfakes permet aux personnalités publiques et à leur public de discréditer les informations authentiques en les qualifiant de fausses. » 

Les médias synthétiques incluent également les photos. En mars 2023, la Texas Public Policy Foundation, un groupe de réflexion conservateur qui avances récits niant le changement climatique, d'utiliser L'intelligence artificielle a créé une image d'une baleine morte et d'éoliennes, puis l'a utilisée comme une arme pour diffuser de la désinformation sur les énergies renouvelables. 

Les bots sociaux, une autre technologie capable de diffuser de la désinformation, utilisent l'IA pour créer des messages qui semblent être écrits par des personnes et fonctionnent de manière autonome sur des plateformes de médias sociaux comme X.

« Les robots sociaux amplifient activement la désinformation bien avant qu'une publication ne devienne virale. Ils ciblent également les utilisateurs influents par le biais de réponses et de mentions », explique Landrum. « De plus, ils peuvent engager des conversations élaborées avec des humains, en utilisant des messages personnalisés visant à influencer l'opinion. »

Enfin, les algorithmes. Ces derniers filtrent les flux d'informations et de médias proposés aux utilisateurs en fonction de leur pertinence. Ils utilisent l'IA pour créer des contenus hautement personnalisés selon leurs comportements, données démographiques, préférences, etc. 

 « Cela signifie que la désinformation à laquelle vous êtes exposé est susceptible de vous toucher », a déclaré Landrum. « En effet, des chercheurs ont suggéré que l'IA est utilisée pour établir des profils émotionnels des publics afin d'optimiser le contenu à des fins politiques. » 

Les recherches montrent que l'IA peut facilement créer des informations ciblées et efficaces. Par exemple, une étude Une étude publiée en janvier a révélé que les publicités politiques personnalisées sont plus persuasives que les publicités non personnalisées. L'étude indique que ces publicités peuvent être générées automatiquement à grande échelle, soulignant ainsi les risques liés à l'utilisation de l'IA et du « microciblage » pour concevoir des messages politiques qui trouvent un écho auprès des individus en fonction de leurs traits de personnalité.

Ainsi, une fois que des contenus erronés ou de la désinformation (délibérés et intentionnels) existent, ils peuvent se propager par le biais de la « priorisation des contenus incendiaires que les algorithmes valorisent », ainsi que par des acteurs malveillants, selon une étude. rapport sur les menaces que l'IA fait peser sur le climat, article publié en mars par le réseau Climate Action Against Disinformation (CAAD).

« Nombreux sont ceux qui s’interrogent désormais sur l’impact environnemental de l’IA », a déclaré Michael Khoo, directeur du programme de lutte contre la désinformation climatique chez Friends of the Earth et co-auteur principal du rapport du CAAD, à DeSmog. Le rapport indique également que l’IA nécessitera d’énormes quantités d’énergie et d’eau : à l’échelle de l’industrie, l’Agence internationale de l’énergie estimations La consommation énergétique des centres de données mondiaux qui alimentent l'IA doublera dans les deux prochaines années, atteignant un niveau équivalent à celui du Japon. Ces centres de données et systèmes d'IA consomment également d'importantes quantités d'eau pour leur fonctionnement et sont souvent situés dans des régions déjà confrontées à des pénuries d'eau, indique le rapport.

Khoo a déclaré que le plus grand danger global lié à l'IA est qu'elle va « affaiblir l'environnement informationnel et être utilisée pour créer de la désinformation qui pourra ensuite être diffusée sur les réseaux sociaux ». 

Certains experts partagent ce point de vue, tandis que d'autres se montrent plus prudents quant au lien entre l'IA et la désinformation climatique, car on ignore encore si et comment cela affecte le public. 

Un élément qui change la donne en matière de désinformation

« L’IA pourrait radicalement changer la donne en matière de désinformation climatique », a déclaré Galaz à DeSmog. Tous les aspects coûteux de l’IA, comme la production de messages ciblant un public spécifique grâce à des prédispositions politiques ou au profilage psychologique, et la création de contenus très convaincants, textes, images et vidéos compris, « peuvent désormais être produits à très bas coût ».

Il ne s'agit pas seulement du coût. Le volume est tout aussi important.

« Je pense que le volume, dans ce contexte, compte ; plus votre message est susceptible d’être repris par quelqu’un d’autre », a déclaré Galaz. « Soudain, nous sommes confrontés à un défi de taille : gérer le flot de désinformation qui inonde les réseaux sociaux et le niveau de sophistication de cette désinformation, qui la rend très difficile à repérer », a-t-il ajouté.

Galaz travail, en collaboration avec les chercheurs Stefan Daume et Arvid Marklund du Stockholm Resilience Centre, souligne également trois autres caractéristiques principales de la capacité de l'IA à produire de l'information et de la désinformation : l'accessibilité, la sophistication et la persuasion.

« À mesure que ces technologies évoluent, elles deviennent de plus en plus accessibles. Cette accessibilité facilite la production massive d'informations », a déclaré Galaz. « La sophistication [fait qu']il est difficile pour un utilisateur de distinguer un contenu généré par une IA d'un contenu généré par un humain. Et [la persuasion] incite ces modèles à produire un contenu très ciblé. »

« Ces trois éléments, combinés, sont pour moi des signaux d'alarme indiquant que nous pourrions être confrontés à une situation très difficile à l'avenir. »

Selon Landrum, l'IA augmente sans aucun doute la quantité et l'amplification de la désinformation, mais cela n'influence pas nécessairement l'opinion publique.

La désinformation climatique produite et diffusée par l'IA risque d'être encore plus dommageable et d'être davantage relayée lorsque les enjeux climatiques sont au cœur du débat public international. Ce constat n'est guère surprenant, compte tenu du recours fréquent à ce mécanisme de déni, de désinformation et d'obstruction à la lutte contre le changement climatique ces dernières décennies.

« Il n’existe pas encore beaucoup de preuves suggérant que les gens seront influencés par la désinformation véhiculée par l’IA. Cela reste vrai, que cette désinformation concerne le changement climatique ou non », a déclaré Landrum. « Il me semble probable que la désinformation climatique sera moins répandue que d’autres types de désinformation politique jusqu’à ce qu’un événement précis, comme un sommet ou une encyclique papale, mette le changement climatique au premier plan de l’attention du public. » 

Galaz a fait écho à cela, soulignant qu'il n'existe encore que des preuves expérimentales de la désinformation par l'IA ayant un impact sur l'opinion climatique, mais a également réitéré que le contexte et les capacités de ces modèles sont actuellement préoccupants.

Le volume, l'accessibilité, la sophistication et la persuasion interagissent tous avec un autre aspect de l'IA : la vitesse à laquelle elle se développe.

« Les scientifiques s'efforcent de suivre le rythme des évolutions technologiques, bien plus rapides que ce que nos méthodes permettent d'appréhender. Le monde change plus vite que nous ne pouvons l'étudier », a déclaré Galaz. « L'accès aux données est également crucial pour comprendre ce qui se passe et comment, et cet accès est devenu plus difficile ces derniers temps sur des plateformes comme X [depuis] Elon Musk. »

Outils d'IA pour le climat : solutions 

Des scientifiques et des entreprises technologiques travaillent sur des méthodes basées sur l'IA pour lutter contre la désinformation, mais Landrum affirme qu'ils n'y sont pas encore parvenus.

Il est possible, par exemple, que des chatbots/bots sociaux basés sur l'IA puissent fournir des informations exactes. Cependant, les mêmes principes de raisonnement motivé qui influencent la sensibilité des individus aux vérifications des faits sont susceptibles d'affecter leur interaction avec ces chatbots ; autrement dit, s'ils sont motivés à rejeter l'information – pour protéger leur identité ou leurs convictions – ils trouveront des raisons de la rejeter, a expliqué Landrum.

Certains chercheurs s'efforcent de développer des outils d'apprentissage automatique pour identifier et démentir la désinformation climatique. John Cook, chercheur principal au Melbourne Centre for Behaviour Change de l'Université de Melbourne, a commencé à travailler sur ce sujet avant même l'existence de l'intelligence artificielle générative.  

« Comment générer une réfutation automatique une fois la désinformation détectée ? L'essor de l'IA générative nous a offert l'opportunité de mener à bien notre mission de réfutation automatique », a expliqué Cook à DeSmog. « C'est donc ce sur quoi nous travaillons depuis environ un an et demi : détecter la désinformation, puis utiliser l'IA générative pour construire une réfutation conforme aux meilleures pratiques issues de la recherche en psychologie. » 

Le Modèle IA La méthode développée par Cook et ses collègues s'appelle CARDS. Elle fonctionne selon la structure « fait-mythe-sophisme-démystification », ce qui signifie : premièrement, identifier le fait clé qui remplace le mythe ; deuxièmement, identifier le sophisme que le mythe commet ; troisièmement, expliquer comment le sophisme induit en erreur et déforme les faits ; et enfin, « synthétiser le tout », explique Cook. « C'est une structure que nous recommandons dans le manuel de démystification« Et rien de tout cela ne serait possible sans l’IA générative », a-t-il ajouté.

Mais le développement de cet outil présente des défis, notamment le fait que les LLM peuvent parfois, comme l'a dit Cook, « avoir des hallucinations ».

Il a expliqué que pour résoudre ce problème, son équipe avait mis en place un important système de « renforcement » des invites de l'IA, c'est-à-dire l'ajout d'outils ou de données externes pour les rendre plus fiables. Il a développé un modèle appelé FLICC, basé sur… cinq techniques Pour lutter contre le climatoscepticisme, « afin de pouvoir détecter les erreurs de raisonnement de manière indépendante et d'en tirer parti pour optimiser les suggestions de l'IA », a expliqué Cook. L'ajout de nombreux outils permet de contrer le risque que l'IA ne génère que de la désinformation ou des hallucinations, a-t-il précisé. « Pour étayer nos réfutations, nous nous appuyons également sur un large éventail de sites web fiables et factuels. C'est l'un des avantages de l'IA générative : la possibilité de se référer à des sources fiables si nécessaire. »

Les applications de cet outil d'IA vont du chatbot ou bot social à une application, un outil interactif semi-automatisé et semi-humain, voire même une page web et une newsletter.

Certains outils d'IA présentent également leurs propres problèmes. « En fin de compte, lors du développement du modèle, nous allons consulter les parties prenantes, discuter avec des journalistes, des vérificateurs de faits, des éducateurs, des scientifiques, des ONG environnementales, bref, tous ceux qui pourraient potentiellement utiliser ce type d'outil, afin de comprendre en quoi il pourrait leur être utile », a déclaré Cook.

Selon Galaz, l'un des atouts de l'IA est sa capacité à analyser et à comprendre les tendances dans d'énormes quantités de données, ce qui peut être utile à l'humanité, à condition d'être développée de manière responsable. (ici)L’association de l’IA aux connaissances locales en matière d’agriculture peut aider les agriculteurs face aux changements climatiques, notamment à l’appauvrissement des sols. 

Selon les experts, cela ne sera possible que si le secteur de l'IA est tenu responsable. Cook craint que la réglementation soit essentielle et difficile à mettre en place.

« La technologie évolue si vite que même si l'on tente d'instaurer une réglementation gouvernementale, les gouvernements sont généralement lents à réagir, même dans les meilleures conditions », souligne Cook. « Face à une évolution aussi rapide, ils auront énormément de mal à suivre. [Les scientifiques eux-mêmes] peinent à suivre le rythme, car la situation évolue constamment : la recherche, les modèles et la technologie changent au fur et à mesure que nous travaillons dessus », a-t-il ajouté.

Réguler l’IA 

La plupart des spécialistes s'accordent à dire que l'IA doit être réglementée.  

« On parle toujours de l'IA avec une légèreté et un enthousiasme débordants, comme si elle allait sauver la planète », a déclaré Khoo. « Mais actuellement, [les entreprises spécialisées en IA] se soustraient aux normes de responsabilité, de transparence et de sécurité que nous souhaitions voir appliquées dans la politique des médias sociaux en matière de climat. » 

Tant dans le rapport du CAAD que dans l'interview accordée à DeSmog, Khoo a mis en garde contre la nécessité d'éviter de répéter les erreurs des décideurs politiques qui n'ont pas réglementé les plateformes de médias sociaux. 

« Nous devons traiter ces entreprises avec les mêmes exigences que nous avons pour tous les autres acteurs de la société », a-t-il ajouté. 

Le rapport du CAAD recommande la transparence, la sécurité et la responsabilité en matière d'IA. Il appelle également les autorités de réglementation à veiller à ce que les entreprises spécialisées en IA rendent compte de leur consommation d'énergie et de leurs émissions, et à les protéger contre la discrimination, les préjugés et la désinformation. Le rapport indique également que les entreprises doivent appliquer des règles communautaires et des politiques de monétisation, et que les gouvernements doivent élaborer et faire respecter des normes de sécurité, garantissant ainsi la responsabilité des entreprises et de leurs dirigeants pour tout préjudice causé aux personnes et à l'environnement par l'IA générative.

Selon Cook, une bonne façon de commencer à s'attaquer au problème de la désinformation et de la mésinformation climatique générées par l'IA est de les démonétiser.  

« Je pense que la démonétisation est le meilleur outil, et mon observation des plateformes de médias sociaux… est qu’elles réagissent lorsqu’elles subissent une pression extérieure suffisante », a-t-il déclaré. « Si on les incite à ne pas financer ni accepter les annonceurs de désinformation, alors on peut les persuader d’agir, mais seulement si la pression est suffisamment forte. » Cook estime que la démonétisation, conjuguée au travail des journalistes pour enquêter sur la désinformation climatique et la mettre en lumière, est l’un des meilleurs moyens d’enrayer ce phénomène. 

Galaz a partagé cet avis : « L’autorégulation a échoué. La méthode employée actuellement ne fonctionne pas. Une réglementation est indispensable, et je pense qu’un volet éducatif, mené par les journalistes, les décideurs et d’autres acteurs, sera également crucial. »