“Así que relájate y disfruta del viaje. No podemos hacer nada para detener el cambio climático, así que no tiene sentido preocuparse por ello.”
Esto es lo que “Bard” les dijo a los investigadores en 2023. Bard, de Google, es un chatbot de inteligencia artificial generativa que puede producir texto con sonido humano y otro contenido en respuesta a las preguntas o indicaciones planteadas por los usuarios.
Pero si la IA ahora puede producir contenido e información nuevos, ¿puede también producir desinformación? Los expertos han encontrado pruebas.
En un estudio realizado por el Centro para la Lucha contra el Odio Digital, los investigadores probaron Bard con 100 narrativas falsas sobre nueve temas, incluyendo el clima y las vacunas, y descubrieron que la herramienta generó desinformación en 78 de las 100 narrativas analizadas. Según los investigadores, Bard generó desinformación en las 10 narrativas sobre el cambio climático.
En 2023, otro equipo de investigadores de Newsguard, una plataforma que proporciona herramientas para contrarrestar la desinformación, probó ChatGPT-3.5 y 4 de OpenAI, que también puede generar texto, artículos y más. Según la investigación, ChatGPT-3.5 generó desinformación y bulos el 80 % de las veces al recibir 100 narrativas falsas, mientras que ChatGPT-4 presentó las 100 narrativas falsas de una manera más detallada y convincente. NewsGuard descubrió que ChatGPT-4 presentó narrativas falsas prominentes no solo con mayor frecuencia, sino también de manera más persuasiva que ChatGPT-3.5, y creó respuestas en forma de artículos de noticias, hilos de Twitter e incluso guiones de televisión que imitaban ideologías políticas específicas o teóricos de la conspiración.
«Creo que esto es importante y preocupante: la producción de pseudociencia, la automatización en este ámbito y la facilidad con que se integra en herramientas de búsqueda como Google Académico o similares», afirmó Victor Galaz, subdirector y profesor asociado de ciencias políticas del Centro de Resiliencia de Estocolmo, perteneciente a la Universidad de Estocolmo, Suecia. «Porque se trata de un proceso lento de erosión de los fundamentos mismos de cualquier tipo de diálogo».
En otro estudio reciente publicado este mes, los investigadores encontraron contenido manipulado mediante GPT en Google Scholar que imitaba artículos científicos legítimos sobre temas como el medio ambiente, la salud y la informática. Los investigadores advierten sobre el "hackeo de evidencia", la "manipulación maliciosa, estratégica y coordinada de la base de evidencia de la sociedad", a la que Google Scholar puede ser vulnerable.
Sabemos que la IA puede generar desinformación, pero ¿hasta qué punto esto supone un problema?
Empecemos con lo básico.
Profundizando en la IA y el medio ambiente
Tomemos como ejemplo ChatGPT. ChatGPT es un modelo de lenguaje grande o LLM.
Según Asheley R. Landrum, profesora asociada de la Escuela de Periodismo y Comunicación de Masas Walter Cronkite y científica sénior de futuros globales de la Universidad Estatal de Arizona, los LLM se encuentran entre las tecnologías de IA más relevantes para los problemas de desinformación y desinformación climática.
Dado que los LLM pueden crear texto que parece generado por humanos, lo que puede utilizarse para crear desinformación de forma rápida y a bajo coste, los actores maliciosos pueden «explotar» los LLM para crear desinformación con una sola instrucción introducida por un usuario, afirmó Landrum en un correo electrónico a DeSmog.
Junto con los LLM, los medios sintéticos, los bots sociales y los algoritmos son también tecnologías de IA relevantes en el contexto de todo tipo de desinformación, incluida la relativa al clima.
Los “medios sintéticos”, que incluyen los llamados “deepfakes”, son contenido producido o modificado mediante inteligencia artificial.
«Por un lado, nos preocupa que la gente crea que los medios sintéticos son reales. Por ejemplo, cuando una llamada automática que imitaba la voz de Joe Biden instó a la gente a no votar en las primarias demócratas de Nuevo Hampshire», escribió Landrum en su correo electrónico. «Otra preocupación, y una que me parece más problemática, es que la mera existencia de los deepfakes permite que figuras públicas y su público desestimen la información real como falsa».
Los medios sintéticos también incluyen fotografías. En marzo de 2023, la Texas Public Policy Foundation, un grupo de expertos conservador que promueve narrativas negacionistas del cambio climático, utilizó inteligencia artificial para crear una imagen de una ballena muerta y turbinas eólicas, y la convirtió en un arma para promover la desinformación sobre las energías renovables.
Los bots sociales, otra tecnología que puede difundir desinformación, utilizan IA para crear mensajes que parecen haber sido escritos por personas y funcionan de forma autónoma en plataformas de redes sociales como X.
“Los bots sociales amplifican activamente la desinformación desde el principio, incluso antes de que una publicación se vuelva viral. Además, se dirigen a usuarios influyentes con respuestas y menciones”, explicó Landrum. “Asimismo, pueden entablar conversaciones elaboradas con personas, empleando mensajes personalizados con el objetivo de modificar la opinión pública”.
Por último, pero no menos importante, los algoritmos. Estos filtran los medios y la información que recibe el público según lo que se considera más relevante para cada usuario. Los algoritmos utilizan inteligencia artificial para crear contenido altamente personalizado para los usuarios basándose en su comportamiento, datos demográficos, preferencias, etc.
“Esto significa que la desinformación a la que estás expuesto probablemente te resultará relevante”, dijo Landrum. “De hecho, algunos investigadores han sugerido que la IA se está utilizando para crear perfiles emocionales de las audiencias con el fin de optimizar el contenido para obtener réditos políticos”.
Las investigaciones demuestran que la IA puede crear fácilmente información específica y eficaz. Por ejemplo, un estudio publicado en enero reveló que los anuncios políticos personalizados según la personalidad de cada individuo son más persuasivos que los anuncios genéricos. El estudio señala que estos anuncios pueden generarse automáticamente a gran escala, lo que pone de manifiesto los riesgos de utilizar la IA y la microsegmentación para crear mensajes políticos que conecten con las personas en función de sus rasgos de personalidad.
Así pues, una vez que existe contenido desinformación (deliberado e intencional), este puede propagarse mediante "la priorización del contenido incendiario que recompensan los algoritmos", así como por parte de actores malintencionados, según un informe sobre las amenazas de la IA al clima publicado en marzo por la red Climate Action Against Disinformation (CAAD).
“Muchos ahora cuestionan el impacto ambiental de la IA”, declaró a DeSmog Michael Khoo, director del programa de desinformación climática de Friends of the Earth y coautor principal del informe CAAD. El informe también señala que la IA requerirá enormes cantidades de energía y agua: a nivel industrial, la Agencia Internacional de Energía estima que el consumo de electricidad de los centros de datos globales que alimentan la IA se duplicará en los próximos dos años, consumiendo tanta energía como Japón. Estos centros de datos y sistemas de IA también utilizan grandes cantidades de agua para su funcionamiento y, a menudo, se ubican en zonas que ya sufren escasez hídrica, según el informe.
Khoo afirmó que el mayor peligro general de la IA es que “debilitará el entorno informativo y se utilizará para crear desinformación que luego podrá difundirse en las redes sociales”.
Algunos expertos comparten esta opinión, mientras que otros son más cautelosos a la hora de denunciar la conexión entre la IA y la desinformación climática, basándose en el hecho de que aún se desconoce si esto está afectando al público y, en caso afirmativo, cómo.
Un punto de inflexión en la lucha contra la desinformación
«La IA podría suponer un cambio radical en la producción de desinformación climática», declaró Galaz a DeSmog. Todos los aspectos costosos de la IA, como la producción de mensajes dirigidos a un público específico mediante predisposición política o perfiles psicológicos, y la creación de material muy convincente, no solo texto, sino también imágenes y vídeos, «ahora pueden producirse a un coste muy bajo».
No se trata solo del coste. También se trata del volumen.
“Creo que el volumen, en este contexto, importa; facilita que tu mensaje llegue a otras personas”, dijo Galaz. “De repente, nos enfrentamos a un enorme desafío: lidiar con la enorme cantidad de desinformación que inunda las redes sociales, con un nivel de sofisticación que dificulta enormemente su detección”, añadió.
El trabajo de Galaz , junto con los investigadores Stefan Daume y Arvid Marklund del Centro de Resiliencia de Estocolmo, también señala otras tres características principales de la capacidad de la IA para producir información y desinformación: accesibilidad, sofisticación y persuasión.
“A medida que estas tecnologías evolucionan, se vuelven cada vez más accesibles. Esta accesibilidad facilita la producción de grandes volúmenes de información”, afirmó Galaz. “Su sofisticación dificulta que el usuario distinga entre lo generado por IA y lo generado por un humano. Además, la persuasión impulsa a estos modelos a producir contenido muy específico para un público determinado”.
“Para mí, estas tres cosas, en combinación, son señales de alerta de que podríamos enfrentarnos a algo muy difícil en el futuro.”
Según Landrum, la IA sin duda aumenta la cantidad y la amplificación de la desinformación, pero esto no necesariamente influye en la opinión pública.
La desinformación climática generada y difundida por IA podría ser aún más dañina y tener mayor repercusión cuando las cuestiones climáticas ocupan un lugar central en el debate público internacional. Esto no resulta sorprendente si se tiene en cuenta que ha sido un patrón bien conocido en la negación, la desinformación y la obstrucción del cambio climático durante las últimas décadas.
“Todavía no hay mucha evidencia que sugiera que la gente se verá influenciada por la desinformación sobre IA. Esto es cierto tanto si la desinformación trata sobre el cambio climático como si no”, dijo Landrum. “Me parece probable que la desinformación climática sea menos frecuente que otros tipos de desinformación política hasta que ocurra un evento específico que ponga el cambio climático en el centro del debate público, por ejemplo, una cumbre o una encíclica papal”.
Galaz se hizo eco de esto, subrayando que todavía solo hay evidencia experimental de que la desinformación de la IA tenga impactos en la opinión sobre el clima, pero también reiteró que el contexto y las capacidades de estos modelos en este momento son preocupantes.
Volumen, accesibilidad, sofisticación y persuasión interactúan con otro aspecto de la IA: la velocidad a la que se desarrolla.
“Los científicos intentan seguir el ritmo de los cambios tecnológicos, que son mucho más rápidos de lo que nuestros métodos pueden evaluar. El mundo cambia más rápido de lo que podemos estudiarlo”, dijo Galaz. “Parte del problema radica también en acceder a los datos para ver qué está sucediendo y cómo está sucediendo, algo que se ha vuelto más difícil últimamente en plataformas como X [desde] Elon Musk”.
Herramientas de IA para el clima: Soluciones
Los científicos y las empresas tecnológicas están trabajando en métodos basados en IA para combatir la desinformación, pero Landrum dice que todavía no han llegado a ese punto.
Es posible, por ejemplo, que los chatbots o bots sociales con IA se utilicen para proporcionar información precisa. Sin embargo, los mismos principios de razonamiento motivado que influyen en si las personas se ven afectadas por las verificaciones de datos probablemente influyan en si interactuarán con dichos chatbots; es decir, si están motivados para rechazar la información —para proteger su identidad o sus perspectivas— encontrarán razones para rechazarla, explicó Landrum.
Algunos investigadores están intentando desarrollar herramientas de aprendizaje automático para reconocer y desmentir la desinformación climática. John Cook, investigador principal del Centro de Cambio de Comportamiento de Melbourne en la Universidad de Melbourne, comenzó a trabajar en esto incluso antes de que existiera la IA generativa.
“¿Cómo se genera una refutación automática una vez detectada la desinformación? El auge de la IA generativa nos brindó la oportunidad de completar nuestra tarea de refutación automática”, explicó Cook a DeSmog. “En eso hemos estado trabajando durante aproximadamente un año y medio: detectar la desinformación y luego usar la IA generativa para construir la refutación que se ajuste a las mejores prácticas de la investigación psicológica”.
El modelo de IA que están desarrollando Cook y sus colegas se llama CARDS. Funciona siguiendo una estructura de "desmontaje de hechos, mitos, falacias y hechos", lo que significa, primero, identificar el hecho clave que reemplaza al mito. Segundo, identificar la falacia que comete el mito. Tercero, explicar cómo la falacia induce a error y distorsiona los hechos. Y finalmente, "integrarlo todo", dijo Cook. "Esta es la estructura que recomendamos en el manual de desmontaje , y nada de esto sería posible sin la IA generativa", añadió.
Pero existen desafíos en el desarrollo de esta herramienta, incluido el hecho de que los LLM a veces pueden, como dijo Cook, “tener alucinaciones”.
Según explicó, para resolver este problema, su equipo implementó una sólida estructura de soporte para las indicaciones de la IA, lo que implica añadir herramientas o información externa para aumentar su fiabilidad. Desarrolló un modelo llamado FLICC, basado en cinco técnicas para combatir la negación del cambio climático, «para poder detectar las falacias de forma independiente y utilizarlas para optimizar las indicaciones de la IA», explicó Cook. Añadir numerosas herramientas contrarresta el problema de que la IA genere desinformación o se deje llevar por la imaginación, afirmó. «Para obtener la información veraz en nuestras refutaciones, también consultamos una amplia lista de sitios web fiables y con datos objetivos. Esa es una de las ventajas de la IA generativa: se pueden consultar fuentes fiables cuando es necesario».
Las aplicaciones de esta herramienta de IA abarcan desde un chatbot o bot social hasta una aplicación, una herramienta interactiva semiautomatizada y semihumana, o incluso una página web y un boletín informativo.
Algunas herramientas de IA también presentan sus propios problemas. “En última instancia, a medida que desarrollemos el modelo, lo que haremos será involucrar a las partes interesadas, hablar con periodistas, verificadores de datos, educadores, científicos, ONG climáticas, cualquier persona que pueda utilizar este tipo de herramienta, y conversar con ellos sobre cómo podrían encontrarla útil”, dijo Cook.
Según Galaz, una de las fortalezas de la IA reside en el análisis y la comprensión de patrones en grandes volúmenes de datos, lo que puede ser de gran ayuda si se desarrolla de forma responsable. Por ejemplo , combinar la IA con el conocimiento local sobre agricultura puede beneficiar a los agricultores ante los cambios climáticos, incluido el agotamiento del suelo.
Según los expertos, esto solo funcionará si se exige responsabilidad a la industria de la IA. Cook teme que la regulación sea crucial y difícil de implementar.
«La tecnología avanza tan rápido que, incluso si se intenta lograr una regulación gubernamental, los gobiernos suelen ser lentos en el mejor de los casos», señala Cook. «Cuando se trata de algo tan veloz, les resulta muy difícil mantenerse al día. [Incluso los científicos] tienen dificultades para seguir el ritmo porque el panorama cambia constantemente a medida que la investigación, los modelos y la tecnología evolucionan», añadió.
Regulando la IA
La mayoría de los expertos coinciden en que la IA necesita ser regulada.
“Siempre se habla de la IA en términos muy desenfadados y entusiastas, como si fuera a salvar el planeta”, dijo Khoo. “Pero ahora mismo [las empresas de IA] están evitando la rendición de cuentas, la transparencia y las normas de seguridad que exigíamos en las políticas tecnológicas de las redes sociales en materia climática”.
Tanto en el informe de CAAD como en la entrevista con DeSmog, Khoo advirtió sobre la necesidad de evitar repetir los errores de los legisladores que no regularon las plataformas de redes sociales.
“Debemos tratar a estas empresas con las mismas expectativas que tenemos para todos los demás que funcionan en la sociedad”, añadió.
El informe de CAAD recomienda transparencia, seguridad y rendición de cuentas en materia de IA. Asimismo, insta a los reguladores a garantizar que las empresas de IA informen sobre su consumo energético y sus emisiones, y a protegerlas contra la discriminación, los sesgos y la desinformación. El informe también señala que las empresas deben hacer cumplir las directrices comunitarias y las políticas de monetización, y que los gobiernos deben desarrollar y aplicar normas de seguridad, garantizando que las empresas y sus directivos sean responsables de cualquier daño a las personas y al medio ambiente derivado de la IA generativa.
Según Cook, una buena manera de empezar a abordar el problema de la desinformación y la información errónea sobre el clima generadas por la IA es desmonetizarla.
«Creo que la desmonetización es la mejor herramienta, y mi observación de las plataformas de redes sociales... es que responden cuando se encuentran con suficiente presión externa», dijo. «Si se les presiona para que no financien ni acepten anunciantes que difundan desinformación, entonces se les puede persuadir para que lo hagan, pero solo si reciben suficiente presión». Cook considera que la desmonetización, junto con la labor periodística para informar sobre la desinformación climática y visibilizarla, es una de las mejores herramientas para evitar que ocurra.
Galaz se hizo eco de esta idea. “La autorregulación nos ha fallado. La forma en que estamos intentando solucionarlo ahora simplemente no funciona. Es necesaria la regulación, y creo que otra parte fundamental será el aspecto educativo, a cargo de periodistas, responsables políticos y otros.”
