¿Es posible detener las deepfakes y la basura IA?

El periodismo, entre la basura algorítmica y las ficciones políticas generadas con inteligencia artificial.

Este artículo nace en un cruce de caminos: comunicación, periodismo e inteligencia artificial. En un momento en que los relatos digitales se aceleran y se desdibujan, necesitamos nuevas lentes para entender cómo se transforma el ecosistema informativo. Lo que estás a punto de leer busca precisamente eso: analizar el impacto de los contenidos generados por IA en la comunicación, y muy especialmente en la política y el periodismo.

Bienvenidos al gran circo de la información, donde la realidad y la ficción se entrelazan bajo el foco de la viralidad. Las deepfakes y los contenidos artificiales han tomado el escenario, desafiando nuestra percepción de la verdad y reconfigurando las reglas del juego.

Para descifrar este fenómeno, he reunido las voces de expertos a los que sigo, admiro y con los que aprendo. Sus miradas, desde ángulos diversos, nos ayudarán a comprender uno de los retos más complejos de nuestro tiempo. ¿Te atreves a mirar en la pista central?

Deepfakes y manipulación política, por Alba Precedo

Cuando Alba me dice Musk, lo dejo todo. Y os cuento por qué. Alba Precedo es una periodista de InfoLibre que me llama a menudo para hablar sobre temas vinculados a lo que denomino la tecnogeopolítica. La evolución de Twitter a X con Elon Musk metido en la estrategia política del movimiento #MAGA ha sido uno de sus artículos estrella en los que doy mi perspectiva como experto. Hace unos días Alba me llamó porque estaba haciendo un artículo sobre inteligencia artificial y campañas políticas y quería mi análisis: ‘El peligro de los 'deepfakes' o cómo la IA es el arma de manipulación política con la que hubiera soñado Goebbels’.

El uso del contenido generado por IA se convierte en deepfakes desde un punto de vista de la manipulación emocional. En la estrategia política, este tipo de contenidos buscan asentar ideas más allá de la realidad.

Suscripción premium. En apenas un mes, el Partido Popular ha publicado diferentes vídeos generados con IA, una estrategia que, según sus propias declaraciones, les permite conectar con un público joven y generar impacto en redes sociales. Y Cuca Gamarra, secretaria general del Partido Popular, asegura que van a seguir haciédolo.

La isla de las corrupciones. Desde imágenes manipuladas de Pedro Sánchez en "La isla de las corrupciones" hasta una estatua dorada de Donald Trump en un vídeo sobre Gaza-ciudad-de-vacaciones, la IA se ha convertido en una pieza central en la narrativa política. El uso creciente de deepfakes y contenidos manipulados abre un debate sobre los límites éticos y legales de la propaganda digital.

Aspectos legales, según Ignasi Llorente

Además, el uso de estas tecnologías en la comunicación política plantea serias preocupaciones sobre su impacto en la opinión pública y el derecho a la información de los ciudadanos. El consultor de comunicación

Ignasi Llorente

advierte sobre los límites legales: “Ante este panorama, es esencial que los legisladores, las autoridades de protección de datos y la sociedad civil trabajen conjuntamente para establecer mecanismos de supervisión eficaces.”

Para Llorente, el marco jurídico a tener en cuenta es el Reglamento Europeo de Inteligencia Artificial (UE 2024/1689) y el Reglamento General de Protección de Datos (RGPD).

A los aspectos legales hay que sumar las dudas sobre el uso de estos contenidos falsos generados por IA para confundir a los votantes pueden ser contraproducentes para la democracia.

Anular la noción de verdad, por Xavier Peytibi

El consultor político

Xavier Peytibi

, por otro lado, también aporta su visión desde el punto de vista del objetivo político en el desarrollo de la desinformación:

“En un contexto de polarización, la desinformación encuentra un terreno mucho más fértil para obtener réditos políticos. Sin embargo, y cada vez más, la desinformación no busca simplemente instaurar una mentira como verdad, sino que se utiliza para socavar la confianza en todo. Se trata de sembrar dudas sobre cualquier aspecto de la realidad, desde las fuentes de información hasta las propias instituciones, despojando a la ciudadanía de su capacidad de discernir la verdad.

Hoy en día, la principal estrategia no consiste en sustituir la verdad por mentiras, sino en anular completamente la noción de verdad, eliminando así la capacidad o incluso el interés en diferenciar entre lo verdadero y lo falso. Es la inundación del espacio informativo con datos contradictorios y la constante promoción de contenidos, muchos de ellos emocionales. Con la IA, esos contenidos no dejan de proliferar al ser producidos de manera mucho más sencilla y barata, dejando lugar a la creatividad pero, también, a una mayor capacidad de engañar, manipular y mentir. En ese contexto polarizado, esos contenidos slot se convierten en creíbles, y van minando poco a poco la confianza en las organizaciones y entidades políticas a la vez que alimentan la polarización en comunidades que pueden llegar a creer esos mensajes e imágenes”.

¿Qué ha sucedido en Argentina? Lo explica Irina Sternik

He preguntado a la periodista de cultura digital

Irina Sternik

, por su parte, sobre las deepfakes en la política argentina y Sternik me envía muy buenos ejemplos:

“Durante la campaña presidencial en Argentina en 2024, hubo algunos casos de videos falsos que fueron desestimados rápidamente (Patricia Bullrich borracha, Martha Argerich tocando la marcha peronista o diversos videos falsos del ex candidato a presidente Sergio Massa). Hasta entonces, Reverso, un proyecto periodístico colaborativo que une a más de 130 medios argentinos, investigó 139 casos de desinformación que incluían este tipo de artificio.

Desde entonces, el panorama cambió. Es sabido que el presidente de la Argentina, Javier Milei es un tecno-optimista, como se llama al entusiasmo por la tecnología y los mercados como motores del progreso humano, sin crítica alguna. Por eso, desde que asumió su mandato, usó la IA como herramienta de difusión de sus ideales. Y desde entonces, su Instagram y cuenta de X están plagadas de imágenes generadas por IA, muchos perros ilustrados (ya que se desconoce qué pasó con ellos) con programas de IA y muchos leones: con él, con Doland Trump, con martillos, con motosierras, con leyendas, con tazas con la leyenda “lágrimas de zurdo”, con la ley de bases, etc.

Con respecto a deepfakes o videos, fueron generados o promovidos por él mismo y no en base a desinformación. El 6 de diciembre de 2024, en un post colaborativo, compartió una canción hecha con IA compuesta de deepfakes de todos los representantes políticos. El, personificando a Elvis Presley. Una semana atrás, otro post colaborativo fue protagonizado por un video hecho con IA, con otro deepfake consentido del presidente”.

IA y comunicación política: una revisión histórica, por Carlos Guadián

El consultor en inteligencia artificial

Carlos Guadián

pone contexto sobre el uso histórico de la IA en los procesos electorales y en el ámbito de la política, poniendo en relevancia no solamente las oportunidades sino también los desafíos: “Sin embargo, esta revolución no está exenta de desafíos, como la necesidad de supervisar estrechamente la exactitud y el sesgo en los contenidos generados”.

Cómo va a afectar la Inteligencia Artificial las elecciones en 2024

🗑 Basura generada por IA

Sumo a esta visión política de las deepfakes, cómo, en general, el contenido generado por IA está afectando nuestra percepción a través de las plataformas digitales. Y aquí, vais a flipar. El último artículo de Jason Koebler en 404 Media es una advertencia para tod@s: ‘AI Slop Is a Brute Force Attack on the Algorithms That Control Reality’. Koebler afirma que la ‘basura’ generada por IA’ (en inglés, AI Slop), vídeos extraños y con poca calidad que inundan la web son un "ataque de fuerza bruta contra los algoritmos que controlan la realidad", y está funcionando, según Koebler: "el contenido creado por humanos está siendo casi completamente eclipsado por el contenido generado por IA debido a su enorme cantidad".

Cada vez recibimos más contenido asociado con IA. El contenido creado por humanos está siendo eclipsado por el generado por IA, alterando los algoritmos.

Koebler asegura que cada vez es más habitual encontrar contenido de este tipo en los Reels de Instagram, TikTok o Facebook. “A menudo, muchos usuarios parecen haber perdido por completo la capacidad de distinguir entre lo real y lo falso, o simplemente ya no les importa”.

Las plataformas y los nuevos tipos de empresas emergentes no intentan detener este spam. Se benefician de él, lo facilitan y, “lo peor de todo, encuentran maneras de potenciarlo”, argumenta Koebler.

• First Came ‘Spam.’ Now, With A.I., We’ve Got ‘Slop’ | The New York Times

• The Entire Internet Is Being Polluted by AI Slop | Futurism

• AI-generated spam is starting to fill social media. Here's why | NPR

¿Quién parará esta avalancha? Hace no tanto tiempo, la promesa de Internet era clara: un espacio abierto, colaborativo y construido por humanos para humanos. Pero “esa visión se ha ido desmoronando”, según la columnista de The Guardian, Arwa Mahdawi, por el Slop AI: ‘AI-generated ‘slop’ is slowly killing the internet, so why is nobody trying to stop it?’.

El objetivo de la basura generada por IA no es atraer a las personas, sino manipular los sistemas de recomendación para obtener visibilidad masiva.

Spammers. Este fenómeno recuerda a un ataque de fuerza bruta en ciberseguridad, donde los hackers prueban miles de combinaciones de contraseñas hasta dar con la correcta. En este caso, los spammers de IA generan variaciones infinitas de contenido basura hasta que alguna logra colarse en los feeds de millones de usuarios. Y, en lugar de frenarlo, las plataformas digitales están incentivando esta dinámica.

Las Big Tech no quieren parar el caos. Facebook no solo está lleno de slop AI, sino que su propio algoritmo lo está amplificando. Un estudio de Stanford y Georgetown descubrió que la red social potencia activamente las publicaciones generadas por inteligencia artificial, favoreciendo su difusión por encima del contenido humano. Meta, la empresa matriz de Facebook e Instagram, incluso ha experimentado con la creación de personajes virtuales con IA, como Liv, una supuesta "madre negra queer de dos hijos", diseñada para interactuar con usuarios. Aunque la iniciativa fue cancelada tras una ola de críticas, es un claro indicio de hacia dónde se dirige el futuro digital: un espacio donde humanos y bots conversan sin distinguirse unos de otros.

Esta semana hemos descubierto. Mientras tanto, medios de comunicación ya publican artículos escritos por IA, a veces incluso firmados por autores ficticios. Esta semana hemos sabido que el diario italiano Il Foglio publicará la primera edición impresa del mundo generada por IA.

Periodismo vs enshittification. En un entorno digital cada vez más dominado por contenidos generados por IA sin contexto ni autoría —lo que Cory Doctorow denomina enshittification—, la frontera entre información y manipulación se diluye peligrosamente. La proliferación de contenidos diseñados únicamente para complacer al algoritmo se combina con el uso estratégico de la desinformación por parte de líderes políticos que fabrican realidades a medida. La verdad deja de ser un valor central y pasa a convertirse en un obstáculo para captar atención. Y es ahí donde el periodismo, pese a todas sus dificultades, puede desempeñar un papel fundamental.

Por tanto, ¿es posible detener las deepfakes y la basura generada por IA? Posiblemente no del todo. Pero sí es posible reducir su impacto, desenmascarar sus mecanismos y ofrecer una alternativa basada en el criterio humano. Quizá, como propone Doctorow, haya que replantear las reglas del juego: garantizar el derecho a salir de las plataformas sin perder datos, exigir transparencia algorítmica y devolver el control a los usuarios. Pero, sobre todo, necesitamos un periodismo valiente, capaz de sostener el relato frente a la distorsión.

Come writers and critics
Who prophesize with your pen