La invasión viral de la «basura de IA» que está inundando las redes sociales

El caso que despertó la alarma

Théodore, un estudiante parisino de 20 años, recuerda con perplejidad la primera vez que se topó con una imagen generada por inteligencia artificial que lo dejó completamente desconcertado. La fotografía mostraba a dos niños del sur de Asia, demacrados y pobres, pero con un detalle absurdo: ambos lucían barbas espesas a pesar de sus rasgos infantiles. Uno de ellos no tenía manos y solo tenía un pie, mientras que el otro sostenía un cartel que decía «es mi cumpleaños» y pedía un «me gusta».

Lo más surrealista era el contexto: estaban sentados en medio de una calle transitada bajo una lluvia torrencial, con un pastel de cumpleaños con velas encendidas. La imagen estaba llena de indicios de que había sido creada con IA, pero en Facebook se volvió viral con casi un millón de «me gusta» y emojis de corazón.

«Algo se encendió en mí», recuerda Théodore. «Me quedé atónito. Las absurdas imágenes creadas con IA estaban por todas partes en Facebook y estaban teniendo una gran repercusión sin que nadie se fijara en ellas. Me pareció una locura».

El nacimiento de una cruzada contra la «basura de IA»

Así nació «Insane AI Slop», la cuenta de X que Théodore abrió para criticar y burlarse del contenido que engañaba a la gente. Su bandeja de entrada pronto se llenó de mensajes de personas enviando propuestas para supuestas «basuras de IA».

Los temas comunes comenzaron a hacerse evidentes: religión, militares o niños pobres haciendo cosas conmovedoras. «Los niños del tercer mundo haciendo cosas impresionantes siempre son populares, como un niño pobre en África que construye una estatua increíble con basura. Creo que a la gente le parece bien, así que los creadores piensan: ‘Genial, hagamos más de esto’», explica Théodore.

La cuenta pronto alcanzó más de 133.000 seguidores, pero lo que comenzó como una cruzada personal se ha convertido en una batalla contra una marea imparable. La avalancha de «basura de la Inteligencia Artificial» —definida como videos e imágenes falsos, poco convincentes y creados rápidamente— ahora parece incontrolable.

La «tercera fase» de las redes sociales

En octubre, durante una presentación de resultados, el director ejecutivo de Meta, Mark Zuckerberg, declaró con alegría que las redes sociales habían entrado en una tercera fase, ahora centrada en la IA. «La primera fue cuando todo el contenido provenía de amigos, familiares y cuentas que seguías directamente. La segunda fue cuando añadimos todo el contenido de los creadores. Ahora que la IA facilita la creación y remezcla de contenido, vamos a añadir otro enorme corpus de contenido», declaró a los accionistas.

Meta no solo permite publicar contenido generado por IA, sino que también ha lanzado productos para facilitar su creación. Generadores de imágenes y videos, así como filtros cada vez más potentes, se ofrecen ahora de forma generalizada.

El director ejecutivo de YouTube, Neal Mohan, reconoció en su blog de previsión para 2026 que más de un millón de canales de YouTube utilizaron las herramientas de IA de la plataforma para crear contenido en solo diciembre. «Al igual que el sintetizador, Photoshop y la CGI revolucionaron el sonido y las imágenes, la IA será una bendición para los creativos que estén listos para involucrarse», escribió.

El auge de la «basura de IA» y sus consecuencias

Sin embargo, Mohan también reconoció la creciente preocupación por el «contenido de baja calidad, también conocido como basura de IA». Un estudio de la empresa de inteligencia artificial Kapwing reveló que el 20% del contenido que se muestra en una cuenta de YouTube recién creada ahora es «video de IA de baja calidad».

Los videos cortos, en particular, fueron un éxito, ya que Kapwing los encontró presentes en 104 de los primeros 500 clips de YouTube Shorts mostrados en una nueva cuenta creada por los investigadores. La economía de los creadores parece ser un gran impulsor, ya que los creadores de contenido y los canales pueden generar ingresos gracias a la interacción y las visualizaciones.

A juzgar por las visualizaciones en algunos canales y videos de IA, la gente se siente atraída por el contenido, o al menos, por los algoritmos que dictan lo que vemos. Según Kapwing, el canal de contenido basura sobre IA con más visualizaciones es Bandar Apna Dost, de India, con 2.070 millones de visualizaciones, lo que genera a sus creadores unas ganancias anuales estimadas en US$4 millones.

La reacción contra la «basura de IA»

Pero también se está produciendo una reacción negativa. Bajo muchos videos virales de IA, es habitual ver una oleada de comentarios furiosos que critican el contenido. Théodore contribuyó a impulsar esta reacción al quejarse a los moderadores de YouTube sobre la avalancha de extraños dibujos animados de IA que conseguían muchísimas visualizaciones. En su opinión, eran perturbadores y dañinos, y en algunos casos le parecían dirigidos a niños.

Los videos se titulaban cosas como «Mamá gata salva a gatito de parásitos intestinales mortales» y mostraban escenas sangrientas. Otro video corto mostraba a una mujer en camisón que se come un parásito y luego se convierte en un monstruo gigante y furioso que finalmente es curado por Jesús.

YouTube eliminó los canales, avisando que lo hicieron porque infringían las normas de su comunidad. Afirmaron que su objetivo es conectar a sus usuarios con contenido de alta calidad, independientemente de cómo se haya creado, y que trabajan para reducir la difusión de contenido de baja calidad basado en IA.

Incluso sitios web de estilo de vida aparentemente acogedores como Pinterest se han visto afectados. Los usuarios se han sentido tan frustrados por la avalancha de contenido basura generado por IA que la compañía introdujo un nuevo sistema de exclusión voluntaria para el contenido generado por IA.

La «podredumbre cerebral» y sus efectos

Emily Thorson, profesora asociada de la Universidad de Siracusa (EE. UU.), especializada en política, desinformación y percepciones erróneas, afirma que depende de lo que la gente haga en la red social. «Si una persona usa una plataforma de videos cortos solo para entretenerse, su criterio para determinar si algo vale la pena es simplemente ‘¿es entretenido?’. Pero si alguien usa la plataforma para aprender sobre un tema o para conectar con miembros de la comunidad, podría percibir el contenido generado por IA como más problemático».

Alessandro Galeazzi, de la Universidad de Padua (Italia), investiga el comportamiento en redes sociales y las cámaras de eco. Afirma que verificar si un video es de IA requiere esfuerzo mental y, a largo plazo, teme que la gente simplemente deje de comprobarlo.

«Creo que la avalancha de contenido absurdo y de baja calidad generado mediante IA podría reducir aún más la capacidad de atención de las personas», afirma. Habla del riesgo de «podredumbre cerebral»: la idea de que nuestra exposición constante a las redes sociales está perjudicando nuestras capacidades intelectuales.

Más allá de la «basura»: consecuencias graves

Más allá de la basura, algunos contenidos creados con IA pueden tener consecuencias mucho peores. Las empresas xAI de Elon Musk y la plataforma social X se vieron obligadas recientemente a cambiar sus normas después de que el chatbot Grok se utilizara para desnudar digitalmente a mujeres y niños en X.

Y tras el ataque estadounidense a Venezuela, se difundieron videos falsos de personas llorando en las calles y agradeciendo a Estados Unidos. Este tipo de contenido puede influir en la opinión pública y dar la impresión de que la redada estadounidense fue más popular de lo que realmente fue.

Manny Ahmed, director ejecutivo de OpenOrigins, una empresa que distingue entre IA e imágenes reales, afirma que necesitamos una nueva forma para que quienes publican contenido real puedan demostrar que sus videos e imágenes son auténticos. «Ya hemos llegado al punto en que no se puede determinar con certeza qué es real solo con una inspección», afirma. «En lugar de intentar detectar lo falso, necesitamos una infraestructura que permita que el contenido real demuestre públicamente su origen».

El futuro de las redes sociales sin «basura»

Entonces, si los gigantes tecnológicos actuales están, en general, dispuestos a dejar que fluya la basura, ¿podría surgir una nueva plataforma de redes sociales que prometa una alternativa sin basura y eventualmente desafíe a las empresas tradicionales?

Parece improbable, ya que la detección de la IA es cada vez más difícil. Las máquinas ya no pueden detectar con precisión si un video o una imagen es definitivamente falso, y tendrían aún más dificultades para juzgar subjetivamente si el contenido se considera basura.

En cuanto a Théodore, siente que la batalla está perdida y que la IA ha llegado para quedarse. A pesar de las publicaciones que siguen llegando a su buzón de sus ahora 130.000 seguidores, ya no publica tanto y se ha resignado en gran medida a la nueva normalidad de la vida en línea.

«A diferencia de muchos de mis seguidores, no estoy dogmáticamente en contra de la IA», dice. «Estoy en contra de la contaminación en línea de la IA, creada para el entretenimiento y las visualizaciones rápidas».

---

Tags y palabras virales: Inteligencia Artificial, IA, redes sociales, Facebook, Instagram, TikTok, YouTube, contenido viral, basura de IA, fake news, desinformación, podredumbre cerebral, moderación de contenido, algoritmos, Mark Zuckerberg, Elon Musk, YouTube Shorts, contenido generado por IA, reacción en redes, comentarios virales, contenido falso, deepfake, tecnología, futuro digital, redes sociales 2024, contenido automatizado, bots, engagement, visualizaciones, likes, seguidores, tendencias virales, cultura digital, ética tecnológica, privacidad online, seguridad digital, redes sociales sin censura, contenido auténtico, lucha contra la desinformación, impacto de la IA en la sociedad, cambios en las redes sociales, nueva normalidad digital.

,