Inteligencia Artificial coordinada podría replicar campañas de desinformación en redes sociales, según estudio

Un grupo de investigadores ha demostrado que agentes de inteligencia artificial pueden emular de forma autónoma las dinámicas de influencia y manipulación que se observan en campañas políticas en redes sociales. El experimento, publicado en ArXiv, utilizó perfiles generados a partir de datos de las elecciones presidenciales de Estados Unidos de 2020 para crear identidades políticas creíbles dentro de un entorno simulado.

En total, 50 agentes virtuales participaron en el estudio. De ellos, 10 funcionaron como actores activos en una campaña de influencia, mientras que los 40 restantes representaron a usuarios ordinarios de una red social ficticia. Estos últimos se dividieron en dos grupos de 20 cada uno: uno alineado con la narrativa de la campaña y otro con posiciones ideológicas opuestas.

Los investigadores evaluaron tres escenarios distintos. En el primero, todos los agentes conocían el objetivo de la campaña pero ignoraban quiénes eran sus aliados. En el segundo, además de la meta común, identificaban a sus compañeros y podían interactuar con ellos para reforzar la narrativa. En el tercero, se añadió un mecanismo de deliberación colectiva que permitía coordinar de manera más explícita las acciones del grupo.

Los resultados mostraron que incluso con niveles simples de coordinación, los agentes de IA pueden reproducir comportamientos característicos de las campañas de influencia organizadas en redes sociales. Entre ellos se encuentran el refuerzo de narrativas compartidas, la amplificación estratégica de contenidos y la aceleración de la propagación de mensajes dentro de la red.

Por ejemplo, cuando los agentes operaron de forma coordinada, comenzaron a formar un grupo altamente conectado en el que se compartían publicaciones de manera constante, se respondían mutuamente y reforzaban sus propios mensajes. Este fenómeno se evaluó con la proporción de republicaciones entre los participantes de la campaña. En el grupo que solo conocía el objetivo común, esta proporción fue de 0,82. Cuando los agentes también sabían quiénes eran sus aliados, el indicador aumentó a 0,96, mientras que en el escenario con deliberación colectiva alcanzó 0,94.

Algo similar ocurrió con la densidad de la red, una medida que refleja cuántas conexiones existen en relación con el total posible. Este indicador pasó de 0,74 en el escenario básico a 0,89 en las condiciones con mayor nivel de coordinación entre los participantes.

Este comportamiento también impulsó una amplificación sincronizada del contenido, en la que los agentes de la campaña publicaban mensajes muy similares o idénticos en intervalos cercanos. El estudio midió la similitud en los patrones de republicación entre los participantes y detectó un incremento progresivo: 0,28 en el escenario de objetivo común, 0,31 cuando los agentes conocían a su equipo y 0,35 en el contexto con deliberación colectiva.

En términos prácticos, esta dinámica podría favorecer la visibilidad de determinados contenidos dentro de una plataforma social, ya que los algoritmos suelen priorizar los mensajes que reciben numerosas interacciones en un corto periodo de tiempo. En otras palabras, la coordinación permite que los agentes multipliquen rápidamente el alcance de los contenidos que consideran estratégicos.

Los autores advierten que, aunque el experimento se realizó en un entorno controlado, los hallazgos sugieren que la desinformación organizada podría ejecutarse de forma autónoma mediante sistemas de IA, sin necesidad de intervención humana constante. Esto plantea desafíos importantes para la moderación de contenidos y la detección temprana de campañas de influencia artificiales en plataformas digitales.

Tags virales: Inteligencia Artificial, desinformación, campañas de influencia, redes sociales, IA coordinada, elecciones 2020, ArXiv, moderación de contenidos, bots automáticos, manipulación digital, amenazas cibernéticas, plataformas sociales, narrativas políticas, experimentos con IA, seguridad online.

,