Ciberseguridad en alerta: los peligros ocultos detrás de las caricaturas virales creadas con IA

Una moda que puede costar caro: cómo los retos virales de IA se convierten en un filón para los estafadores

En las últimas semanas, las redes sociales se han inundado de coloridas caricaturas generadas por inteligencia artificial que muestran a los usuarios de manera estilizada junto a representaciones de sus trabajos, hobbies y personalidades. Lo que comenzó como una tendencia inocente se ha convertido en una preocupación creciente para los expertos en ciberseguridad, quienes advierten que detrás de la diversión se esconden riesgos significativos para la seguridad digital de los usuarios.

La mecánica es simple y atractiva: los usuarios suben una fotografía suya, a menudo acompañada de detalles sobre su profesión o empleador, y piden a chatbots como ChatGPT de OpenAI que generen una caricatura personalizada. Sin embargo, este aparentemente inocente desafío viral podría estar proporcionando a los ciberdelincuentes información valiosa para llevar a cabo sofisticadas estafas de suplantación de identidad.

Los expertos alertan: «Están haciendo el trabajo de los estafadores»

Bob Long, vicepresidente de la empresa de verificación de edad Daon, no oculta su preocupación ante esta tendencia. «Están haciendo el trabajo de los estafadores, les dan una representación visual de quiénes son», explica Long a Euronews Next. La formulación misma del reto debería hacer sonar las alarmas, añade, porque «suena como si lo hubiera iniciado deliberadamente un estafador que quiere facilitarse el trabajo».

La combinación de una imagen personal con datos profesionales crea un cóctel peligroso. Una sola fotografía, sumada a la información que los usuarios comparten voluntariamente, puede revelar mucho más de lo que imaginan. Desde detalles sobre su entorno laboral hasta pistas sobre su ubicación geográfica, pasando por información sobre sus rutinas diarias.

¿Qué ocurre realmente con las imágenes que subes?

Cuando un usuario sube una imagen a un chatbot de IA, el sistema no solo la procesa para generar la caricatura solicitada. Según explica el consultor de ciberseguridad Jake Moore, el sistema extrae múltiples capas de datos: emociones del rostro, características del entorno, posibles pistas sobre la ubicación, y cualquier otra información que pueda ser relevante.

Esta información puede almacenarse durante períodos de tiempo indeterminados. Long señala que las imágenes recopiladas pueden utilizarse para entrenar generadores de imágenes con IA, incorporándose a sus conjuntos de datos. En el caso de una filtración de datos en una empresa como OpenAI, información sensible como imágenes personales y datos recopilados podrían acabar en manos de actores malintencionados dispuestos a explotarla.

Charlotte Wilson, responsable del área empresarial en Check Point, una compañía israelí de ciberseguridad, advierte sobre las consecuencias potenciales: «Las selfies ayudan a los delincuentes a pasar de estafas genéricas a suplantaciones de identidad personalizadas y muy convincentes». Una imagen en alta resolución, en manos equivocadas, puede servir para crear cuentas falsas en redes sociales o deepfakes realistas generados con IA que se utilicen en estafas sofisticadas.

La política de privacidad de OpenAI: ¿qué dicen realmente?

La configuración de privacidad de OpenAI indica que las imágenes subidas pueden utilizarse para mejorar el modelo, lo que puede incluir su entrenamiento. Sin embargo, cuando Euronews Next consultó directamente a ChatGPT sobre estos ajustes de privacidad, el chatbot aclaró que esto no significa que cada foto se incluya en una base de datos pública.

En su lugar, ChatGPT asegura que utiliza los patrones del contenido de los usuarios para afinar la forma en que el sistema genera imágenes. No obstante, esta explicación no tranquiliza a los expertos en ciberseguridad, quienes señalan que incluso el procesamiento de patrones puede revelar información sensible.

Recomendaciones para participar (si aún quieres hacerlo)

Para quienes aun así quieren sumarse a la moda, los expertos recomiendan limitar estrictamente lo que comparten. Wilson señala que los usuarios deberían evitar subir imágenes que revelen cualquier información identificativa. «Recorten al máximo, mantengan un fondo neutro y no incluyan insignias, uniformes, tarjetas o cordones de trabajo, pistas sobre su ubicación ni nada que le vincule con un empleador o con una rutina», aconseja.

También advierte de no compartir en exceso información personal en las instrucciones al chatbot, como el puesto de trabajo, la ciudad o el empleador. Moore recomienda revisar la configuración de privacidad antes de participar, incluida la opción de excluir sus datos del entrenamiento de la IA.

OpenAI cuenta con un portal de privacidad que permite a los usuarios excluirse del entrenamiento de la IA con sus datos haciendo clic en «do not train on my content». Los usuarios también pueden impedir que se utilicen para el entrenamiento sus conversaciones de texto con ChatGPT desactivando el ajuste «improve the model for everyone».

La legislación europea y tus derechos

La legislación de la Unión Europea permite a los usuarios solicitar la eliminación de los datos personales recopilados por la empresa. Sin embargo, OpenAI advierte de que puede conservar parte de la información incluso después de su supresión para hacer frente al fraude, el abuso y los problemas de seguridad.

Esta retención de datos, aunque justificada por razones de seguridad, preocupa a los defensores de la privacidad, quienes señalan que crea un precedente peligroso sobre el control que los usuarios tienen sobre su información personal una vez que la comparten con plataformas de IA.

Conclusión: ¿vale la pena el riesgo?

Mientras las redes sociales continúan inundadas de coloridas caricaturas generadas por IA, los expertos en ciberseguridad instan a los usuarios a pensar dos veces antes de participar en estas tendencias virales. Lo que parece un entretenimiento inocente podría estar proporcionando a los ciberdelincuentes las herramientas perfectas para llevar a cabo estafas cada vez más sofisticadas y personalizadas.

En una era donde la información es poder, y donde la inteligencia artificial puede convertir incluso los detalles más pequeños en armas poderosas para el fraude, la precaución no es paranoia, sino una necesidad. Antes de subir esa próxima foto para generar tu caricatura viral, pregúntate: ¿estoy dispuesto a pagar el precio de mi privacidad por unos minutos de fama en las redes sociales?

Etiquetas virales: #IA #Ciberseguridad #Deepfakes #EstafasDigitales #Privacidad #ChatGPT #OpenAI #TendenciasViral #SeguridadEnLínea #ProtecciónDeDatos #InteligenciaArtificial #RiesgosTecnológicos #SuplantaciónDeIdentidad #RedesSociales #Tecnología #Ciberdelincuencia #DatosPersonales #PrivacidadDigital #AmenazasCibernéticas #SeguridadInformática

,