Noticia

Alertan sobre riesgo de fuga de datos sensibles por uso de IA en el gobierno mexicano

En el corazón de la transformación digital del gobierno mexicano, una amenaza silenciosa acecha: el uso descontrolado de herramientas de Inteligencia Artificial (IA) podría estar exponiendo información confidencial sin que las instituciones se den cuenta. Expertos en ciberseguridad y tecnología advierten que la falta de regulación, transparencia y capacitación en el manejo de estas herramientas está generando un vacío normativo que pone en riesgo la privacidad de los ciudadanos y la seguridad nacional.

Juan Manuel Aguilar, especialista en ciberseguridad, explica que los modelos de lenguaje de gran escala operan como una «nube de información» que procesa todo lo que se sube. Esto significa que si un funcionario introduce documentos oficiales o datos sensibles, existe la posibilidad de que esa información se «viralice» si alguien más consulta temas relacionados. «Es como tirar una piedra a un estanque: las ondas se expanden y pueden llegar a lugares inesperados», advierte Aguilar.

Esta vulnerabilidad se agrava por la dificultad de medir y sistematizar el uso de estas herramientas. Jorge Ordelin, investigador del Centro de Investigación y Docencia Económicas (CIDE), señala que el uso informal de IA por parte de funcionarios es imposible de rastrear, lo que impide saber con qué frecuencia se emplean, qué procesos se están automatizando y en qué casos se están introduciendo datos personales.

Incluso en los casos donde las dependencias afirman haber tomado precauciones, la opacidad persiste. La Secretaría de Relaciones Exteriores (SRE) asegura que su Chatbot PTAT no solicita, almacena ni trata datos personales, limitándose a emitir información estándar. Sin embargo, al probar el chatbot a través de WhatsApp, se solicitan datos personales como la CURP y el número de pasaporte para realizar trámites de renovación. Esta contradicción pone en evidencia la falta de transparencia y control en el uso de estas tecnologías.

Ordelin, que junto con su colega César Rentería desarrolló el Reporte de Algoritmos 2024, enfatiza que no está en contra de la incorporación de la IA en instituciones de gobierno, pero insiste en la necesidad de transparencia algorítmica. «No basta con saber que se está usando IA; es necesario conocer cómo funcionan los sistemas y cómo se garantiza la protección de los datos», afirma.

Vacío normativo y falta de regulación

Ante la rápida adopción de la IA y el riesgo que implica el manejo de información sensible, existe una urgencia de establecer un marco regulatorio robusto y mecanismos de control. Aguilar señala que la solución debe ir más allá de la toma de conciencia institucional en ciberseguridad. «Es imperativo un reforzamiento en la profesionalización del personal de gobierno, junto con la creación de una legislación, normativa, manual y protocolo específicos para la IA», destaca.

Ordelin coincide en que una regulación general pierde visión, ya que hay muchas áreas de aplicación dentro de la IA que requieren especificidad. «Mientras más general sea el tema de la regulación de la IA, peor es», dice, ya que dificulta que las personas entiendan los requerimientos específicos, como la necesidad de que los códigos, los parámetros y los modelos sean abiertos.

El intento más reciente para establecer una guía de buenas prácticas es la declaración de los ‘Principios Chapultepec’, presentada el 29 de enero de 2024 por la Agencia de Transformación Digital y Telecomunicaciones (ATDT) y la Secretaría de Ciencia, Humanidades, Tecnología e Innovación (Secihti). Estos son 10 principios éticos orientados a guiar el desarrollo y uso de la IA en el país. Sin embargo, su implementación y efectividad aún están por verse.

Guías parciales e intentos fallidos

Los esfuerzos por crear un marco legal que garantice la transparencia y la ética en el empleo de la IA han sido insuficientes. Desde el ámbito legislativo, los intentos por regular la IA no han prosperado en el Congreso de la Unión, como la iniciativa presentada en mayo de 2023 para expedir la ‘Ley de Regulación Ética de la Inteligencia Artificial y la Robótica’.

De las instituciones que admitieron el uso de IA, solo el Banco de México (BM) informó que cuenta con la ‘Guía para el uso seguro de herramientas públicas de inteligencia artificial generativa’. El BM, que utiliza siete sistemas de IA desarrollados de forma interna o por proveedores externos, con un gasto de 8.3 millones de pesos, es una excepción.

En contraste, otras dependencias que manejan datos sensibles no cuentan con tales lineamientos. La Secretaría de la Función Pública (SFP), que está probando Gemini, expone que no tiene lineamiento interno, manual, guía o política sobre el uso ético y responsable de la IA. El Servicio de Administración Tributaria (SAT) refiere no identificar documentación, a pesar de sus modelos de aprendizaje estadístico. Y la SRE argumenta que, al no almacenar datos con su chatbot, no es necesaria la generación de documentación sobre el uso ético.

Conclusión

La adopción de la IA en el gobierno mexicano es un avance inevitable, pero también un desafío que requiere atención inmediata. La falta de regulación, transparencia y capacitación está generando un vacío normativo que pone en riesgo la privacidad de los ciudadanos y la seguridad nacional. Expertos como Aguilar y Ordelin insisten en la necesidad de un marco legal robusto, transparencia algorítmica y profesionalización del personal para garantizar un uso ético y responsable de estas tecnologías. Mientras tanto, los ‘Principios Chapultepec’ y otras iniciativas parciales parecen insuficientes para abordar la magnitud del problema. El tiempo corre en contra, y el gobierno debe actuar con urgencia para evitar que la IA se convierta en una amenaza para la seguridad y la privacidad de los mexicanos.

Tags y frases virales:

• «La IA se viraliza, pero tus datos también»
• «Nube de información: ¿qué pasa con tus datos en la IA?»
• «El gobierno usa IA, pero ¿quién protege tus datos?»
• «Transparencia algorítmica: la clave para un uso ético de la IA»
• «Sin regulación, la IA es una amenaza para tu privacidad»
• «¿Quién vigila a quién? La IA en el gobierno mexicano»
• «Datos sensibles en riesgo: la IA sin control»
• «El vacío normativo que pone en peligro tu información»
• «IA en el gobierno: avance o amenaza?»
• «Profesionalización y regulación: la solución para la IA en el gobierno»

,