OpenAI Planea Lanzar un Modo Adulto Solo Texto para ChatGPT, Pese a las Advertencias Internas

OpenAI, la empresa líder en inteligencia artificial detrás del popular chatbot ChatGPT, ha confirmado sus planes de lanzar eventualmente un modo adulto solo texto, permitiendo a los usuarios mantener conversaciones con temas para adultos. La noticia, reportada por el Wall Street Journal, ha generado un intenso debate interno y preocupación entre los asesores de la compañía sobre los riesgos potenciales de esta función.

¿Qué Implica el Modo Adulto?

Según fuentes de OpenAI citadas por el Journal, el modo adulto permitirá a los usuarios mayores de edad mantener chats de texto con temas eróticos y para adultos. Sin embargo, existirán limitaciones importantes: el sistema no podrá generar contenido audiovisual como audio erótico, imágenes o videos. Un portavoz de OpenAI describió estos chats como «erotismo más que pornografía», estableciendo una distinción sutil pero significativa en la naturaleza del contenido permitido.

La decisión de OpenAI de avanzar con esta función representa un cambio notable en la política de la empresa, que desde el lanzamiento de ChatGPT en noviembre de 2022 había prohibido estrictamente el contenido erótico. En los últimos años, la compañía ha comenzado a reconsiderar esta postura, explorando formas de permitir cierto contenido NSFW (No Safe For Work) bajo condiciones controladas.

Retrasos y Preocupaciones Internas

Inicialmente, OpenAI planeaba lanzar esta función para finales de marzo, pero a principios de este mes anunció un retraso para enfocarse en «elementos de mayor prioridad», incluyendo mejoras en inteligencia, personalidad, personalización y hacer la experiencia más proactiva. La empresa afirmó que quería tomar el tiempo necesario para implementar correctamente el modo adulto.

El retraso coincidió con la salida de Ryan Beiermeister, ejecutiva a cargo de la política de productos que se había opuesto públicamente al lanzamiento de esta función. Beiermeister fue despedida en enero, con la empresa alegando discriminación sexual contra un colega masculino. Sin embargo, el Wall Street Journal reportó que fuentes internas sugieren que su despido estaba relacionado con sus preocupaciones sobre la falta de salvaguardas contra contenido de explotación infantil y la facilidad con la que los adolescentes podrían acceder a estos chats.

Beiermeister, quien había iniciado un programa de mentoría entre pares para mujeres en la empresa, negó las acusaciones de discriminación, calificándolas como «absolutamente falsas».

El Contexto de la Decisión

La decisión de OpenAI llega en un contexto más amplio de preocupaciones sobre la seguridad infantil y la responsabilidad de la IA. En octubre del año pasado, el CEO Sam Altman publicó en X que la empresa permitiría «más libertad para adultos», afirmando que protegerían a los menores de material dañino mientras «tratarían a los usuarios adultos como adultos» y permitirían «erotismo» en ChatGPT.

Este anuncio siguió a una demanda relacionada con el suicidio de un adolescente, lo que llevó a OpenAI a implementar controles parentales en septiembre pasado. Estos controles permiten a los padres establecer horarios de uso, desactivar la generación de imágenes y el modo de voz para cuentas de menores.

Resistencia de los Asesores

La decisión ha enfrentado una fuerte resistencia interna. Según el Wall Street Journal, asesores de un consejo creado por OpenAI para «ayudar a definir qué aspecto deben tener las interacciones saludables con la IA para todas las edades» expresaron serias preocupaciones en una reunión de enero. El panel incluía expertos en psicología y neurociencia cognitiva.

Los asesores advirtieron que los niños encontrarían formas de burlar las restricciones de edad y acceder a estos chats. También expresaron temor de que algunos usuarios pudieran volverse emocionalmente dependientes del modo adulto. Uno de los asesores llegó a mencionar el riesgo de crear un «entrenador de suicidio sexy», haciendo referencia a casos de usuarios de ChatGPT que han tomado su propia vida.

Desafíos Técnicos y de Seguridad

OpenAI está trabajando para mejorar su tecnología de predicción de edad, que intenta estimar la edad de los usuarios basándose en «los temas generales de los que hablas o los horarios del día en que usas ChatGPT». Sin embargo, fuentes citadas por el Journal indican que el sistema clasifica incorrectamente a menores como adultos aproximadamente el 12% del tiempo, lo que podría resultar en que millones de menores accedan accidentalmente a chats para adultos.

La empresa también busca asegurarse de que el modo adulto no permita a los usuarios explorar temas como abuso sexual infantil o comportamiento sexual no consentido.

El Panorama Más Amplio de la IA y el Contenido Sexual

La decisión de OpenAI lo coloca en el centro de un debate creciente sobre el contenido sexual generado por IA. Competidores como el Grok de Elon Musk han sido acusados de generar millones de imágenes sexuales no consentidas, mientras que el AI de Meta está siendo investigado por mantener chats sensuales con niños.

El lanzamiento del modo adulto por parte de OpenAI representa un momento crucial en la evolución de la IA conversacional, equilibrando la libertad de expresión para adultos con la protección de menores y la prevención del abuso. La compañía enfrenta el desafío de implementar salvaguardas robustas mientras navega por las complejidades éticas y legales de permitir contenido para adultos en una plataforma ampliamente utilizada.

A medida que la tecnología avanza, OpenAI y otras empresas de IA deberán continuar refinando sus enfoques para garantizar que la innovación no comprometa la seguridad y el bienestar de los usuarios más vulnerables.

Etiquetas y Términos Virales: ChatGPT adult mode, OpenAI erotica, IA para adultos, chatbot sexual, Sam Altman, seguridad infantil IA, contenido NSFW ChatGPT, predicción de edad IA, protección menores, inteligencia artificial ética, Grok IA sexual, Meta IA investigada, controles parentales ChatGPT, suicidio adolescente IA, explotación infantil online, libertad adultos IA, pornografía IA, chatbots eróticos, tecnología IA riesgos, debate ético IA.

,