Anthropic se niega a ceder ante el Pentágono: la guerra ética de la IA que podría costarle un contrato de 200 millones de dólares

La carrera por dominar la inteligencia artificial se ha ido estrechando hasta dejar a un puñado de actores capaces de competir al más alto nivel. Anthropic forma parte de ese grupo reducido junto a nombres como OpenAI o Google, y sus modelos Claude han ganado terreno en ámbitos como la programación. En ese gran momento, sin embargo, la compañía se enfrenta a una decisión delicada: mantener ciertos límites en el uso militar de su tecnología, aun a costa de tensar su relación con el Departamento de Defensa de Estados Unidos.

El estándar que lo cambia todo

Según Axios, citando a un alto funcionario de la administración, el Pentágono está presionando a cuatro laboratorios punteros de IA para que permitan el uso de sus modelos para «todos los fines lícitos», incluso en áreas especialmente sensibles como el desarrollo de armas, la recopilación de inteligencia o las operaciones en el campo de batalla. Anthropic, sin embargo, no habría aceptado esas condiciones tras meses de negociaciones difíciles, lo que ha llevado al Departamento de Defensa a plantearse revisar su relación con la compañía.

Esta no es una disputa menor. En juego está un contrato de 200 millones de dólares firmado el año pasado, pero más allá de lo económico, está en juego el futuro de cómo las empresas de IA definen sus límites éticos frente al poder militar más poderoso del planeta.

Las líneas que no quiere cruzar

Frente a esa exigencia amplia, los liderados por Dario Amodei han dejado claro que mantienen límites concretos. La compañía insiste en que dos ámbitos siguen fuera de discusión. Un portavoz afirmó al mencionado medio que la empresa sigue «comprometida a utilizar IA de vanguardia en apoyo de la seguridad nacional de EEUU», pero matizó que las conversaciones con el Departamento de Defensa se han centrado en «nuestros límites estrictos en torno a las armas totalmente autónomas y la vigilancia doméstica masiva», y que esas cuestiones no se «relacionan con las operaciones actuales».

Este posicionamiento no es nuevo para Anthropic. Desde sus inicios, la compañía se ha presentado como una alternativa más cautelosa y centrada en la seguridad frente a otros gigantes del sector. Pero ahora, esa cautela se enfrenta a la presión de un cliente que no está acostumbrado a recibir «noes» por respuesta.

El episodio que terminó de elevar la tensión

The Wall Street Journal aseguró, citando a personas con conocimiento del tema, que Claude se utilizó en una operación militar de EEUU en Venezuela para capturar a Nicolás Maduro a través de la relación con Palantir. En ese mismo texto, desde la compañía de IA respondieron que no pueden hacer comentarios sobre si su tecnología se utilizó en una operación militar específica, clasificada o no. Y añadió que cualquier uso, ya sea en el sector privado o en el Gobierno, debe cumplir sus políticas de uso.

Este episodio, confirmado o no, ilustra la tensión central: ¿hasta dónde puede llegar una empresa de IA en su compromiso con la seguridad nacional sin comprometer sus principios éticos? ¿Y qué sucede cuando esos principios entran en conflicto directo con los intereses estratégicos del Estado?

Lo que está en juego

Más allá de ese episodio, Axios informó de que desde el ámbito militar estadounidense «todo está sobre la mesa», incluida la posibilidad de reducir o incluso romper la relación con Anthropic. El mismo alto funcionario citado por el medio añadió que, si se opta por ese camino, tendría que haber «una sustitución ordenada», lo que sugiere que el proceso demandaría cierta cantidad de tiempo. WSJ aporta otro dato interesante: el año pasado se firmó un contrato de 200 millones de dólares entre Anthropic y el Departamento de Defensa.

Pero lo que está realmente en juego va más allá de un contrato. En un momento en el que las compañías de IA buscan consolidar ingresos, justificar valoraciones y demostrar utilidad en entornos críticos, la relación con el sector de defensa es un escaparate y una fuente de negocio de primer orden. Al mismo tiempo, también es un terreno donde los límites éticos y estratégicos se vuelven más visibles. La decisión de Anthropic de mantener ciertas restricciones puede reforzar su identidad como empresa orientada a la seguridad, pero también limitar su acceso a contratos millonarios.

El fondo de la disputa

En un momento en el que las compañías de IA buscan consolidar ingresos, justificar valoraciones y demostrar utilidad en entornos críticos, la relación con el sector de defensa es un escaparate y una fuente de negocio de primer orden. Al mismo tiempo, también es un terreno donde los límites éticos y estratégicos se vuelven más visibles. La decisión de Anthropic de mantener ciertas restricciones puede reforzar su identidad como empresa orientada a la seguridad, pero también limitar su acceso a contratos millonarios.

El dilema es claro: ¿es posible ser un actor relevante en la IA militar sin comprometer los principios éticos fundacionales? ¿O el poder militar exigirá inevitablemente que esas líneas éticas se difuminen? La respuesta de Anthropic sugiere que al menos una empresa está dispuesta a arriesgar ingresos significativos para mantener sus límites claros.

Imágenes | Anthropic | Oleg Ivanov en Unsplash

En Xataka | Los centros de datos en el espacio prometen salvar el planeta. Y también arruinar la órbita terrestre

Tags y frases virales para redes sociales:

• «Anthropic vs Pentágono: la batalla ética que definirá el futuro de la IA militar»
• «200 millones de dólares en juego: ¿hasta dónde llegará Anthropic en su compromiso ético?»
• «Claude se niega a cruzar la línea roja: armas autónomas y vigilancia masiva fuera de discusión»
• «El dilema moral de la IA: ¿seguridad nacional o principios éticos irrenunciables?»
• «Anthropic desafía al Departamento de Defensa y arriesga un contrato millonario»
• «Dario Amodei: mantener límites éticos aunque cueste millones en contratos militares»
• «La IA ética enfrenta su mayor prueba: ¿podrá resistir la presión del poder militar?»
• «Claude en Venezuela: el episodio que tensó la relación entre Anthropic y el Pentágono»
• «Cuatro laboratorios de IA, solo uno dice ‘no’: Anthropic mantiene sus líneas rojas»
• «El futuro de la IA militar se decide en estas negociaciones: ¿quién cederá primero?»

,