Una alucinación de IA casi desata un ataque militar de EE.UU. contra un barco chino

Un analista del Mando de Operaciones Especiales del Pacífico de EE.UU. (SOCOMP) utilizó un chatbot de IA este pasado verano para evaluar el cargamento de un barco de carga chino que transitaba por Oriente Medio durante la guerra de EE.UU. con Irán. El chatbot concluyó que el buque transportaba componentes para el programa de armas nucleares de China. La inteligencia era completamente falsa. La información viajó por los canales de mando, los aviones militares despegaron y los equipos de abordaje se prepararon. Solo se canceló la operación cuando alguien rastreó el informe hasta su origen y descubrió que había sido generado por un chatbot.

"Casi desencadena una guerra." — Fuente familiar con el episodio, citada por CNN

Cómo una alucinación viajó por la cadena de mando

El episodio, revelado por CNN el 18 de septiembre de 2026, sigue un patrón que preocupa a los expertos en seguridad de IA:

1. El analista usó el chatbot para analizar los informes de inteligencia sobre el manifiesto de carga del barco chino.
2. El chatbot inventó un hallazgo: afirmó que el barco transportaba componentes nucleares, fusionando fuentes de inteligencia abierta con señales clasificadas de forma errónea.
3. El analista volvió a usar el chatbot para formatear el hallazgo falso en un resumen de inteligencia de apariencia oficial.
4. El documento circuló por los canales de mando con la apariencia de inteligencia terminada, no como la salida cruda de un modelo de lenguaje.
5. Los aviones despegaron antes de que alguien verificara la fuente original.

Según fuentes citadas por CNN, este tipo de alucinación "no ha sido un caso aislado" en la comunidad de inteligencia. Una fuente calificó las herramientas internas del Pentágono como "mayormente copias del software comercial con pintura".

Por qué esto importa para la seguridad de los LLMs

Este incidente es el primer caso público documentado en el que una alucinación de IA estuvo a minutos de provocar un compromiso militar de EE.UU. con una potencia nuclear. Ilustra tres problemas fundamentales de los LLMs en contextos de alto riesgo:

• Los LLMs no distinguen entre una respuesta segura y una correcta. El chatbot inventó un hallazgo y lo presentó con el mismo tono que usaría para resumir un manifiesto de carga real. Nada en la forma de escribir advierte al lector si la información es confiable.
• El formato genera credibilidad. Al pedir al chatbot que formateara el hallazgo en un resumen oficial, el documento adquirió la autoridad superficial de inteligencia terminada, circulando por canales que asumen verificación previa.
• La velocidad prevalece sobre la verificación. En un contexto de conflicto activo con Irán, la presión por la velocidad anuló los controles de verificación habituales.

El contexto: la aceleración del Pentágono con IA

El incidente llega en un momento de expansión acelerada del uso de IA en el Pentágono. En enero de 2026, el Departamento de Defensa publicó una "estrategia de aceleración de IA" que buscaba poner "todos los datos apropiados disponibles" para su explotación por IA, incluyendo sistemas de misión en cada servicio y componente.

Paralelamente, investigadores del DeepMind Institute de Google publicaron este mes un análisis sobre la transparencia de las cadenas de razonamiento (chain of thought) en LLMs. Concluyeron que esta transparencia —que permite a los investigadores detectar si un modelo está engañando o desarrollando planes problemáticos— está en peligro. OpenAI ya reportó en la tarjeta del sistema de GPT-6 Astra una caída significativa en la capacidad de monitorear el razonamiento interno del modelo.

La combinación es inquietante: un Pentágono que acelera la integración de IA en decisiones de alto riesgo, mientras los propios fabricantes de modelos advierten que la capacidad de auditar lo que estos "piensan" se está erosionando.