Un error de inteligencia generado por inteligencia artificial acercó al ejército estadounidense a una confrontación con China después de que un informe falso dijera que un barco chino transportaba componentes relacionados con su programa de armas nucleares.
según un Investigación de CNN El informe, publicado el 18 de septiembre de 2026, circuló entre el ejército estadounidense durante la guerra con Irán. La información de inteligencia desencadenó los preparativos para interceptar el barco, con oficiales armados listos para abordar el barco y aviones militares en el aire.
Los funcionarios descubrieron el problema poco antes de la operación prevista. Una revisión más profunda reveló que un analista utilizó un chatbot de inteligencia artificial para interpretar información sobre la carga del barco y que el sistema identificó erróneamente el material que se transportaba. Una fuente calificó el informe de "completamente falso" y dijo que "casi inicia una guerra".
Cómo los errores de inteligencia artificial afectan los informes de inteligencia militar
Según se informa, el incidente comenzó cuando un analista del comando de operaciones especiales le pidió a un chatbot información sobre el inventario del barco. El sistema de inteligencia artificial combinó información de fuente abierta con inteligencia de señales clasificadas para sacar conclusiones inexactas sobre la carga.
Luego, los analistas vuelven a utilizar la inteligencia artificial para empaquetar los hallazgos en un informe de inteligencia formal y distribuirlo a los oficiales militares. CNN no pudo determinar si el chatbot era un producto comercial o una herramienta desarrollada por el gobierno.
El episodio destaca un problema importante con el uso de la inteligencia artificial en la toma de decisiones militares: las respuestas incorrectas pueden transferirse rápidamente de los sistemas digitales a las operaciones del mundo real.
¿Se debe confiar en las decisiones militares delicadas?
El incidente plantea una pregunta fundamental: ¿Debería utilizarse la inteligencia artificial en procedimientos militares delicados, donde un error podría derivar en un conflicto? La IA puede procesar inteligencia rápidamente, pero los resultados inexactos, la transparencia limitada y la rendición de cuentas poco clara plantean riesgos graves.
Los expertos en seguridad estadounidenses y chinos han pedido salvaguardias que abarquen los sistemas nucleares, las operaciones cibernéticas críticas y una supervisión humana significativa.
Discusión en la reunión. Foro de Xiangshan También se destacaron las preocupaciones acerca de que las respuestas militares automatizadas aumenten más rápido que la intervención humana. La IA puede respaldar el análisis militar, pero las decisiones que involucran fuerza, sistemas nucleares o posibles confrontaciones requieren una verificación rigurosa, una rendición de cuentas clara y un control humano significativo.
La adopción de inteligencia artificial plantea dudas sobre las salvaguardias militares
El ejército estadounidense está ampliando rápidamente su uso de la inteligencia artificial, incluido el análisis de inteligencia, la selección de objetivos, la logística y la toma de decisiones en el campo de batalla. Los funcionarios de defensa creen que es necesaria una rápida adopción de la tecnología para seguir siendo competitivos frente a adversarios potenciales.
Sin embargo, se informa que los sistemas de inteligencia artificial del ejército operan en diferentes ramas, utilizando diferentes herramientas y estándares de seguridad. Los funcionarios le dijeron a CNN que no existe un conjunto uniforme de estándares que regulen cómo verificar la información generada por la inteligencia artificial.
Para el público, el incidente plantea dudas sobre cuánto poder se debe otorgar a la inteligencia artificial cuando las decisiones pueden tener consecuencias graves. Incluso si todavía hay seres humanos involucrados, la velocidad y la falsa confianza aumentan el riesgo de errores.
Los próximos pasos podrían incluir un escrutinio más detenido de los informes de inteligencia asistidos por IA y requisitos de verificación más estrictos, especialmente cuando la información se utiliza para objetivos militares o involucra operaciones de otros países. CNN también informó sobre los pedidos de una investigación sobre informes erróneos, sugiriendo que la rendición de cuentas y las salvaguardias podrían convertirse en elementos centrales del debate más amplio sobre la inteligencia artificial militar.