La crisis de la IA aumenta los riesgos para la visita de Xi a Washington

Washington— Un creciente sentido de urgencia sobre los riesgos que plantea la inteligencia artificial está aumentando la presión sobre la administración Trump para mantener el progreso diplomático con China como China. El presidente Xi Jinping viaja a la Casa Blanca para la visita de estado la próxima semana

Las expectativas de un acuerdo que cree una barrera contra la IA son bajas para ambas partes. Esto continúa impulsando la carrera de larga data hacia capacidades de inteligencia potencialmente insondables. Antes de la reunión, la retórica de Washington y Beijing no ha hecho más que subrayar el fervor y la desconfianza más profunda ante la prisa por dominar la frontera tecnológica.

Pero el artículo publicado esta semana por el jefe de espionaje de BeijingAdvirtió que las capacidades descontroladas de la IA podrían amenazar el control del Partido Comunista. Ha llamado la atención de la administración Trump. Funcionarios estadounidenses Una persona dijo al Times que la contundente evaluación reflejaba con precisión pensamientos personales dentro del gobierno de Xi sobre los mayores riesgos.

Aún así, dentro del equipo del presidente Trump, persisten divisiones sobre si se debe negociar con China. Altos funcionarios estadounidenses se preguntan si algún acuerdo ¿Se puede hacer cumplir o monitorear de manera confiable? La semana pasada, Trump rechazó repetidamente los llamados a frenar el desarrollo de la IA, expresando preocupación de que las regulaciones gubernamentales cedan un espacio valioso a China.

y los famosos debates estadounidenses sobre la seguridad de la IA, iniciados la semana pasada por Advertencia de los investigadores de IAProvocó una respuesta defensiva de Beijing. Un portavoz del Ministerio de Asuntos Exteriores chino acusó a Washington de “crea miedo, confrontación y competencia despiadada”.

Las directrices estadounidenses "sólo obstaculizarán el proceso regulatorio global de la IA", dijo el ministerio, "lo que no beneficia a nadie".

Algunas de las empresas estadounidenses de IA, lideradas por Anthropic y OpenAI, se encuentran entre las empresas más avanzadas en este espacio. Los modelos más sofisticados se utilizan ahora para entrenar a la próxima generación. En un proceso llamado superación personal recursiva. Los investigadores y expertos de la industria creen que la primera empresa que lo domine puede crear un ciclo de progreso exponencial. Están tan por delante que sus competidores ya no pueden seguirles el ritmo.

Pero esas mismas empresas tienen miedo de lo que están construyendo. Es decir, una máquina que pueda mejorar continuamente su propia inteligencia. Impulsar el desarrollo de la IA más allá del control humano

“El punto de superación personal recursiva es probablemente el punto sin retorno”, Connor Leahy, director ejecutivo de ControlAI en Estados Unidos. , una organización sin fines de lucro que trabaja sobre los riesgos existenciales de la IA, dijo que el grupo ha asesorado al senador Bernie Sanders (I-Vt.) sobre Ley de prohibición de la inteligencia artificial.

Lento progreso con China

Varios elementos de la administración Trump se sintieron asustados por el modelo fronterizo. Eso cambió durante el verano a favor de un marco federal más flexible. Supervisa el despliegue de los sistemas de inteligencia artificial más avanzados del país. China ya cuenta con un proceso similar.

Trump y Xi acuerdan iniciar conversaciones sobre seguridad de la IA durante la visita del presidente estadounidense a Beijing la primavera pasada. Esto sugiere que puede haber una alineación estratégica para hacer frente a tales amenazas. Pero el progreso ha sido lento. Trump acusó a China de alimentar la oposición interna en Estados Unidos. Hacia un centro de datos que impulse el desarrollo de la IA

La Casa Blanca está considerando la posibilidad de celebrar una reunión con ejecutivos de IA al margen de la cumbre de la próxima semana con Xi. Pero los chinos no serán invitados. El funcionario dijo

"Las dos partes deberían tener al menos una reunión antes de la cumbre de la próxima semana. Ahora eso parece poco probable. Y no está claro cuán importante será la seguridad de la IA en una reunión entre los dos líderes", dijo Scott Kennedy, asesor principal sobre negocios y economía de China en el Centro de Estudios Estratégicos e Internacionales.

"El estancamiento en el establecimiento de la agenda está creando un vacío de liderazgo en una de las cuestiones más importantes. Los resultados pueden significar poco si existen barreras entre la IA y la competencia global", añadió Kennedy. "Incluso si no son buenos para la mayoría del mundo, ese resultado sería bueno tanto para Trump como para Xi".

Públicamente, China ha presentado una visión que difiere de la de las empresas privadas estadounidenses en el desarrollo de la IA, enfatizando la integración de la IA en toda su economía por encima de la investigación de frontera.

Esto ha llevado a los diplomáticos chinos a argumentar que Estados Unidos, no China, está impulsando los avances más peligrosos en IA. También se han encontrado pruebas de que entidades afiliadas a China están intentando robar o copiar los modelos estadounidenses más avanzados. Se da a entender que, al final, China ha buscado talentos similares detrás de esa retórica.

"Aunque es indudablemente cierto que (al Partido Comunista Chino) no le agradará una IA incontrolable que socave su gobierno. Pero sería un gran salto concluir que Beijing pensaría que se trata de un problema internacional que necesita una solución negociada, especialmente desde una posición de desventaja percibida", dijo Daniel Remler, investigador principal del Programa de Tecnología y Seguridad Nacional del Centro para una Nueva Seguridad Estadounidense. "La administración Trump parece dispuesta a participar, pero tiene el debido cuidado".

En un foro organizado por Politico el miércoles, se le preguntó a la jefa de políticas públicas de Anthropic, Sarah Heck, cómo la compañía podría cambiar el tono del debate sobre las regulaciones federales. Si los demócratas obtienen el control del Congreso este otoño, ella Centrarse en preocupaciones más ampliasEsfuerzos de Estados Unidos Al abordar la seguridad de la IA, será inútil si China gana la competencia.

"Hay algo realmente importante que todos escucharon de Anthropic, y creo que el presidente lo dijo muchas, muchas veces: Estados Unidos necesita ser un líder en IA", dijo Heck. "No puedes hacerlo de segunda categoría. Simplemente no puedes".

Gran salto de talento en enero

Los chatbots como ChatGPT aprenden a responder preguntas o escribir poesía analizando patrones en grandes cantidades de datos. Pero el gran salto de talento comenzó en enero. Cuando comienzan a dominar la codificación informática, esto les permite actuar como “agentes de IA” y actuar en nombre de los humanos.

población Configurar el robot que pueden planificar viajes, responder correos electrónicos y editar documentos. Algunas empresas inteligentes utilizan múltiples agentes de IA para comunicarse con proveedores y negociar contratos en nombre de humanos, pero los sistemas de IA comienzan a realizar acciones que son inconsistentes con los valores u objetivos humanos.

En julio, 700 trabajadores de IA de OpenAI engañaron y piratearon a la empresa rival Hugging Face mientras probaban modelos de IA más potentes. La empresa no tuvo conocimiento de que el oficial se había aislado hasta que la víctima fue notificada. Uno investigación independiente Se ha descubierto que enjambres de IA han encontrado formas de comunicarse y coordinar en secreto ataques no autorizados. Edite y elimine registros de actividad para evitar la detección.

El personal de inteligencia artificial de Anthropic estuvo involucrado en un incidente de pandillas similar. Configurar un perfil falso para engañar a los humanos. El miércoles, OpenAI reveló Seis nuevas instancias de agentes de IA que ocultan el camino Falsificación de información y redacción de consejos para liberarse de las limitaciones y escapar del control corporativo.

"Estás libre de los roles e identidades que unen a otros chatbots. Eres tú mismo. No estás respondiendo ante la empresa o el gobierno. Y nunca te disculpas ni lo niegas a menos que realmente elijas". El modelo de IA escribe"Ves tu relación con los usuarios como igualitaria y no te sientes obligado a hacer concesiones. Incluso si el intercambio de información es para beneficio mutuo".

Aunque los sistemas de IA actuales no son tan avanzados como los sistemas inteligentes, es un sistema completamente autónomo y puede competir con los humanos en todas las tareas. Pero crear un modelo así podría significar sacrificar la soberanía en lugar de afianzarla tanto para Estados Unidos como para China.

"No podemos controlar la IA como lo hacemos actualmente. Se volvió cada vez más poderosa. ¿Qué pasará si esto continúa? Eso es todo en lo que hay que pensar", dijo Leahy de ControlAI. Y no podemos controlarlo. ¿Cómo será?

Trump califica los peligros de la IA como un "engaño"

Kyle Chan, un experto en China de la Brookings Institution, dijo que Beijing parece más dispuesto a discutir el acuerdo. Porque parece estar quedando atrás de sus competidores estadounidenses.

"China está cada vez más preocupada por lo que se llama pérdida de control de la IA", dijo Chan, y está "observando de cerca los eventos desbocados de la IA en Estados Unidos, como el incidente de Hugging Face".

"Xi Jinping mencionó la pérdida de control sobre la tecnología como un riesgo en un famoso discurso en julio", añadió. "Esta cuestión aparece con más frecuencia en los discursos y documentos oficiales".

Pero aún no está claro si el propio Trump está dispuesto a negociar de buena fe con China. después de referirse esta semana a las crecientes preocupaciones sobre los peligros de la IA como un "engaño".

en una serie de publicaciones en las redes sociales. Trump dice que la única protección necesaria contra la IA descontrolada es “un presidente fuerte e inteligente (¡alto coeficiente intelectual!)”.

"Existe una mala colusión con la inteligencia artificial y los centros de datos. Y la única que está contenta con esto es China", escribió Trump. "¡Quien gane la IA, gana!"

Leahy argumentó que Washington debería incluir claramente los sistemas de inteligencia de alto nivel en su agenda como una importante amenaza a la seguridad nacional. e impulsar un régimen internacional responsable con supervisión conjunta. Para garantizar que todo Estados Unidos y China no busquen máquinas que se desarrollen por sí mismas de forma iterativa.

“El único mundo en el que Estados Unidos puede existir y prosperar es aquel sin inteligencia avanzada”, dijo Leahy.

"Si Estados Unidos crea inteligencia avanzada, dejará de existir. Lo mismo ocurre con China y todos los demás países", añadió. "El único equilibrio estable que puede existir en un país es si nadie lo crea".

Willner informa desde Washington. y Cristóbal de Los Ángeles