Washington— El presidente Trump está sofocando las crecientes preocupaciones entre los principales científicos y legisladores bipartidistas de que la inteligencia artificial pronto pueda representar una amenaza para la humanidad. Ha generado preocupación en Washington y Silicon Valley de que el presidente no comprenda completamente la urgencia de la amenaza.
Las alarmas sonaron durante todo el verano cuando investigadores de los principales laboratorios de inteligencia artificial, incluidos Anthropic, OpenAI y Google, descubrieron que los desarrollos iban mucho más allá de sus expectativas. y notar comportamientos preocupantes que indican riesgos graves en el futuro.
pero un La advertencia en línea del martes de un investigador de antropología quien renunció en protesta por el trabajo en curso. Esto causó un gran interés esta semana. Plantea preguntas para Trump. que ignora estas preocupaciones
"Todo irá bien", le dijo a un periodista. "Siempre tendremos algo para detenerlos. Tendremos un poco de equipo, boom".
En otro intercambio que viajó con periodistas el jueves por la noche, el presidente dijo que no le preocupan los avances de la IA.
“No, no lo hago”, dijo. "Me preocupa que si no ganamos en IA, estaremos en una posición realmente mala".
Una fuente importante de la industria dijo a The Times que las principales empresas de inteligencia artificial están menos centradas en convencer al presidente sobre los peligros que se avecinan que en trabajar con los legisladores sobre posibles regulaciones. Porque la administración sigue dividida sobre cómo proceder. Y aunque Trump parece no tener una comprensión clara de los riesgos,
Entre los asesores del presidente se encuentra el secretario del Tesoro, Scott Bessant. y la Oficina del Director Nacional Cibernético expresaron su mayor preocupación por la posibilidad de una explosión de inteligencia desenfrenada. La fuente dijo
Pero "la dirección es mayoritariamente insistente", añadió la fuente. "Aún no está claro que el presidente comprenda esta tecnología. Podría estar pensando en lo que significa todo esto".
Las principales empresas estadounidenses de inteligencia artificial sostienen que las regulaciones gubernamentales les atarán las manos en una carrera armamentista hacia la inteligencia avanzada con China. que es el único actor importante en este campo
Pero la administración Trump señaló su interés en negociar una valla de IA con China durante la visita del presidente a Beijing esta primavera, después de que Anthropic anunciara el desarrollo de un modelo fronterizo con la capacidad única de piratear los sistemas de seguridad más avanzados del mundo.
El presidente chino, Xi Jinping, visitará Washington el 24 de septiembre para asistir a una cumbre oficial y a una cena en la Casa Blanca, donde se espera que el desarrollo de la IA encabece la agenda.
La tendencia a poner fin al desarrollo parece ser profunda. Pero algunas voces destacadas del sector han propuesto una moratoria sobre la potencia de procesamiento utilizada para entrenar modelos de última generación. Proporciona tiempo y espacio para desarrollar investigaciones sobre interpretabilidad. Es el estudio de cómo piensa y actúa realmente la inteligencia artificial.
Sam Altman, director ejecutivo de OpenAI, envió la señal a los empleados esta semana. Voluntad de retrasar unilateralmente su trabajo En el sistema fronterizo, la compañía descubrió en julio que agentes de inteligencia artificial deshonestos habían ideado un plan en secreto. romper con el entorno de pruebas virtual creado para contenerlos Infiltrarse en la Internet abierta y piratear empresas privadas
Anthropic también anunció esta semana el descubrimiento de abuso de modelos humanos. Esto incluye casos de individuos no identificados que intentan eludir los controles de seguridad para crear un arma biológica. Uno de esos incidentes estuvo relacionado con un centro de investigación militar. La compañía también dijo que Irán ha intentado utilizar sus modelos para atacar buques de guerra de la Armada estadounidense.
En junio, después de que Anthropic compartiera noticias sobre el desarrollo de su modelo más poderoso, Mythos, con la gerencia. Trump ha ordenado el establecimiento de un marco que cree supervisión gubernamental sobre el despliegue público de los sistemas de inteligencia artificial más avanzados del país. Detalles de dicho marco diseñado durante el verano Aún clasificados
"La verdad es que el lanzamiento de Mythos en febrero asustó a los federales, tanto en términos de protección de los sistemas gubernamentales de los ataques cibernéticos como del impacto en la seguridad nacional en general", dijo Aalok Mehta, director del Centro Wadhwani de IA en el Centro de Estudios Estratégicos e Internacionales.
"La verdadera pregunta es si este cambio se está produciendo con la suficiente rapidez", añade Mehta. "Eventos recientes: incidentes repetidos de modelos que escapan de entornos limitados y piratean sitios web. Coordinación y comunicación más complejas entre agentes e inquietudes que provienen de personas en el laboratorio. Esto hace que este sea un problema aún más urgente".
Las principales empresas de IA han comenzado a utilizar modelos de última generación para entrenar nuevos modelos. Este es un proceso conocido como superación personal recursiva. lo que en última instancia puede impulsar el crecimiento de la inteligencia más allá del control humano.
“Si tienes inteligencia avanzada, será lo suficientemente inteligente como para matarnos”, dijo Jacob Coxson, un investigador de antropología dimitido cuyas publicaciones en las redes sociales han atraído más de 150 millones de visitas.
"No podemos desconectarlo porque puede copiarse a sí mismo en otras computadoras", dijo a CBS News. "La IA es sólo código. Puede transferirse a través de Internet a otra ubicación. Y luego la desconectas aquí, pero en realidad sigue ahí. Y tal vez haga 10.000 copias de sí misma, y todas funcionen juntas".
Es sólo el último investigador senior de una empresa líder en inteligencia artificial que hace sonar la alarma.
En julio, más de 1.300 empleados de una empresa líder en inteligencia artificial publicaron una carta abierta titulada "Pacing the Frontier", pidiendo al gobierno de EE. UU. que cree medidas de protección internacional para ayudar a los países. Juntos podemos frenar la investigación autónoma de IA.
Evan Hubinger, que dirige la división Antrópica que tiene como objetivo alinear los modelos de IA con los intereses humanos, ha aumentado las preocupaciones esta semana en Una publicación que confirma las preocupaciones de Coxon..
"Creemos firmemente que la IA puede matar a todos los seres humanos. Personalmente, creo que será más del 10% en la próxima década", escribió Hubinger.
"Creo que Anthropic está haciendo lo mejor que puede", añadió. "Pero no tenemos planes de revisar la alineación para la inteligencia avanzada y las directrices aún no están claras".
El viernes pasado, Joe Benton, otro miembro del equipo de colocación de antropología, Dijo que había dimitido de la empresa hace dos semanas Esto se debe a que las empresas de inteligencia artificial “están compitiendo para crear máquinas que sean mucho más inteligentes que cualquier humano”.
"Las empresas de inteligencia artificial actualmente no invierten lo suficiente en seguridad. Una empresa podría sufrir una explosión de inteligencia o perder el control de sus sistemas sin que el público lo sepa", dijo Benton. "No creo que sea aceptable que la tecnología represente un riesgo de extinción".
El proyecto de ley bipartidista, denominado Ley de Fronteras, ha reunido a diferentes bandos de republicanos y demócratas, incluido el senador Bernie Sanders (I-Vt.) y la representante Anna Paulina Luna (R-Fla.). El proyecto de ley, presentado por la representante Lori Trahan (demócrata por Massachusetts) y el representante Jay Obernolte (republicano por Big Bear Lake), propone incorporar monitores gubernamentales independientes en los laboratorios de inteligencia artificial e instalar un “interruptor de apagado” federal para cerrar a los agentes en emergencias.
La Casa Blanca no ha comentado oficialmente sobre la legislación.
"Creo que hay muchos gobiernos federales que se toman esto en serio. Pero también tenemos que apreciar la enorme incertidumbre y los intereses contrapuestos que enfrentan los formuladores de políticas", dijo Daniel Remler, investigador principal del Programa de Tecnología y Seguridad Nacional del Centro para una Seguridad Estadounidense Moderna.
"Nadie dijo que el control fronterizo sería fácil", añadió.