Newsom llega a D.C. con un plan de inteligencia artificial mientras los asistentes de Trump intentan solucionar los cortes de energía

Mientras la administración Trump lucha por explicar una serie de problemas tecnológicos preocupantes, el gobernador Gavin Newsom ha revelado su hoja de ruta de seguridad de la IA en Washington, posicionándose como el principal organismo de control de esta tecnología en rápida evolución.

Hace dos meses, el gobernador encargó un informe completo sobre cómo California puede construir una valla alrededor de las plataformas fronterizas de inteligencia artificial en medio de una falta de supervisión federal.

El miércoles pasado entregó el plan en la capital del país en un momento político oportuno para los contendientes presidenciales de 2028, mientras el presidente Trump se reúne con líderes de China, rival de la IA, y el público está preocupado por el posible papel de la IA en los recientes ataques cibernéticos y la disrupción tecnológica.

“El nivel de preocupación es de 12 sobre 10 en este tema y en muchos frentes debido a la falta de liderazgo en Washington, D.C.”, dijo Newsom, flanqueado por destacados académicos de IA y varios asesores económicos. Frente a un grupo de periodistas políticos y tecnológicos

Newsom, que tiene un historial mixto en materia de regulación de la IA, dijo que su plano de 85 páginas Llevará “las cosas al siguiente nivel” sobre cómo regular la tecnología en rápida evolución en California. Y debería servir también como "modelo" para las regulaciones federales.

El informe se centra en controlar el riesgo de superación personal recursiva. O la práctica de que la IA desarrolle modelos continuos de sí misma que superen y escapen al control humano. También discutió la posibilidad de utilizar un mecanismo "Kill Switch" que podría apagar modelos de IA no autorizados y perseguir objetivos no comandados por humanos.

Pide ampliar las reglas de divulgación para las empresas de tecnología para incluir situaciones de pérdida de control, como cuando agentes de OpenAI escaparon de la cuarentena y piratearon la empresa rival de IA Hugging Face en julio. y se centra en garantizar que las organizaciones responsables de examinar a las empresas fronterizas de IA realicen evaluaciones de riesgos precisas. No son sólo los controles.

El informe se basa en el trabajo de los legisladores de California para elaborar algunas de las primeras leyes de seguridad de la IA del país, como el Proyecto de Ley 53 del Senado del año pasado, que exigía a las empresas: Se deben divulgar los protocolos de seguridad y los informes de incidentes graves. Newsom firmó el proyecto de ley. Después de oponerse al anterior proyecto de ley de seguridad de la IA el año pasado,

En Washington, Newsom criticó la actitud de no intervención de Trump hacia la regulación de las empresas de inteligencia artificial y su respuesta pública relajada a las interrupciones relacionadas con la última tecnología. El pasado martes Trump dijo "Es la vida" y sugirió que las grandes empresas tienen valor para hacer frente a este tipo de problemas.

Por el contrario, Newsom calificó la IA como una de las cuestiones clave de nuestro tiempo y dijo: "Dará forma a más cosas, de más maneras y en más días sobre el futuro de este país y del mundo tal como lo conocemos" y enfatizó la necesidad de una respuesta gubernamental fuerte ahora.

A principios de esta semana, California Atty. El general Rob Bonta anunció que el estado estaba demandando a OpenAI, el fabricante de ChatGPT con sede en San Francisco. Supuestamente “engañar y dañar al público al desarrollar y probar conscientemente modelos avanzados de inteligencia artificial (IA); sin las salvaguardias y controles necesarios para proteger adecuadamente al público”, según la evidencia del incidente de Hugging Face.

gramo Informe de la Oficina de Responsabilidad Gubernamental Publicado el miércoles, advierte contra un posible uso indebido de esta tecnología. “Representa un mayor riesgo para la seguridad nacional y la economía” Los investigadores han descubierto una forma de eludir las funciones de seguridad de los chatbots de IA que pueden ayudar a los delincuentes a desarrollar planes de ataque. Incluyendo instrucciones para fabricar bombas y planes para dañar la red eléctrica.

Newsom fijó su propia fecha de publicación para el informe hace dos meses. Pero el miércoles pareció haber un aumento en el interés. Teniendo en cuenta las noticias de la semana pasada

Una serie de ciberataques e interrupciones tecnológicas en los últimos días han conmocionado a los estadounidenses de todas las tendencias políticas y a muchos de sus representantes en el Congreso. y preguntó si estaban conectados entre sí. y la administración Trump, que carece de hechos y de confianza pública. Luchando por aliviar esos miedos.

Las preocupaciones, que inicialmente surgieron de un cierre generalizado de Microsoft y el cierre de emergencia del espacio aéreo estadounidense por parte de la Administración Federal de Aviación, han generado preocupación. Debido a una falla en el sistema de telecomunicaciones la semana pasada. Ha llamado la atención en los últimos días. Esto se debe a que existen informes de ataques generalizados a sitios web importantes. de empresas como Zoom, Salesforce y Equifax, problemas de sistemas en United, Apple y JPMorgan Chase, e interrupciones del servicio en el Servicio Meteorológico Nacional, la Agencia de Seguridad Nacional y otras agencias gubernamentales.

El miércoles se habló mucho del fiasco en Internet. Ha sido alimentado por muchas teorías y especulaciones de conspiración.

en juicio parlamentario y al interactuar con los periodistas, los funcionarios de la administración Trump dicen que los estadounidenses tienen derecho a hacer preguntas sobre los actuales cortes de energía. Pero confirmaron que la interrupción se debió a un problema tecnológico. No fue un ciberataque coordinado.

“Por lo que sabemos hoy, después de mucho esfuerzo digital, estas interrupciones del servicio están relacionadas con el mantenimiento y los cambios técnicos”, dijo Jay Clayton, Director de Inteligencia Nacional. Dirigiéndose al Comité de Seguridad Nacional: “Estos no fueron ataques coordinados ni patrocinados por el estado”.

Dijo que eso era creencia. Su "información recibida" basada en Ha habido un "aumento dramático en las actualizaciones del sistema" en todo el país, en parte impulsado por herramientas de inteligencia artificial que ayudan a identificar vulnerabilidades del sistema que necesitan parches más rápido que nunca.

Los legisladores del panel sospecharon que los sucesivos cortes de energía fueron accidentales. Esto refleja las preocupaciones expresadas por colegas de ambos partidos en los últimos días.

"Los estadounidenses pueden ver todo lo que sucede con estas interrupciones en el servicio. Y sintieron que no estaban entendiendo toda la historia. No se puede culpar a nadie por eso. Soy miembro del Congreso. ¡Y así lo siento!". El senador Rick Scott (republicano por Florida) escribió el martes el

El representante Mike Lawler (R-N.Y.) también pidió una sesión informativa en el Congreso y escribió que "si bien algo de esto puede ser una coincidencia, está claro que debemos tomar en serio la ciberseguridad y el uso de la nefasta IA… y actuar sin demora".

Otros aliados de Trump también pidieron una mayor transparencia. Expresaron su preocupación porque la administración no había hecho lo suficiente para comunicar las causas fundamentales de los cortes.

La exsecretaria de prensa de la Casa Blanca, Caroline Levitt, dijo el martes que la administración debería ser más abierta sobre lo que sabe para “realmente calmar la temperatura”, dijo Laura Loomer, una activista de extrema derecha cercana a Trump. Acusó a funcionarios del gobierno de "mentir" sobre un corte de energía no relacionado con el ataque.

El ministro de Transporte, Sean Duffy, dijo: Dos enrutadores instalados recientemente en las instalaciones de la FAA en Arkansas y Texas provocaron una interrupción el viernes. Dijo que la instalación es parte de un esfuerzo para reemplazar el antiguo sistema de cables de cobre de la agencia con cable de fibra óptica. Pero dijo que no estaba claro qué causó el mal funcionamiento del dispositivo.

El miércoles, el secretario de Seguridad Nacional, Markwayne Mullin, dijo que tenía un 98% de confianza en que la interrupción de la FAA y otros cierres recientes no tenían nada que ver con los adversarios que intentaban piratear los sistemas estadounidenses. También defendió su decisión de volar en un avión del gobierno para ver el partido de fútbol americano universitario LSU-Texas. Un día después de la parada en tierra, dijo que cancelar su viaje enviaría un mensaje confuso sobre la seguridad del espacio aéreo recién abierto.

Newsom llamó a Duffy y Mullin. quien ayudó a liderar la respuesta de la administración a la interrupción del miércoles. Comparó las conferencias de prensa locales con los sketches de “Saturday Night Live”.

"Este es un asunto serio", dijo Newson. "Los asuntos serios requieren un liderazgo serio. No tenemos ninguno en este país en este momento".

La redactora del Times, Dakota Smith, en Los Ángeles, contribuyó a este informe.

Enlace a la fuente