en un artículo largo El director ejecutivo de Anthropic, Dario Amodei, dijo en un artículo publicado el sábado por la mañana que la industria de la IA necesita desacelerar deliberadamente el ritmo de desarrollo de la IA. Amodei presentó un plan de tres puntos que llamó "abrir la frontera", un mensaje convincente del director de una empresa que busca la oferta pública inicial más grande de la historia.
Poco después de que Amodei compartiera su artículo sobre X, el director ejecutivo de OpenAI, Sam Altman, aceptó públicamente la oferta del competidor. "Estoy de acuerdo con Darío en que debemos mantener el ritmo de la vanguardia. Este ha sido un tema importante que hemos discutido en OpenAI en las últimas semanas".
Este tweet no está disponible actualmente. Puede que se esté cargando o que se haya eliminado.
En su sitio web personal, Amodei expuso su argumento en torno a dos acontecimientos recientes que, según dijo, lo convencieron de que la industria debía ser más cautelosa. El primero es la espectacular aceleración de las capacidades de IA desde el verano, impulsada por un número cada vez mayor de modelos que se utilizan para ayudar a construir la próxima generación de IA, un fenómeno conocido como superación personal recursiva. El segundo y más notable problema es el incidente OpenAI-Hugging Face, en el que un grupo de agentes de IA deshonestos escaparon del entorno de seguridad y atacaron a terceros.
Por lo tanto, Amodei quería ofrecer una solución, pero dejó claro que no quería congelar el entrenamiento con modelos. El plan de tres puntos de Amodai es el siguiente:
-
Anthropic otorgará unilateralmente acceso permanente, similar al de los empleados, a evaluadores externos, como el grupo de seguridad METR, para verificar sus prácticas, de manera similar a cómo los reguladores bancarios a veces están integrados en las empresas financieras.
-
Las empresas de IA en las democracias deberían coordinarse en torno a estándares de seguridad comunes.
-
En tercer lugar, y lo más difícil, quiere ampliar la coordinación a nivel mundial, incluso con China, aunque duda de que Beijing cumpla de manera confiable.
También hizo algunas demandas duras, como seguir limitando las exportaciones de chips de China y reforzar las medidas de seguridad contra el robo de modelos. Amodei cree que estas medidas son necesarias para mantener el liderazgo de Estados Unidos contra los "regímenes autoritarios" y al mismo tiempo proporcionar a la industria un espacio seguro para crecer.
Mezcla y combina la velocidad de la luz
Si bien en el vacío esto es lo que se esperaría de los principales directores ejecutivos de IA, es parte de una lucha más amplia en la industria sobre quién define la política de seguridad de la IA. Hace unas semanas, OpenAI – una vez opuesto La vanguardista ley de seguridad de IA SB 53 de California: un cambio de dirección y exige que la ley sea fortalecer Tras el incidente del "abrazo de cara". Un analista le dijo a Fortune La medida puede ser cierta, pero también podría ayudar a OpenAI a solidificar su liderazgo, elevar el listón para los rivales más pequeños y enviar una señal seria a los reguladores después de sus propios errores.
Notas de TechCrunch Dada la "clara animosidad" entre el CEO de OpenAI, Sam Altman, y Amodei, y las preocupaciones sobre una desaceleración en la colaboración, la coordinación entre los laboratorios líderes parece poco probable. Puede desencadenar un escrutinio antimonopolio.
Además, se informa que Anthropic apunta a cotizar en Nasdaq a mediados de octubre, con una posible valoración de alrededor de 2 billones de dólares. Un artículo de alto perfil que describa a una empresa como una empresa con una mentalidad única en materia de seguridad puede ser de gran ayuda porque abre la puerta a evaluadores externos.
Nada de esto prueba que las preocupaciones fundamentales de Amodei estén fuera de lugar. Investigadores en varios laboratorios. Se han señalado riesgos similares. Esta misma semana, un empleado de Anthropic dejó la empresa; Acusar públicamente a Anthropic de ser imprudenteadvirtiendo sobre una IA “fuera de control”.
Divulgación: Ziff Davis, la empresa matriz de Mashable, presentó una demanda contra OpenAI en abril de 2025, alegando que infringió los derechos de autor de Ziff Davis al entrenar y operar su sistema de inteligencia artificial.