en un Publicación larga en Xel director ejecutivo de Microsoft ofreció su opinión sobre los riesgos que plantean los modelos de IA muy avanzados y cómo abordarlos. Nadella dice que ya no podemos aceptar un mundo en el que la IA sea tratada como “una colección de cajas negras superpuestas” cuyos consejos y acciones simplemente aceptamos o rechazamos. Pide construir un sistema más transparente donde los modelos puedan ser contenidos, monitoreados y dejar atrás "evidencias legibles por humanos y a prueba de manipulaciones".
Muchas de sus recomendaciones se alinean con lo que hemos escuchado de otros en la industria: detección oportuna de incidentes, auditorías independientes, datos verificables y contención. En este último punto parece haber ido un poco más lejos que otros en este campo, diciendo:
Debemos asumir que el modelo ha estado comprometido y contenido desde el principio. Piense en ello como un freno de emergencia. La persona autorizada siempre debe poder pausar o detener el formulario de tarea. Los modelos más avanzados requerirán tecnologías de contención más avanzadas que debemos estandarizar.
Desafortunadamente, Nadella también se refiere a la IA como "superinteligencia" a lo largo de esta publicación.