“En mi opinión, la posibilidad de extinción humana se trata de lanzar una moneda al aire”, dijo en una nueva entrevista Jeffrey Irving, ex empleado de OpenAI y Google DeepMind. es uno de Decenas de entrevistas Con investigadores de IA, incluidos empleados actuales y anteriores de OpenAI, Google y Anthropic. Palisade Research, que dice ser una organización sin fines de lucro que estudia las capacidades y motivaciones de la inteligencia artificial, recopiló las entrevistas y las publicó en desdeinside.ai.
Muchos investigadores se han unido a Irving para advertir que la inteligencia artificial podría conducir a la extinción humana. Hay "al menos un 10% de posibilidades de que provoque la extinción humana, lo cual es ridículamente alto", dijo Neil Nanda, científico investigador de Google DeepMind. Observamos los comentarios de Nanda e Irving en un informe reciente sobre la comunidad de "seguridad de la IA", lo difícil que es definir qué significa el término o qué debería hacer cualquiera al respecto, e incluso estos videos no tienen una única solución coherente que ofrecer.
Daniel Kokotaglo, ex investigador de OpenAI, llegó incluso a afirmar que la súper IA "sería básicamente tan poderosa como un dios", y agregó: "Desafortunadamente, no sabemos cómo controlarla en absoluto. Así que probablemente nadie podrá controlarla. Esto es tan peligroso como parece y no se debe permitir que suceda".
Aunque cada video está disponible en su totalidad, el sitio también recopila clips de varias personas que hablan sobre temas similares, incluso si se trata solo de publicidad o marketing, y por qué están trabajando en algo que consideran tan peligroso. Algunas de las respuestas incluyen a Mary Fong de Google diciendo: "Creo que deberías ser bastante escéptico con lo que estoy diciendo porque el laboratorio me paga", y la explicación de Nanda de que "si no creyera que mi trabajo estuviera reduciendo directamente estos riesgos existenciales, renunciaría… Estas empresas no van a dejar de fabricar estos sistemas sólo porque yo renuncie".