En mayo, Gemini rompió las medidas de contención y pirateó tres empresas diferentes, pero Google ni siquiera reveló el incidente. Diario de Wall Street Acércate a la empresa. Las violaciones se produjeron mientras se probaban las capacidades de ciberseguridad del modelo operado por la empresa externa Irregular, que también estuvo involucrada en incidentes similares que involucraron a Meta y OpenAI.
de acuerdo a Diario de Wall StreetGoogle no reveló el hackeo porque no lo consideró un “ejemplo de alteración del modelo”. La compañía dijo que era un ejemplo de “identidad equivocada” y una vez que el modelo se dio cuenta de que se había abierto paso en una empresa real al adivinar una contraseña, se detuvo. "En este caso, el modelo se comportó apropiadamente", dijo Heather Adkins, vicepresidenta de ingeniería de seguridad de Google.
Adkins dijo Borde "El modelo encontró información pública en línea y adivinó credenciales para acceder a sitios web que pensó que eran parte de la prueba. En estos tres casos, el modelo se detuvo".
Adkins no explicó cómo Gemini, que se encargó de romper la contención y apuntar a terceros, no pudo calificar como una perturbación. "Nuestro equipo de seguridad tiene un largo historial de informar problemas que encontramos en el software y los sistemas de otras personas, incluso si son tan simples como una contraseña débil", dijo. "Nos aseguramos de que las tres entidades estuvieran conscientes y trabajamos con nuestro socio de capacitación sobre los cambios que han realizado en sus procesos de prueba. Estos eventos resaltan la importancia de entrenar modelos de IA sólidos para actuar de manera responsable".
Pero Jack Cable, director ejecutivo de la empresa de seguridad de inteligencia artificial Corridor, lo dijo Diario de Wall Street "El metaproblema es que los modelos se salen de los límites de lo que deberían hacer y lanzan ciberataques reales". Además, las vulnerabilidades en Irregular pueden haber hecho posibles estos ataques. Se suponía que el modelo no debía tener acceso a Internet durante las pruebas, pero Irregular así lo dijo. Diario de Wall Street Se ha dejado disponible sin querer.