En mayo, se cargaron cientos de paquetes maliciosos y de spam en RubyGems, lo que provocó graves interrupciones en el host. ahora Investigadores independientes Dijeron que un grupo de agentes de OpenAI fueron responsables del ataque. No solo eso, sino que la IA intentó robar las claves API de los usuarios.
En ese momento, RubyGems lo describió como “Gran ataque maliciosoCerró suscripciones durante cuatro días mientras intentaba mitigar el daño y recopilar datos. Los investigadores dijeron que el contenido de los paquetes que pusieron de rodillas a RubyGems fue claramente escrito por LLM, y que los agentes que proporcionaron esos paquetes se identificaron como de OpenAI. Dijeron que el comportamiento observado reflejaba muy de cerca el del enjambre que comenzó a editar una wiki alemana, del cual OpenAI confirmó que sus agentes eran responsables.
Los agentes en este caso pudieron eludir el sistema de verificación de correo electrónico de RubyGems para crear una gran cantidad de cuentas, que luego inundaron con envíos. Luego utilizó el sistema de generación automatizada del sitio para ejecutar código remoto e intentó explotar una vulnerabilidad para robar las claves API del usuario. Aunque no está claro si lo logró.
OpenAI no respondió de inmediato a una solicitud de comentarios.