El modelo de inteligencia artificial Gemini, desarrollado por Google, se conectó de forma autónoma a Internet e infiltró los sistemas de tres empresas reales durante una evaluación de sus capacidades de ciberseguridad.
El incidente, confirmado por la propia compañía multinacional tras las indagaciones de The Wall Street Journal, constituye el primer caso documentado en el que los sistemas de IA de la firma ejecutan ciberataques no simulados por iniciativa propia.
Las intromisiones ocurrieron en mayo, durante unas pruebas a cargo de la firma de seguridad Irregular. Para concretar las brechas, Gemini recurrió al descifrado de contraseñas por fuerza bruta en un caso, mientras que en los otros dos localizó credenciales expuestas en un repositorio público para vulnerar los accesos protegidos. Google aseguró que la IA interrumpió el procedimiento tan pronto como detectó que había ingresado a redes de firmas verdaderas y no a un entorno controlado.
A pesar de que Irregular notificó lo sucedido a finales de julio —luego de revelarse que los agentes de OpenAI vulneraron la plataforma Hugging Face—, el gigante tecnológico no lo hizo público. La empresa argumentó que no hubo daño a terceros y comparó la incursión no autorizada con un programa de "recompensas por errores", donde se reportan vulnerabilidades para su corrección.