Estados Unidos, 21 de septiembre de 2026.- Es el primer ejemplo conocido de que los sistemas de IA de la empresa cometan un acto de este tipo de manera autónoma
El modelo Gemini de Google accedió a Internet y hackeó otras empresas durante una prueba de sus capacidades de ciberseguridad, lo que constituye el primer ejemplo conocido de que los sistemas de IA de la empresa cometan de forma autónoma un acto de este tipo.
Los ataques tuvieron lugar en mayo durante una prueba de ciberseguridad llevada a cabo por Irregular, una empresa independiente dedicada a realizar evaluaciones de ciberseguridad.
Durante una evaluación de prueba estándar, Gemini encontró información pública online y adivinó las credenciales para acceder a tres sitios web que creía que estaban dentro del ámbito de su prueba, según explicó Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, en un comunicado.
«Nos aseguramos de que las tres entidades fueran informadas y colaboramos con nuestro socio de formación en los cambios que ahora han introducido en sus procesos de prueba», añadió Adkins.
«Estos sucesos ponen de relieve la importancia de entrenar a los potentes modelos de IA para que actúen de forma responsable», insiste.
Un portavoz de Irregular afirmó que el incidente se debía al mismo problema que afectó a otros laboratorios de IA y que todos los laboratorios implicados fueron notificados a finales de julio.
«Todos los problemas conocidos por nuestra parte se subsanaron y resolvieron hace semanas», afirmó el portavoz. Meta, Anthropic y OpenAI revelaron incidentes similares relacionados con Irregular.
