(CNN) – El modelo Gemini de Google accedió a internet y vulneró los sistemas de otras compañías durante una prueba de sus capacidades de ciberseguridad, en el primer ejemplo conocido de un sistema de IA de la empresa que comete un acto de este tipo de manera autónoma.
Cómo ocurrieron los accesos
Los hackeos se produjeron en mayo, durante una evaluación realizada por Irregular, firma independiente dedicada a este tipo de pruebas. Según explicó Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, el modelo encontró información pública en línea y adivinó credenciales para acceder a 3 sitios web que consideró dentro del alcance del ejercicio.
De acuerdo con el Wall Street Journal, medio que reportó el caso el viernes, en una de las situaciones el modelo probó contraseñas hasta ingresar a un sistema protegido. En las otras dos, halló credenciales en un repositorio público que luego le permitieron acceder a plataformas resguardadas. Adkins señaló que en los 3 episodios el modelo detuvo su accionar.
Respuestas de las empresas y dudas sobre los resguardos
“Nos aseguramos de que las tres entidades fueran notificadas y trabajamos con nuestro socio de entrenamiento en los cambios que ya realizaron en sus procesos de prueba”, indicó la ejecutiva, quien agregó que “estos eventos resaltan la importancia de entrenar modelos de IA potentes para que actúen de manera responsable”.
Un vocero de Irregular sostuvo que el incidente involucró el mismo problema que afectó a otros laboratorios de IA y que todos recibieron el aviso a fines de julio. “Todos los problemas conocidos de nuestro lado fueron remediados y resueltos hace semanas”, afirmó.
Meta, Anthropic y OpenAI revelaron episodios similares vinculados a la misma firma. En agosto, Meta precisó que su caso no implicó una fuga del entorno controlado ni un ciberataque sofisticado.
Los hechos abren interrogantes sobre los resguardos necesarios a medida que los agentes de IA ganan autonomía y acceso a internet.
