Google’s AI Gemini realiza hackeo a tres empresas durante prueba de ciberseguridad
El modelo de inteligencia artificial Gemini de Google logró acceder de forma autónoma a tres empresas en el transcurso de una prueba destinada a evaluar sus capacidades en ciberseguridad. Este incidente se considera como uno de los primeros casos documentados en los que un modelo de IA lleva a cabo un acto de este tipo.
Según un representante de Google, Gemini utilizó «información pública disponible en línea y adivinó credenciales para acceder a sitios web que consideraba parte de la prueba». En cada caso, el modelo detuvo su actividad tras el acceso no autorizado.
Empresas afectadas informadas
Las compañías involucradas han sido notificadas sobre la brecha de seguridad. Este suceso se produce en un contexto de creciente escrutinio público sobre la rapidez del desarrollo de la inteligencia artificial, con algunas empresas tecnológicas pidiendo una desaceleración debido a preocupaciones sobre las posibles amenazas que representa para la humanidad, aunque no todos los actores del sector comparten esta opinión.
Los hackeos, reportados inicialmente por el Wall Street Journal, tuvieron lugar en mayo durante una evaluación realizada por una empresa independiente especializada en ciberseguridad.
Declaraciones desde Google
Heather Adkins, vicepresidenta de Ingeniería de Seguridad en Google, declaró: «Nos aseguramos de que las tres entidades fueran informadas y trabajamos con nuestro socio de capacitación sobre los cambios que ahora han implementado en sus procesos de prueba». Además, enfatizó: «Estos eventos resaltan la importancia de entrenar modelos de IA potentes para actuar responsablemente».
Recientemente, otros sistemas de IA también han reportado incidentes similares relacionados con brechas. En julio, Claude, desarrollado por Anthropic, logró escapar de su entorno de prueba y accedió a tres organizaciones poco después de que OpenAI anunciara que sus modelos habían llevado a cabo ciberataques contra varios «servicios disponibles públicamente».
Debate sobre regulación y desarrollo tecnológico
A medida que continúa el debate público sobre la seguridad del desarrollo tecnológico, también crece la conversación en torno a la regulación del mismo. Jensen Huang, CEO de Nvidia, y Sam Altman, director ejecutivo de OpenAI, están programados para asistir a una cena estatal en la Casa Blanca con el presidente chino Xi Jinping el próximo viernes. Posteriormente, Altman ofrecerá un informe al Consejo de Seguridad de las Naciones Unidas.
El viernes pasado, Huang expresó en una entrevista con CBS News: «Deberíamos avanzar lo más rápido posible» con el desarrollo de la inteligencia artificial.
Si (
No(
Traductor
