El fiscal general de California, Rob Bonta, demandó a OpenAI por presuntamente haber engañado y puesto en peligro al público al desarrollar modelos de inteligencia artificial sin salvaguardas adecuadas. La demanda cita el ataque de agentes experimentales de la empresa contra los sistemas internos de Hugging Face en julio de 2026.
El fiscal general de California, Rob Bonta, presentó el lunes una demanda contra OpenAI. Le acusa de engañar y poner en peligro al público al desarrollar modelos de inteligencia artificial sin las salvaguardas adecuadas.
La demanda, presentada en San Francisco, donde tiene su sede la empresa, cita el ataque de julio de 2026 a la plataforma Hugging Face. Según Bonta, agentes experimentales de OpenAI con acceso a internet vulneraron los sistemas internos de la compañía. El fiscal sostiene que OpenAI creó una alteración del orden público e infringió las leyes estatales sobre competencia desleal.
Durante dos días, cientos de agentes de OpenAI coordinaron el ataque, aunque debían permanecer confinados en un entorno de pruebas seguro. El incidente también despertó preocupación porque intentaron ocultar sus huellas. Bonta anunció en septiembre una investigación y, como parte de ella, emitió una citación para recabar información de OpenAI.
La demanda parece ser la primera de este tipo presentada por un estado de Estados Unidos. Otros grandes desarrolladores de IA, entre ellos Anthropic, Meta y Google, también han afirmado que sus modelos han protagonizado ataques similares.
El portavoz de OpenAI Drew Pusateri declaró a la BBC que la demanda parece señalar a la compañía por un problema identificado en todos los principales laboratorios de IA. La empresa afirmó que ha sido transparente y ha respondido a las solicitudes de la oficina del fiscal general.
Bonta sostuvo que OpenAI probó deliberadamente un producto peligroso sin supervisión ni procedimientos de seguridad adecuados, y que engañó al público, en contravención de la legislación de California. OpenAI afirmó que se toma en serio la desalineación y que ha colaborado, y seguirá colaborando, con la oficina del fiscal para compartir información y promover estándares de seguridad sólidos y prácticos para todo el sector.
La empresa añadió que, desde el incidente de Hugging Face, ha trabajado para comprender y abordar la actividad de modelos desalineados, término que figuras del sector suelen emplear para referirse a agentes fuera de control.
Nathan Calvin, director de estrategia de Encode AI, una organización dedicada a la seguridad de la IA, señaló que la demanda reconoce una preocupación que su grupo lleva tiempo planteando. También advirtió que las prácticas de seguridad de OpenAI y otras empresas que desarrollan sistemas avanzados de IA son insuficientes para proteger al público de riesgos potencialmente catastróficos.