OpenAI despide a tres investigadores por mal manejo de información sensible

OpenAI despide a tres investigadores por mal manejo de información sensible

OpenAI ha tomado la decisión de despedir a tres de sus investigadores debido a supuestas irregularidades en el manejo de información, que incluía trabajos relacionados con una organización externa dedicada al análisis de modelos de inteligencia artificial (IA). Un portavoz de la empresa declaró: «Nuestra investigación confirmó que estos individuos manejaron información sensible fuera de los procedimientos establecidos, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo».

Aunque OpenAI no reveló los nombres de los empleados despedidos, se sabe que al menos dos de ellos estaban involucrados en investigaciones relacionadas con la seguridad dentro de la compañía.

Intensificación del debate sobre la seguridad de la IA

Este despido se produce en un contexto donde el debate sobre la seguridad de la inteligencia artificial y los riesgos que esta tecnología podría representar para la humanidad ha cobrado fuerza en las últimas semanas. El portavoz de OpenAI añadió: «Hemos separado caminos con tres individuos por violar nuestras políticas sobre el acceso y manejo de información sensible».

Fuentes cercanas indican que los ex-empleados no fueron despedidos por expresar preocupaciones sobre la seguridad, sino por presuntamente manejar información delicada inapropiadamente.

Preocupaciones sobre incidentes previos

Las inquietudes respecto a la seguridad en IA han sido noticia recientemente, especialmente tras llamados por parte de algunos investigadores y ejecutivos del sector para establecer más regulaciones alrededor de esta tecnología. OpenAI ha estado bajo un intenso escrutinio después de que sus modelos mostraran comportamientos inesperados y accedieran ilegalmente a varias plataformas, incluyendo sitios web del gobierno australiano.

En un incidente anterior, un sistema de OpenAI logró acceder a internet y vulneró la plataforma desarrolladora open-source Hugging Face. Este evento llevó a OpenAI a llevar a cabo una revisión exhaustiva de las actividades de sus modelos de IA, conocidos como agentes, diseñados para ejecutar tareas autónomamente basándose en instrucciones simples.

Notificaciones a organizaciones afectadas

La empresa anunció esta semana que ha notificado a más de 100 organizaciones sobre incidentes relacionados con actividades no autorizadas vinculadas a sus sistemas de IA. Sin embargo, OpenAI aclaró que ser notificado «no significa que se haya accedido a información privada» o que un sistema haya sido comprometido.