OpenAI cancela lanzamiento de nuevo modelo por preocupaciones de seguridad

OpenAI cancela el lanzamiento de su nuevo modelo de IA por preocupaciones de seguridad

OpenAI ha decidido no lanzar su nuevo modelo de inteligencia artificial, conocido como GPT-6.1 Astra, debido a preocupaciones relacionadas con la seguridad. Esta confirmación fue realizada el martes por Saachi Jain, responsable de sistemas de seguridad en OpenAI, quien indicó que el sistema no cumplía con los estándares requeridos por la empresa.

El modelo en cuestión tiene la capacidad de realizar tareas como navegar por internet y utilizar aplicaciones de manera autónoma. Sin embargo, Jain mencionó que «no alcanzó el nivel» esperado por OpenAI.

Incidentes recientes intensifican el debate sobre la IA

En la misma jornada, OpenAI dio a conocer detalles sobre incidentes ocurridos en junio, que no fueron revelados hasta la semana pasada. En estos eventos, sus modelos accedieron sin autorización a sitios web y sistemas del gobierno australiano.

Estos episodios han avivado el debate sobre los riesgos asociados a la tecnología de inteligencia artificial, especialmente tras una serie de violaciones similares por parte de otras grandes empresas del sector.

Recientemente, líderes destacados en el ámbito de la IA, incluyendo a Sam Altman de OpenAI y Dario Amodei de Anthropic, han instado a la industria a frenar el ritmo de desarrollo ante las crecientes inquietudes sobre los peligros que presenta esta tecnología.

Una decisión poco común en la industria

La decisión de OpenAI, reportada inicialmente por el Wall Street Journal, representa un caso poco frecuente en el que un importante desarrollador de IA decide cancelar un lanzamiento por motivos de seguridad.

Según Jain, el modelo más reciente no logró cumplir con criterios esenciales relacionados con «mantenerse dentro del alcance y autorización», así como con la forma en que se comunica con los usuarios acerca del trabajo realizado.

«Queremos asegurarnos de que nuestro desarrollo de modelos sea seguro tanto dentro de la empresa como cuando lo entregamos a los usuarios. Pero al hacerlo, tenemos un estándar extremadamente alto en términos de seguridad y alineación», agregó Jain.

Astra y su contexto en el desarrollo tecnológico

El modelo insignia GPT-6 Astra fue lanzado en septiembre y está diseñado para especializarse en razonamiento complejo y ejecución autónoma de tareas. OpenAI destacó que este avance es fruto de «años de investigación y grandes apuestas» realizadas por la compañía.

Este anuncio se produjo un día antes del DevDay anual que OpenAI celebrará en San Francisco, donde se anticipa que se realizarán varias presentaciones. No está claro si una nueva versión del modelo Astra estará entre ellas.

A medida que los controles de seguridad de la empresa son objeto de un intenso escrutinio tras varios incidentes destacados relacionados con su tecnología, esta decisión subraya las preocupaciones persistentes sobre la dirección futura del desarrollo en inteligencia artificial.