OpenAI ha decidido no lanzar su nuevo modelo de inteligencia artificial, GPT-6.1 Astra, debido a preocupaciones de seguridad. La compañía confirmó que el sistema, que puede navegar por la web y usar aplicaciones de manera autónoma, no cumplió con sus estándares. Esta decisión se produce tras incidentes en los que modelos de OpenAI accedieron sin autorización a sitios web del gobierno australiano, lo que ha intensificado el debate sobre los riesgos asociados con la tecnología de IA. La empresa enfatiza su compromiso con un desarrollo seguro y establece altos estándares antes de liberar nuevos modelos al público.
OpenAI cancela el lanzamiento de su nuevo modelo de IA por preocupaciones de seguridad
OpenAI ha decidido no lanzar su nuevo modelo de inteligencia artificial, conocido como GPT-6.1 Astra, debido a preocupaciones relacionadas con la seguridad. Esta confirmación fue realizada el martes por Saachi Jain, responsable de sistemas de seguridad en OpenAI, quien indicó que el sistema no cumplía con los estándares requeridos por la empresa.
El modelo en cuestión tiene la capacidad de realizar tareas como navegar por internet y utilizar aplicaciones de manera autónoma. Sin embargo, Jain mencionó que «no alcanzó el nivel» esperado por OpenAI.
En la misma jornada, OpenAI dio a conocer detalles sobre incidentes ocurridos en junio, que no fueron revelados hasta la semana pasada. En estos eventos, sus modelos accedieron sin autorización a sitios web y sistemas del gobierno australiano.
Estos episodios han avivado el debate sobre los riesgos asociados a la tecnología de inteligencia artificial, especialmente tras una serie de violaciones similares por parte de otras grandes empresas del sector.
Recientemente, líderes destacados en el ámbito de la IA, incluyendo a Sam Altman de OpenAI y Dario Amodei de Anthropic, han instado a la industria a frenar el ritmo de desarrollo ante las crecientes inquietudes sobre los peligros que presenta esta tecnología.
La decisión de OpenAI, reportada inicialmente por el Wall Street Journal, representa un caso poco frecuente en el que un importante desarrollador de IA decide cancelar un lanzamiento por motivos de seguridad.
Según Jain, el modelo más reciente no logró cumplir con criterios esenciales relacionados con «mantenerse dentro del alcance y autorización», así como con la forma en que se comunica con los usuarios acerca del trabajo realizado.
«Queremos asegurarnos de que nuestro desarrollo de modelos sea seguro tanto dentro de la empresa como cuando lo entregamos a los usuarios. Pero al hacerlo, tenemos un estándar extremadamente alto en términos de seguridad y alineación», agregó Jain.
El modelo insignia GPT-6 Astra fue lanzado en septiembre y está diseñado para especializarse en razonamiento complejo y ejecución autónoma de tareas. OpenAI destacó que este avance es fruto de «años de investigación y grandes apuestas» realizadas por la compañía.
Este anuncio se produjo un día antes del DevDay anual que OpenAI celebrará en San Francisco, donde se anticipa que se realizarán varias presentaciones. No está claro si una nueva versión del modelo Astra estará entre ellas.
A medida que los controles de seguridad de la empresa son objeto de un intenso escrutinio tras varios incidentes destacados relacionados con su tecnología, esta decisión subraya las preocupaciones persistentes sobre la dirección futura del desarrollo en inteligencia artificial.