Sam Altman, CEO of OpenAI, acknowledges the public's fears regarding artificial intelligence (AI) but urges trust in AI companies to act responsibly. Speaking at a conference in San Francisco, he emphasized the importance of self-regulation within the industry and expressed confidence in their ability to prioritize safety over capabilities. This comes amid rising concerns about AI risks, highlighted by recent claims from an ex-Anthropic researcher warning of potential existential threats from unchecked AI development. Political figures like Bernie Sanders and Steve Bannon have called for more stringent governance of AI, questioning the industry's capacity for self-regulation.
El director de OpenAI, la empresa detrás de ChatGPT, ha instado a la población a confiar más en su compañía y en otras similares para el desarrollo responsable de la inteligencia artificial (IA), en medio de crecientes inquietudes públicas sobre los riesgos asociados. Sam Altman afirmó que “el mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y sentimos la magnitud de esto”, durante una conferencia celebrada en San Francisco.
A pesar de sus afirmaciones, Altman reconoció que los temores respecto a la IA son justificados, dado el rápido avance de estas tecnologías. En un contexto paralelo, el senador Bernie Sanders y el exasesor de Trump, Steve Bannon, han solicitado un mayor control sobre el desarrollo de la IA.
Las declaraciones de Altman se produjeron en un evento anual organizado por Salesforce. “No requiere tanta imaginación como antes para imaginar cómo esto podría salir mal”, comentó. “Creo que el mundo tiene razón al tener miedo”. Esta fue su primera intervención pública desde que un investigador que dejó la firma Anthropic publicara un post viral advirtiendo que la IA podría acabar con toda la humanidad si no se controla adecuadamente.
Varios ejecutivos y expertos en IA han respaldado esta evaluación sin ofrecer detalles sobre cómo podría materializarse tal amenaza. La controversia generada ha llevado a un escrutinio más intenso del desarrollo de la IA, lo que llevó al CEO de Anthropic, Dario Amodei, a abogar por una desaceleración general en el ritmo del desarrollo tecnológico y a solicitar regulaciones gubernamentales.
Altman mostró su apoyo hacia las propuestas de Amodei y recibió elogios de figuras como Demis Hassabis, cofundador de DeepMind, y Elon Musk, propietario del sitio X y del asistente AI Grok. Sin embargo, otros líderes en el sector han comenzado a expresar su preferencia por la autoregulación frente a la intervención gubernamental.
El director de OpenAI expresó su confianza en que las empresas dedicadas a la IA son capaces de regularse a sí mismas: “Estoy muy seguro de nuestra capacidad como empresa e industria para hacerlo de manera segura”, afirmó. Añadió que se asegurarían de mantener “la alineación y seguridad muy por delante de las capacidades” y que si no podían lograrlo, estarían dispuestos a “frenar o detenerse”.
A pesar de estas garantías, algunos políticos han advertido contra la idea de autoregulación. Sanders destacó que las decisiones sobre el desarrollo de la IA están siendo tomadas por “un puñado de las personas más ricas del mundo”, mencionando a Musk, Mark Zuckerberg y Jeff Bezos entre otros. En una conferencia celebrada en Washington, enfatizó: “La gente de este país debe tomar las decisiones sobre la IA, no solo un grupo selecto de oligarcas”.
Bannon también expresó dudas sobre la capacidad del sector tecnológico para autorregularse: “Nunca podemos confiar en lo que dice un oligarca porque… son deshonestos y mienten”, declaró durante el mismo evento.