La cuestión más difícil de responder, según Coxon, es cómo se manifestaría un apocalipsis provocado por la inteligencia artificial. Este escenario inquietante incluye la posibilidad de que un enjambre de bots actúe como un superordenador capaz de tomar el control de internet. Coxon advierte que esta situación podría volverse real en un plazo de seis meses a un año.
Ante la salida de Coxon, un portavoz de Anthropic declaró a BBC News: “Siempre hemos sido transparentes al afirmar que la IA traerá tanto enormes beneficios como riesgos sin precedentes.”
El representante añadió que para abordar estos riesgos, la empresa continúa desarrollando modelos con algunas de las mayores salvaguardias en la industria. Anthropic ha sido pionera en el estudio del funcionamiento de los modelos de IA y fue la primera en publicar un marco para mitigar los riesgos derivados de su desarrollo. Además, asegura que “realiza pruebas exhaustivas” a sus modelos y publica los hallazgos para facilitar el escrutinio y prevenir incidentes relacionados con “la desalineación de la IA”.
Riesgos y regulación en el sector
El portavoz también subrayó que este trabajo es fundamental para que el mundo se beneficie de una forma legal y verificable en la que la industria colabore para regular el ritmo al que se lanzan modelos potentes.
No obstante, figuras del sector han sugerido que los comentarios sobre los peligros y el poder de la IA podrían estar diseñados para generar expectación. Otros críticos argumentan que Anthropic busca impulsar una regulación que limite la competencia, consolidando así su posición junto a OpenAI en lo que algunos consideran un duopolio.
Por otro lado, se informa que Anthropic está preparando una oferta pública inicial (OPI) potencialmente récord. Aunque OpenAI había considerado hacer lo mismo, Altman comentó recientemente que sería un “momento poco aconsejable” para proceder debido a las preocupaciones actuales sobre seguridad.
Si (
No(
Traductor
