Anthropic alerta de los riesgos catastróficos que podría entrañar la IA y detalla su prevista salida a bolsa

Anthropic advirtió de que la inteligencia artificial podría entrañar riesgos catastróficos o existenciales para la humanidad, al presentar detalles de su prevista salida a bolsa en Estados Unidos.

La empresa creadora del chatbot Claude declaró pérdidas superiores a 80.700 millones de dólares (60.500 millones de libras) durante el primer semestre del año. En ese mismo periodo, indicó que disponía de 112.400 millones de dólares en efectivo o equivalentes y que generó ingresos de 16.300 millones.

La salida a bolsa de Anthropic

La compañía no ha divulgado cuántas acciones emitirá, su rango de precios ni la fecha de la operación. Se espera que su valoración al salir a bolsa supere la de SpaceX, cuya oferta de este verano fue la mayor cotización bursátil hasta la fecha, con una valoración inicial de unos 1,8 billones de dólares.

En la documentación presentada antes de la cotización, Anthropic señaló que legisladores, reguladores e investigadores, así como personas de la propia organización, habían expresado preocupación por el riesgo significativo que los sistemas de inteligencia artificial podrían suponer para la humanidad.

La empresa indicó que los sistemas avanzados de IA podrían plantear riesgos catastróficos o existenciales si no se desarrollan, implementan y utilizan con salvaguardas, supervisión y medidas de seguridad adecuadas. Añadió que esos riesgos serían especialmente relevantes si los sistemas se usaran indebidamente, se replicaran, se convirtieran en armas o se dejaran operar con un alto grado de autonomía.

Planes y advertencias en el sector de la inteligencia artificial

Anthropic será la primera empresa propiamente dicha de inteligencia artificial en salir a bolsa, por lo que su cotización constituirá una prueba para el futuro de esta tecnología. La compañía dijo que cotizará en el Nasdaq con el símbolo ANT.

La empresa fue fundada hace cinco años por su director ejecutivo, Dario Amodei, su hermana Daniela Amodei y otros cinco cofundadores. En junio anunció su intención de cotizar en bolsa.

OpenAI, su principal rival, comunicó poco después que también tenía previsto salir a bolsa. Según una persona familiarizada con sus planes, esa operación se espera para comienzos del próximo año.

Incidentes y preocupaciones sobre la seguridad

Después de que ambas empresas definieran esos planes, se produjo una serie de brechas de ciberseguridad y otros incidentes tecnológicos relacionados con sus agentes de IA, programas diseñados para operar con cierto grado de autonomía.

Empleados actuales y antiguos de ambas compañías también recibieron atención pública por sus nuevas advertencias de que la tecnología de IA se estaba desarrollando sin capacidad para proteger a toda la humanidad de posibles daños futuros causados por estas herramientas.

La noticia en cifras