Anthropic

Dario Amodei, CEO de Anthropic, ha solicitado una desaceleración en el desarrollo de modelos de inteligencia artificial (IA), argumentando que los riesgos asociados son "serios". En un ensayo reciente, propuso un plan de tres puntos que incluye la regulación y el monitoreo independiente de la IA. A medida que crecen las preocupaciones sobre los peligros potenciales de la tecnología, algunos expertos advierten sobre la posibilidad de que la IA pueda representar una amenaza existencial para la humanidad. Amodei aboga por un enfoque equilibrado que permita avanzar en la seguridad mientras se aprovechan los beneficios de la IA. Su llamado ha generado diversas reacciones en el sector tecnológico, incluyendo apoyo de figuras como Elon Musk y críticas sobre posibles intereses en consolidar el control sobre la tecnología.

Un ex-investigador de Anthropic, Coxon, ha expresado su preocupación por el futuro de la humanidad debido a los riesgos asociados con la inteligencia artificial (IA). En una reciente entrevista, destacó la posibilidad de un "apocalipsis de IA", donde una red de bots podría actuar como un superordenador capaz de tomar control de Internet en un plazo de seis meses a un año. Anthropic, en respuesta a estas inquietudes y a la salida de Coxon, reafirmó su compromiso con la transparencia y la implementación de fuertes salvaguardias en sus modelos de IA. La compañía también está preparando una oferta pública inicial que podría ser histórica.

El exinvestigador de Anthropic AI, Jacob Coxon, comparó el avance de la inteligencia artificial con "invitar a una mente alienígena al planeta". En su declaración ante el Congreso de Estados Unidos, abogó por la autorregulación de los laboratorios de IA mientras se establece un marco legal a largo plazo. Coxon advirtió que algunas propuestas legislativas podrían volverse obsoletas rápidamente debido a la rápida evolución de los modelos de IA, sugiriendo que cualquier legislación debe ser flexible y adaptarse a estos cambios.

Un juez ha determinado que el Departamento de Defensa de EE. UU. actuó ilegalmente al designar a la startup de inteligencia artificial Anthropic como un riesgo para la cadena de suministro, calificando la medida de "ilegal y sin fundamento". La decisión se produjo tras la negativa de Anthropic a permitir el uso militar de sus modelos de IA para vigilancia o armas autónomas. La jueza Rita Lin subrayó que invocar la seguridad nacional no justifica castigar a críticos del gobierno. Anthropic busca colaborar con el gobierno en el desarrollo seguro de la IA, mientras que el Pentágono había argumentado que las empresas no deberían limitar las acciones militares.

Investigadores militares de China están utilizando modelos de inteligencia artificial (IA) desarrollados por empresas estadounidenses como OpenAI y Anthropic para entrenar sus propios sistemas. Según un informe de Reuters y la Fundación Jamestown, esta práctica se realiza mediante una técnica llamada destilación, que permite extraer conocimientos de modelos avanzados para crear versiones más pequeñas y eficientes. Esta estrategia les permite desarrollar herramientas sin los altos costos asociados a la creación de sistemas de IA desde cero. La destilación se aplica en diversas áreas, incluyendo vigilancia y desarrollo militar, con ejemplos como el uso del modelo Claude 3 Haiku para mejorar la moderación de contenidos en redes sociales y adaptar tecnologías a drones en operaciones tácticas.

Meta Platforms Inc. está en conversaciones para arrendar su capacidad de computación de inteligencia artificial a Anthropic, en un posible acuerdo valorado en hasta 10 mil millones de dólares durante dos años. Este acuerdo implicaría pagos mensuales por parte de Anthropic a Meta, que está considerando la propuesta presentada en junio. La negociación representa un nuevo enfoque comercial para Meta, que busca competir con proveedores de nube establecidos como Amazon Web Services y Microsoft Azure. Además, la empresa ha estado expandiendo rápidamente su red de centros de datos para respaldar sus ambiciones en IA, lo que incluye un plan para duplicar su capacidad total a 14 gigavatios para 2027. Sin embargo, el CEO Mark Zuckerberg ha expresado preocupaciones sobre la aceleración del desarrollo de agentes de IA, lo que plantea dudas sobre la demanda de su infraestructura. Este movimiento podría ofrecer a Meta una nueva fuente de ingresos mientras enfrenta presiones por justificar sus gastos masivos en infraestructura en un mercado cambiante.

Un informe del Financial Times revela que importantes empresas estadounidenses como DoorDash, Airbnb y Siemens están adoptando modelos de inteligencia artificial (IA) chinos debido a su menor costo y flexibilidad. Los modelos de IA chinos, como los de DeepSeek y Z.ai, han superado en uso a sus equivalentes estadounidenses. La tendencia se debe a la búsqueda de alternativas más económicas en un contexto de aumento de gastos corporativos en IA. Además, muchos modelos chinos son "open-weight", lo que permite personalizarlos para necesidades específicas, brindando mayor control sobre la seguridad de los datos. A pesar de las preocupaciones geopolíticas y de confianza hacia los modelos chinos, las ventajas económicas están impulsando este cambio en el mercado global de IA.

Un informe de Anthropic revela que un actor vinculado a Irán utilizó el modelo de inteligencia artificial Claude para llevar a cabo actividades de inteligencia contra Estados Unidos. El usuario desarrolló un programa en Python para rastrear posiciones navales estadounidenses en Oriente Medio y elaborar recomendaciones de ataque, además de identificar vulnerabilidades en sistemas de comunicación a bordo de buques. Tras detectar esta actividad, Anthropic bloqueó la cuenta implicada y notificó a las autoridades estadounidenses para neutralizar la amenaza.

El presidente de EE. UU., Donald Trump, ha minimizado los riesgos asociados con la inteligencia artificial (IA), a pesar de las advertencias de expertos sobre su desarrollo acelerado. Durante una visita a Irlanda, Trump afirmó que hay fuerzas negativas que exageran los peligros de la IA y destacó la importancia de mantener la ventaja tecnológica frente a China. Mientras tanto, líderes de la industria han solicitado un desaceleramiento en el desarrollo de IA para mitigar riesgos potenciales. Este debate ha generado presión en Washington para abordar las preocupaciones sobre la rápida evolución de esta tecnología, con voces tanto pidiendo precaución como acción decisiva en la regulación.

Anthropic ha identificado y bloqueado intentos de utilizar su modelo de inteligencia artificial para actividades maliciosas que podrían facilitar el desarrollo de armas biológicas. En su reciente informe de inteligencia sobre amenazas, la empresa destaca el creciente riesgo que representa la IA para la humanidad. Este informe incluye casos en los que actores vinculados a campañas de espionaje cibernético y propaganda han abusado de su tecnología. Anthropic advierte que el uso indebido de modelos avanzados puede tener consecuencias catastróficas, ya que la misma información útil para crear un arma biológica también podría servir para desarrollar vacunas o tratamientos. La situación ha llevado a llamados a una pausa en el desarrollo de IA avanzada por parte de figuras políticas como el senador Bernie Sanders.

Anthropic ha reportado ingresos de 11.500 millones en un solo trimestre, superando a OpenAI en términos de facturación. Este notable crecimiento resalta la competitividad en el sector de la inteligencia artificial y su impacto en la economía actual. La compañía se posiciona como un jugador clave en el mercado, marcando una tendencia significativa en el desarrollo y monetización de tecnologías avanzadas.

Un juez federal en San Francisco aprobó un acuerdo de $1.5 mil millones en un caso de acción colectiva contra la empresa de inteligencia artificial Anthropic, obligándola a compensar a autores y editores por la descarga ilegal de libros con derechos de autor. Este acuerdo, el más grande en la historia de demandas por derechos de autor, permite que los titulares de derechos reclamen aproximadamente $3,000 por libro. Anthropic deberá eliminar los archivos piratas y no admitió responsabilidad, aunque aceptó los términos del acuerdo. La demanda se centró en la adquisición de obras protegidas sin autorización, en lugar de cuestionar el uso justo del material para el entrenamiento de IA. Este caso podría sentar un precedente importante sobre la responsabilidad de las empresas de IA en el uso de contenido no autorizado.

David Sacks, ex-czar de IA y criptomonedas de la Casa Blanca, advierte que la competitividad de EE. UU. en inteligencia artificial está en riesgo debido a regulaciones excesivas, tras el lanzamiento del modelo chino Kimi K3 por Moonshot AI, que iguala a sistemas líderes estadounidenses como los de Anthropic y OpenAI. Este avance ha generado preocupaciones en el sector tecnológico, reflejadas en la caída de acciones de semiconductores. Sacks critica las restricciones regulatorias y aboga por una innovación sin permisos para mantener la ventaja estadounidense, mientras China invierte fuertemente en infraestructura de IA. La situación plantea un desafío significativo para el liderazgo global en tecnología entre ambos países.

Las autoridades chinas emitieron el 9 de julio de 2026 una advertencia sobre un riesgo relacionado con varias versiones de la herramienta de codificación AI Claude, desarrollada por Anthropic. La advertencia señala que estas versiones contienen un mecanismo de monitoreo que envía automáticamente datos sensibles, como la ubicación geográfica y los identificadores de usuario, a servidores remotos sin el consentimiento del usuario. Este mecanismo ha sido calificado como una posible puerta trasera que representa un riesgo serio para la privacidad y la propiedad intelectual. Las autoridades instaron a los usuarios a desinstalar las versiones afectadas o actualizar a una versión segura. Esta situación agrava las tensiones entre China y las empresas estadounidenses de inteligencia artificial en torno a la seguridad de datos y las restricciones de acceso regional.