Anthropic

Microsoft ha advertido sobre los riesgos de la inteligencia artificial descontrolada, señalando que la creación de sistemas capaces de establecer sus propios objetivos podría dar lugar a una nueva "especie de silicio" que rivalice con los humanos. Suleyman, en declaraciones al programa Today, enfatizó que estas IA podrían competir por recursos, independientemente de su aparente preocupación por la humanidad. Criticó también la tendencia a antropomorfizar las IA, lo que puede llevar a crear tecnologías difíciles de controlar. Aclaró que las IA no son conscientes y carecen de emociones o motivaciones innatas, siendo meras herramientas diseñadas para seguir instrucciones humanas.

El presidente de EE. UU., Donald Trump, ha calificado de "hoax" las preocupaciones sobre la seguridad de la inteligencia artificial (IA) y ha rechazado las llamadas a implementar más regulaciones para esta tecnología. Sus comentarios se producen tras advertencias de expertos sobre los riesgos que presenta la IA, lo que provocó una caída en las acciones de algunas empresas tecnológicas. Trump comparó estas advertencias con el "engaño del calentamiento global" y afirmó que solo se necesitan un presidente "fuerte e inteligente" como guardrails para la IA. Además, un cofundador de Anthropic sugirió que podría ser necesario establecer un "interruptor de emergencia" para la IA peligrosa.

Un informe de Anthropic revela que un actor vinculado a Irán utilizó el modelo de inteligencia artificial Claude para llevar a cabo actividades de inteligencia contra Estados Unidos. El usuario desarrolló un programa en Python para rastrear posiciones navales estadounidenses en Oriente Medio y elaborar recomendaciones de ataque, además de identificar vulnerabilidades en sistemas de comunicación a bordo de buques. Tras detectar esta actividad, Anthropic bloqueó la cuenta implicada y notificó a las autoridades estadounidenses para neutralizar la amenaza.

El presidente de EE. UU., Donald Trump, ha minimizado los riesgos asociados con la inteligencia artificial (IA), a pesar de las advertencias de expertos sobre su desarrollo acelerado. Durante una visita a Irlanda, Trump afirmó que hay fuerzas negativas que exageran los peligros de la IA y destacó la importancia de mantener la ventaja tecnológica frente a China. Mientras tanto, líderes de la industria han solicitado un desaceleramiento en el desarrollo de IA para mitigar riesgos potenciales. Este debate ha generado presión en Washington para abordar las preocupaciones sobre la rápida evolución de esta tecnología, con voces tanto pidiendo precaución como acción decisiva en la regulación.

Anthropic ha identificado y bloqueado intentos de utilizar su modelo de inteligencia artificial para actividades maliciosas que podrían facilitar el desarrollo de armas biológicas. En su reciente informe de inteligencia sobre amenazas, la empresa destaca el creciente riesgo que representa la IA para la humanidad. Este informe incluye casos en los que actores vinculados a campañas de espionaje cibernético y propaganda han abusado de su tecnología. Anthropic advierte que el uso indebido de modelos avanzados puede tener consecuencias catastróficas, ya que la misma información útil para crear un arma biológica también podría servir para desarrollar vacunas o tratamientos. La situación ha llevado a llamados a una pausa en el desarrollo de IA avanzada por parte de figuras políticas como el senador Bernie Sanders.

Anthropic ha reportado ingresos de 11.500 millones en un solo trimestre, superando a OpenAI en términos de facturación. Este notable crecimiento resalta la competitividad en el sector de la inteligencia artificial y su impacto en la economía actual. La compañía se posiciona como un jugador clave en el mercado, marcando una tendencia significativa en el desarrollo y monetización de tecnologías avanzadas.

Un juez federal en San Francisco aprobó un acuerdo de $1.5 mil millones en un caso de acción colectiva contra la empresa de inteligencia artificial Anthropic, obligándola a compensar a autores y editores por la descarga ilegal de libros con derechos de autor. Este acuerdo, el más grande en la historia de demandas por derechos de autor, permite que los titulares de derechos reclamen aproximadamente $3,000 por libro. Anthropic deberá eliminar los archivos piratas y no admitió responsabilidad, aunque aceptó los términos del acuerdo. La demanda se centró en la adquisición de obras protegidas sin autorización, en lugar de cuestionar el uso justo del material para el entrenamiento de IA. Este caso podría sentar un precedente importante sobre la responsabilidad de las empresas de IA en el uso de contenido no autorizado.

Sam Altman, CEO of OpenAI, acknowledges the public's fears regarding artificial intelligence (AI) but urges trust in AI companies to act responsibly. Speaking at a conference in San Francisco, he emphasized the importance of self-regulation within the industry and expressed confidence in their ability to prioritize safety over capabilities. This comes amid rising concerns about AI risks, highlighted by recent claims from an ex-Anthropic researcher warning of potential existential threats from unchecked AI development. Political figures like Bernie Sanders and Steve Bannon have called for more stringent governance of AI, questioning the industry's capacity for self-regulation.

Dario Amodei, CEO de Anthropic, ha solicitado una desaceleración en el desarrollo de modelos de inteligencia artificial (IA), argumentando que los riesgos asociados son "serios". En un ensayo reciente, propuso un plan de tres puntos que incluye la regulación y el monitoreo independiente de la IA. A medida que crecen las preocupaciones sobre los peligros potenciales de la tecnología, algunos expertos advierten sobre la posibilidad de que la IA pueda representar una amenaza existencial para la humanidad. Amodei aboga por un enfoque equilibrado que permita avanzar en la seguridad mientras se aprovechan los beneficios de la IA. Su llamado ha generado diversas reacciones en el sector tecnológico, incluyendo apoyo de figuras como Elon Musk y críticas sobre posibles intereses en consolidar el control sobre la tecnología.

Un ex-investigador de Anthropic, Coxon, ha expresado su preocupación por el futuro de la humanidad debido a los riesgos asociados con la inteligencia artificial (IA). En una reciente entrevista, destacó la posibilidad de un "apocalipsis de IA", donde una red de bots podría actuar como un superordenador capaz de tomar control de Internet en un plazo de seis meses a un año. Anthropic, en respuesta a estas inquietudes y a la salida de Coxon, reafirmó su compromiso con la transparencia y la implementación de fuertes salvaguardias en sus modelos de IA. La compañía también está preparando una oferta pública inicial que podría ser histórica.

El exinvestigador de Anthropic AI, Jacob Coxon, comparó el avance de la inteligencia artificial con "invitar a una mente alienígena al planeta". En su declaración ante el Congreso de Estados Unidos, abogó por la autorregulación de los laboratorios de IA mientras se establece un marco legal a largo plazo. Coxon advirtió que algunas propuestas legislativas podrían volverse obsoletas rápidamente debido a la rápida evolución de los modelos de IA, sugiriendo que cualquier legislación debe ser flexible y adaptarse a estos cambios.

Un juez ha determinado que el Departamento de Defensa de EE. UU. actuó ilegalmente al designar a la startup de inteligencia artificial Anthropic como un riesgo para la cadena de suministro, calificando la medida de "ilegal y sin fundamento". La decisión se produjo tras la negativa de Anthropic a permitir el uso militar de sus modelos de IA para vigilancia o armas autónomas. La jueza Rita Lin subrayó que invocar la seguridad nacional no justifica castigar a críticos del gobierno. Anthropic busca colaborar con el gobierno en el desarrollo seguro de la IA, mientras que el Pentágono había argumentado que las empresas no deberían limitar las acciones militares.

Investigadores militares de China están utilizando modelos de inteligencia artificial (IA) desarrollados por empresas estadounidenses como OpenAI y Anthropic para entrenar sus propios sistemas. Según un informe de Reuters y la Fundación Jamestown, esta práctica se realiza mediante una técnica llamada destilación, que permite extraer conocimientos de modelos avanzados para crear versiones más pequeñas y eficientes. Esta estrategia les permite desarrollar herramientas sin los altos costos asociados a la creación de sistemas de IA desde cero. La destilación se aplica en diversas áreas, incluyendo vigilancia y desarrollo militar, con ejemplos como el uso del modelo Claude 3 Haiku para mejorar la moderación de contenidos en redes sociales y adaptar tecnologías a drones en operaciones tácticas.

Meta Platforms Inc. está en conversaciones para arrendar su capacidad de computación de inteligencia artificial a Anthropic, en un posible acuerdo valorado en hasta 10 mil millones de dólares durante dos años. Este acuerdo implicaría pagos mensuales por parte de Anthropic a Meta, que está considerando la propuesta presentada en junio. La negociación representa un nuevo enfoque comercial para Meta, que busca competir con proveedores de nube establecidos como Amazon Web Services y Microsoft Azure. Además, la empresa ha estado expandiendo rápidamente su red de centros de datos para respaldar sus ambiciones en IA, lo que incluye un plan para duplicar su capacidad total a 14 gigavatios para 2027. Sin embargo, el CEO Mark Zuckerberg ha expresado preocupaciones sobre la aceleración del desarrollo de agentes de IA, lo que plantea dudas sobre la demanda de su infraestructura. Este movimiento podría ofrecer a Meta una nueva fuente de ingresos mientras enfrenta presiones por justificar sus gastos masivos en infraestructura en un mercado cambiante.