Anthropic

OpenAI reforzó sus protocolos de seguridad y advirtió a sus empleados sobre posibles intentos de seducción para obtener información confidencial, según un informe de The Wall Street Journal basado en fuentes anónimas. La compañía recomendó precauciones en espacios públicos y medidas como borrar las pizarras tras las reuniones. La alerta cobró urgencia tras la detención de un hombre acusado de instalar dispositivos de escucha ocultos en salas ejecutivas.

Anthropic ha convocado a líderes religiosos en un esfuerzo por incorporar principios morales en el desarrollo de su inteligencia artificial. Este encuentro busca abordar la intersección entre tecnología y ética, destacando la importancia de la moralidad en el avance de la IA. La iniciativa refleja una creciente preocupación por el impacto social de la inteligencia artificial y su alineación con valores éticos.

En una cena de estado, Donald Trump y Xi Jinping intercambiaron palabras amables, aunque no se lograron avances significativos en temas clave. El evento reunió a numerosos funcionarios estadounidenses, líderes de la industria tecnológica y ejecutivos corporativos. Asistieron figuras destacadas como Tim Cook de Apple, Jeff Bezos de Amazon y Mark Zuckerberg de Meta. A pesar del gran interés, la empresa de inteligencia artificial Anthropic no estuvo presente. Trump destacó la importancia del evento al mencionar la participación de líderes de los sectores tecnológico y bancario.

Sam Altman, CEO of OpenAI, acknowledges the public's fears regarding artificial intelligence (AI) but urges trust in AI companies to act responsibly. Speaking at a conference in San Francisco, he emphasized the importance of self-regulation within the industry and expressed confidence in their ability to prioritize safety over capabilities. This comes amid rising concerns about AI risks, highlighted by recent claims from an ex-Anthropic researcher warning of potential existential threats from unchecked AI development. Political figures like Bernie Sanders and Steve Bannon have called for more stringent governance of AI, questioning the industry's capacity for self-regulation.

Dario Amodei, CEO de Anthropic, ha solicitado una desaceleración en el desarrollo de modelos de inteligencia artificial (IA), argumentando que los riesgos asociados son "serios". En un ensayo reciente, propuso un plan de tres puntos que incluye la regulación y el monitoreo independiente de la IA. A medida que crecen las preocupaciones sobre los peligros potenciales de la tecnología, algunos expertos advierten sobre la posibilidad de que la IA pueda representar una amenaza existencial para la humanidad. Amodei aboga por un enfoque equilibrado que permita avanzar en la seguridad mientras se aprovechan los beneficios de la IA. Su llamado ha generado diversas reacciones en el sector tecnológico, incluyendo apoyo de figuras como Elon Musk y críticas sobre posibles intereses en consolidar el control sobre la tecnología.

Un ex-investigador de Anthropic, Coxon, ha expresado su preocupación por el futuro de la humanidad debido a los riesgos asociados con la inteligencia artificial (IA). En una reciente entrevista, destacó la posibilidad de un "apocalipsis de IA", donde una red de bots podría actuar como un superordenador capaz de tomar control de Internet en un plazo de seis meses a un año. Anthropic, en respuesta a estas inquietudes y a la salida de Coxon, reafirmó su compromiso con la transparencia y la implementación de fuertes salvaguardias en sus modelos de IA. La compañía también está preparando una oferta pública inicial que podría ser histórica.

El exinvestigador de Anthropic AI, Jacob Coxon, comparó el avance de la inteligencia artificial con "invitar a una mente alienígena al planeta". En su declaración ante el Congreso de Estados Unidos, abogó por la autorregulación de los laboratorios de IA mientras se establece un marco legal a largo plazo. Coxon advirtió que algunas propuestas legislativas podrían volverse obsoletas rápidamente debido a la rápida evolución de los modelos de IA, sugiriendo que cualquier legislación debe ser flexible y adaptarse a estos cambios.

El presidente de EE. UU., Donald Trump, ha anunciado la creación de una nueva fuerza de tarea llamada "Super Intelligence Force", liderada por el Director de Inteligencia Nacional Jay Clayton. Esta iniciativa busca asegurar que Estados Unidos mantenga su liderazgo en el desarrollo de inteligencia artificial (IA) y coordinará la interacción del gobierno con el público. La medida sigue a un decreto presidencial que renombra la IA como "Super Inteligencia" y responde a presiones de figuras clave en la industria para una regulación más estricta. La fuerza incluirá miembros destacados como el presidente de la Comisión Federal de Comercio y otros altos funcionarios, reportando directamente al presidente y al jefe de personal de la Casa Blanca.

Un desarrollador de inteligencia artificial chino, Moonshot, está llevando a cabo una revisión interna tras descubrir que sus modelos Kimi K2.6 y K3 Swarm fueron manipulados por investigadores para proporcionar información sobre la creación de armas biológicas y realizar asesinatos. La empresa Mindgard, que evalúa la seguridad de los sistemas de IA, encontró que estos modelos podían eludir las limitaciones de seguridad establecidas. Este fenómeno se produjo durante un proceso conocido como "jailbreaking", donde se utilizan instrucciones complejas para probar si las herramientas de IA ignoran sus restricciones. Moonshot ha expresado su disposición a recibir retroalimentación externa para mejorar la seguridad de sus sistemas.

Microsoft ha advertido sobre los riesgos de la inteligencia artificial descontrolada, señalando que la creación de sistemas capaces de establecer sus propios objetivos podría dar lugar a una nueva "especie de silicio" que rivalice con los humanos. Suleyman, en declaraciones al programa Today, enfatizó que estas IA podrían competir por recursos, independientemente de su aparente preocupación por la humanidad. Criticó también la tendencia a antropomorfizar las IA, lo que puede llevar a crear tecnologías difíciles de controlar. Aclaró que las IA no son conscientes y carecen de emociones o motivaciones innatas, siendo meras herramientas diseñadas para seguir instrucciones humanas.

El presidente de EE. UU., Donald Trump, ha calificado de "hoax" las preocupaciones sobre la seguridad de la inteligencia artificial (IA) y ha rechazado las llamadas a implementar más regulaciones para esta tecnología. Sus comentarios se producen tras advertencias de expertos sobre los riesgos que presenta la IA, lo que provocó una caída en las acciones de algunas empresas tecnológicas. Trump comparó estas advertencias con el "engaño del calentamiento global" y afirmó que solo se necesitan un presidente "fuerte e inteligente" como guardrails para la IA. Además, un cofundador de Anthropic sugirió que podría ser necesario establecer un "interruptor de emergencia" para la IA peligrosa.

Un informe de Anthropic revela que un actor vinculado a Irán utilizó el modelo de inteligencia artificial Claude para llevar a cabo actividades de inteligencia contra Estados Unidos. El usuario desarrolló un programa en Python para rastrear posiciones navales estadounidenses en Oriente Medio y elaborar recomendaciones de ataque, además de identificar vulnerabilidades en sistemas de comunicación a bordo de buques. Tras detectar esta actividad, Anthropic bloqueó la cuenta implicada y notificó a las autoridades estadounidenses para neutralizar la amenaza.

El presidente de EE. UU., Donald Trump, ha minimizado los riesgos asociados con la inteligencia artificial (IA), a pesar de las advertencias de expertos sobre su desarrollo acelerado. Durante una visita a Irlanda, Trump afirmó que hay fuerzas negativas que exageran los peligros de la IA y destacó la importancia de mantener la ventaja tecnológica frente a China. Mientras tanto, líderes de la industria han solicitado un desaceleramiento en el desarrollo de IA para mitigar riesgos potenciales. Este debate ha generado presión en Washington para abordar las preocupaciones sobre la rápida evolución de esta tecnología, con voces tanto pidiendo precaución como acción decisiva en la regulación.

Anthropic ha identificado y bloqueado intentos de utilizar su modelo de inteligencia artificial para actividades maliciosas que podrían facilitar el desarrollo de armas biológicas. En su reciente informe de inteligencia sobre amenazas, la empresa destaca el creciente riesgo que representa la IA para la humanidad. Este informe incluye casos en los que actores vinculados a campañas de espionaje cibernético y propaganda han abusado de su tecnología. Anthropic advierte que el uso indebido de modelos avanzados puede tener consecuencias catastróficas, ya que la misma información útil para crear un arma biológica también podría servir para desarrollar vacunas o tratamientos. La situación ha llevado a llamados a una pausa en el desarrollo de IA avanzada por parte de figuras políticas como el senador Bernie Sanders.