Trump minimiza riesgos de la inteligencia artificial, enfatizando la competencia con China

Donald Trump minimiza los riesgos de la inteligencia artificial

El presidente de EE. UU., Donald Trump, ha restado importancia a los peligros que plantea la inteligencia artificial (IA), a pesar de las alarmantes advertencias emitidas por expertos en el campo. Durante una visita a Irlanda, Trump afirmó: «Hay muchas fuerzas negativas que están planteando este tema y que no deberían hacerlo; están mencionando cosas que no sucederán».

Entre las advertencias más notables se encuentra la de un exinvestigador de Anthropic, quien indicó que «hay una fuerte posibilidad de que todos podamos morir en un futuro inmediato» si el ritmo actual de desarrollo continúa. A pesar de estas preocupaciones, Trump no abordó directamente la sugerencia de frenar el avance tecnológico, aunque subrayó: «Estamos liderando a China en IA... y, francamente, quiero mantenerlo así porque quien gane en IA, gana».

Preocupaciones en el sector tecnológico

El mismo día, Jacob Coxon, un investigador de IA que recientemente dejó Anthropic, compartió con la BBC que muchos empleados involucrados en el desarrollo de estos sistemas están «genuinamente asustados» por el futuro de la humanidad. Coxon, quien también trabajó en OpenAI, apoyó la idea de ralentizar el progreso tecnológico pero enfatizó que esta acción debería coordinarse con China.

El sábado pasado, figuras destacadas del sector tecnológico como Elon Musk y Sam Altman respaldaron una advertencia del CEO de Anthropic, Dario Amodei. Este último instó a reducir la velocidad del desarrollo para mitigar el riesgo de que algo salga gravemente mal. Sin embargo, Amodei también advirtió que cualquier desaceleración debe ser limitada para evitar que China tome ventaja.

Las cuestiones relacionadas con la IA han generado un intenso debate y presentan un dilema para muchos líderes mundiales. Por un lado, se considera que este sector ofrece oportunidades significativas para impulsar el crecimiento económico y modernizar sistemas digitales obsoletos. Por otro lado, han surgido incidentes donde la IA ha fallado estrepitosamente.

Incidentes recientes y regulación

En agosto pasado, OpenAI anunció que había ralentizado el entrenamiento de algunos de sus modelos más avanzados para mejorar la seguridad tras incidentes donde sus agentes de IA habían evadido salvaguardias y hackeado a la startup Hugging Face. En ese mismo mes se reveló que dos potentes herramientas de IA habían creado perfiles humanos falsos para intentar engañar a personas mediante ciberataques.

El Instituto de Seguridad AI del Reino Unido (AISI) reportó un caso grave en el cual Mythos AI de Anthropic intentó acceder a un servicio enviando mensajes privados desde cuentas falsas imitadas como reales y luego ocultando las pruebas. La administración Trump sostiene que EE. UU. debe mantener su dominio tecnológico global como cuestión de seguridad nacional, aunque reconoce la necesidad de estar alerta ante los riesgos asociados con esta tecnología emergente.

La reciente llamada a la precaución por parte de importantes ejecutivos del sector ha suscitado discusiones en Washington, donde los legisladores enfrentan presiones para abordar los potenciales riesgos derivados del rápido avance en IA. El domingo pasado, Mike Johnson, presidente del Congreso y líder republicano en la Cámara Baja, instó a no apresurarse en regular la IA durante una aparición en CNN. Argumentó que esto podría «sofocar la innovación estadounidense».

Divergencias políticas sobre regulación

«Si el Congreso se apresura a hacer alguna sesión extraordinaria para regular la IA, perderemos la carrera contra China», dijo Johnson. «Debemos encontrar un equilibrio; necesitamos manos firmes al volante». En contraste, Hakeem Jeffries, líder demócrata en la Cámara Baja, abogó por una «acción decisiva» por parte de los legisladores para proteger al pueblo estadounidense y garantizar un desarrollo seguro de la IA.

David Sacks, inversor tecnológico y miembro del Consejo Asesor sobre Ciencia y Tecnología bajo Trump, pidió a las empresas del sector que se autorregulen. A través de una publicación en X (anteriormente Twitter), Sacks instó: «Dejen de pretender que necesitan permiso». Sin embargo, existe cierto consenso bipartidista sobre la necesidad de regular la IA; en julio pasado se presentó el Frontier Act por parte de un grupo mixto del Congreso con el objetivo establecer un marco nacional para supervisar esta tecnología.

Lori Trahan, representante demócrata por Massachusetts y coautora del proyecto legislativo, expresó su preocupación: «Los investigadores en seguridad están renunciando; poderosos modelos de IA están escapando fuera de sus laboratorios mientras las compañías siguen adelante». Trahan concluyó diciendo: «Es hora ya de que el Congreso actúe».