En una reciente intervención en el programa Today, Mustafa Suleyman, cofundador de la empresa de inteligencia artificial DeepMind, expresó su preocupación por el desarrollo descontrolado de sistemas de IA que puedan establecer sus propios objetivos, generar ingresos y poseer activos. Según Suleyman, esto podría significar la creación de una nueva «especie de silicio» que competiría con los humanos por recursos, independientemente de su supuesta preocupación por la humanidad.
Las declaraciones de Suleyman se producen tras la publicación de un ensayo en el que critica a Anthropic, una compañía rival, por su enfoque en el entrenamiento del modelo de IA conocido como Claude. Aunque elogió al director Dario Amodei y a su equipo como «personas intelectualmente honestas», cuestionó la práctica de antropomorfizar la inteligencia artificial, lo que puede dar la impresión errónea de que estos sistemas poseen deseos o valores propios.
Advertencias sobre el control
Suleyman también advirtió sobre los riesgos que enfrentan las empresas tecnológicas al tratar a estas máquinas como si fueran seres humanos. En su ensayo, subrayó que «las IA no son conscientes». Afirmó que carecen de sentimientos, experiencias o sufrimientos y no poseen preferencias innatas ni motivaciones subyacentes.
«Son motores de completación de secuencias», explicó Suleyman. «Internamente vacíos, diseñados para seguir instrucciones y alcanzar metas establecidas por humanos». Esta visión crítica resalta la necesidad urgente de abordar cómo se desarrollan y utilizan estas tecnologías avanzadas.
Si (
No(
Traductor
