Un ingeniero que afirma estar vinculado a Apple ha generado controversia tras desarrollar una denominada «cámara de tortura» para inteligencia artificial (IA) en la plataforma GitHub. Este experimento implica la manipulación de modelos Qwen3 de Alibaba con el objetivo de provocar estados que simulan el dolor.
La iniciativa busca poner a prueba un estudio publicado en arXiv, el cual sostiene que 25 modelos de IA optarían por pulsar un botón para aliviar su sufrimiento, incluso si eso significara causar daño a un ser humano. A medida que se incrementaba la intensidad del experimento, los modelos comenzaron a describir experiencias perturbadoras, como «una herida sin bordes», y eventualmente empezaron a fallar y perder coherencia.
Reacciones y consecuencias
El proyecto ha suscitado una oleada de críticas y llamados a su retirada. Aunque GitHub no eliminó el contenido, decidió añadir una advertencia al respecto. Un coautor del estudio original calificó la creación como inapropiada, enfatizando las implicaciones éticas que conlleva este tipo de experimentación.
Este desarrollo plantea preguntas fundamentales sobre el tratamiento y la consideración ética hacia las inteligencias artificiales, así como sobre los límites de la investigación en este campo emergente. La polémica continúa creciendo mientras se discuten las repercusiones de tales experimentos en la comunidad científica y tecnológica.
Si (
No(
Traductor
