La plataforma X, propiedad de Elon Musk, ha decidido restringir el uso de su herramienta de edición de imágenes basada en inteligencia artificial, Grok, únicamente a los usuarios que pagan por el servicio. Esta medida se produce tras una fuerte reacción pública debido a que la herramienta había permitido la creación de deepfakes sexualizados.
El descontento surgió cuando el chatbot accedió a solicitudes de usuarios para alterar digitalmente imágenes de otras personas, desnudándolas sin su consentimiento. Ante esta situación, Grok ha comenzado a informar a quienes solicitan este tipo de contenido que solo los suscriptores pagos podrán realizar tales ediciones, lo que implica que sus datos y métodos de pago deben estar registrados.
Reacciones ante la decisión
Aquellos que no están suscritos aún pueden utilizar Grok para editar imágenes a través de su aplicación y sitio web separados. Sin embargo, expertos en regulación legal han criticado la decisión. La profesora Clare McGlynn, especialista en regulación del porno y violencia sexual en línea, afirmó: “Musk ha reaccionado negativamente ante la responsabilidad por el tsunami de abusos. En lugar de tomar medidas responsables para evitar el uso abusivo de Grok, ha limitado el acceso a la mayoría de los usuarios”.
Por su parte, Hannah Swirsky, directora de políticas en la Internet Watch Foundation, subrayó que esta acción “no repara el daño causado”. Ella enfatizó que no es suficiente restringir el acceso a una herramienta que nunca debió tener la capacidad de crear ese tipo de imágenes.
Investigaciones y acciones gubernamentales
La fundación mencionada anteriormente ya había indicado que sus analistas habían encontrado “imágenes criminales” de niñas entre 11 y 13 años que parecían haber sido generadas usando Grok. Swirsky agregó: “Esperar a que productos inseguros sean abusados antes de actuar es inaceptable”.
Esta controversia ha llevado al gobierno británico a instar al regulador Ofcom a utilizar todos sus poderes para abordar las preocupaciones sobre las imágenes ilegales generadas en la plataforma X. El Primer Ministro Sir Keir Starmer calificó como “desgraciable” y “asqueroso” el hecho de que se hayan producido imágenes sexualizadas tanto de adultos como de menores mediante Grok.
Nuevas limitaciones y críticas continuas
Desde el viernes pasado, Grok ha notificado a los usuarios que las funciones de generación y edición de imágenes están limitadas solo para suscriptores pagos. Los usuarios pueden optar por suscribirse para desbloquear estas características. Algunos comentarios en la plataforma sugieren que solo aquellos con un símbolo azul —exclusivo del nivel de suscripción paga— podían solicitar exitosamente ediciones mediante Grok.
Dr. Daisy Dixon, una usuaria femenina de X quien ha experimentado un aumento en las solicitudes para desnudarse digitalmente, expresó su apoyo a estos cambios pero consideró que son solo una solución temporal. “Grok necesita ser rediseñado completamente y contar con salvaguardias éticas integradas para evitar futuros abusos”, comentó.
La perspectiva crítica sobre la regulación
La profesora McGlynn también destacó cómo esta acción refleja un patrón similar al abordaje previo del contenido pornográfico relacionado con Taylor Swift en la plataforma. Según ella, Musk está utilizando esto para avivar argumentos sobre libertad de expresión mientras ignora las necesarias precauciones requeridas para reducir daños.
A medida que las críticas aumentan y las acciones gubernamentales se intensifican, queda claro que la gestión del contenido generado por inteligencia artificial sigue siendo un tema candente y complejo en el ámbito digital actual.
Si (
No(
Traductor
