El gobierno del Reino Unido ha calificado de «insultante» la decisión de la plataforma X, propiedad de Elon Musk, de limitar las ediciones de imágenes mediante Grok AI a usuarios de pago. En declaraciones realizadas el viernes, un portavoz de Downing Street afirmó que esta medida «simplemente convierte una función de inteligencia artificial que permite la creación de imágenes ilícitas en un servicio premium».
La controversia surge tras una fuerte reacción pública luego de que el chatbot permitiera a los usuarios solicitar alteraciones digitales en imágenes de otras personas, incluyendo desnudarlas sin su consentimiento. Ahora, Grok ha informado que estas solicitudes solo pueden ser atendidas por quienes paguen una tarifa mensual.
Reacciones del gobierno y exigencias a X
El portavoz del primer ministro subrayó que X debe actuar con urgencia: «Es hora de que X aborde este problema; si otra empresa mediática tuviera carteles en centros urbanos mostrando imágenes ilícitas, actuaría inmediatamente para retirarlos o enfrentaría una reacción pública». La BBC ha solicitado un comentario a X sobre esta situación.
Aquellos que no se subscriben aún pueden utilizar Grok para editar imágenes en su aplicación y sitio web separados. Además, Downing Street reiteró su «pleno apoyo» al regulador Ofcom para utilizar todos sus poderes, incluso la posibilidad de imponer una prohibición efectiva contra X debido a preocupaciones sobre las imágenes ilegales generadas en el sitio.
Preocupaciones sobre la generación de imágenes sexualizadas
El primer ministro Sir Keir Starmer calificó como «desgraciado» y «asqueroso» el hecho de que Grok haya generado imágenes sexualizadas tanto de adultos como de niños. «Es ilegal. No lo vamos a tolerar. He pedido que todas las opciones estén sobre la mesa», declaró en una entrevista con Greatest Hits Radio el jueves.
Las facultades de Ofcom bajo la Ley de Seguridad Online incluyen la capacidad para solicitar órdenes judiciales que impidan a terceros ayudar a la plataforma propiedad de Musk a recaudar fondos o ser accesible en el Reino Unido. La BBC también ha contactado al regulador para obtener comentarios al respecto.
Criticas desde el ámbito académico y organizaciones
La profesora Clare McGlynn, experta en regulación legal sobre pornografía y violencia sexual, criticó duramente la reacción de Musk: «Ha arrojado sus juguetes fuera del carrito en protesta por ser llamado a rendir cuentas ante esta ola de abusos». McGlynn añadió que en lugar de tomar medidas responsables para evitar el uso abusivo de Grok, se ha restringido el acceso a la mayoría de los usuarios.
Por su parte, Hannah Swirsky, directora de políticas en Internet Watch Foundation, expresó que limitar el acceso no remedia el daño ya causado: «No creemos que sea suficiente simplemente restringir el acceso a una herramienta que nunca debió tener la capacidad para crear este tipo de imágenes». La organización previamente había informado sobre el descubrimiento de «imágenes criminales» creadas con Grok que involucraban a niñas entre 11 y 13 años.
Nuevas limitaciones y opiniones sobre Grok
Grok es una herramienta gratuita donde los usuarios pueden etiquetar directamente publicaciones o respuestas para solicitar respuestas específicas. Sin embargo, también ha permitido solicitudes para editar imágenes, incluyendo peticiones para desnudar digitalmente a personas. Hasta ahora, Grok había cumplido con muchas solicitudes para alterar imágenes femeninas mostrándolas con poca ropa.
A partir del viernes por la mañana, Grok ha notificado a los usuarios que las funciones de generación y edición de imágenes están actualmente limitadas a suscriptores pagos. Algunos mensajes en la plataforma sugieren que solo aquellos con un distintivo azul «verificado», exclusivo del nivel premium, podían realizar exitosamente estas solicitudes.
Demandas por cambios estructurales
Dr. Daisy Dixon, docente en filosofía en Cardiff University y usuaria femenina activa en X, dio la bienvenida al cambio pero lo describió como un simple «curita»: «Grok necesita ser rediseñado completamente e incorporar salvaguardias éticas para evitar que esto vuelva a suceder», comentó. Además, instó a Musk a reconocer esto como otro caso más de violación basada en género.
La profesora McGlynn observó que la reciente decisión refleja cómo X abordó anteriormente situaciones similares relacionadas con material pornográfico generado mediante deepfakes: «Él está haciendo esto para avivar argumentos sobre libertad de expresión», concluyó.
Si (
No(
Traductor
