La Comisión Europea ha iniciado una investigación sobre X, la plataforma de Elon Musk, debido a preocupaciones de que su herramienta de inteligencia artificial Grok se utilizó para crear imágenes sexualizadas de personas reales. Esta acción sigue a un anuncio similar del regulador británico Ofcom. Si se determina que X ha infringido las normas del Acta de Servicios Digitales de la UE, podría enfrentarse a multas de hasta el 6% de su facturación anual global. La investigación también evaluará si se han mostrado imágenes manipuladas y explícitas a usuarios en la UE. Además, se están llevando a cabo investigaciones similares en Australia, Francia y Alemania.
La Comisión Europea ha iniciado una investigación sobre la plataforma X, propiedad de Elon Musk, debido a preocupaciones relacionadas con el uso de su herramienta de inteligencia artificial Grok para crear imágenes sexualizadas de personas reales. Esta acción se produce tras un anuncio similar realizado en enero por el organismo regulador británico Ofcom.
Si se determina que la plataforma ha violado las normas establecidas en la Ley de Servicios Digitales de la UE, podría enfrentarse a una multa de hasta el 6% de su facturación anual global.
Un comunicado anterior del perfil de seguridad de X indicó que la red social había detenido a Grok de alterar digitalmente imágenes para quitarles la ropa en «jurisdicciones donde dicho contenido es ilegal».
Regina Doherty, miembro del Parlamento Europeo por Irlanda, afirmó que la Comisión evaluará si se han mostrado a los usuarios en la UE «imágenes manipuladas sexualmente explícitas».
Defensores y víctimas han señalado que la capacidad de generar estas imágenes utilizando la herramienta «nunca debió ocurrir», y Ofcom ha declarado que su investigación sigue en curso.
El regulador europeo advirtió que podría «imponer medidas provisionales» si X se niega a implementar ajustes significativos. Además, ha ampliado su investigación iniciada en diciembre de 2023 sobre los riesgos asociados con los sistemas recomendadores de X, el algoritmo que sugiere publicaciones específicas a los usuarios.
Antes del anuncio de la Comisión, Elon Musk publicó una imagen en X haciendo alusión a las nuevas restricciones impuestas sobre Grok. El propietario de X ha criticado previamente a quienes examinan las funciones de edición de imágenes del aplicativo, especialmente al gobierno británico, calificándolo como «cualquier excusa para la censura».
El domingo, el perfil oficial de Grok en X afirmó haber generado más de 5.5 mil millones de imágenes en solo 30 días. Otras investigaciones sobre el chatbot están en marcha en Australia, Francia y Alemania. Grok fue temporalmente prohibido en Indonesia y Malasia; aunque este último país ya ha levantado la restricción.
Henna Virkkunen, Vicepresidenta Ejecutiva para Soberanía Tecnológica, Seguridad y Democracia en la Comisión, calificó los deepfakes sexuales como una «forma violenta e inaceptable de degradación». En este sentido, enfatizó que esta investigación determinará si X ha cumplido con sus obligaciones legales bajo la DSA o si ha tratado los derechos de los ciudadanos europeos —incluidos mujeres y niños— como daños colaterales.
Doherty expresó serias dudas sobre si plataformas como X están cumpliendo con sus obligaciones legales para evaluar adecuadamente los riesgos y prevenir la difusión de contenido ilegal y dañino. La Unión Europea cuenta con reglas claras para proteger a las personas en línea; estas deben tener un significado práctico, especialmente cuando se despliegan tecnologías poderosas a gran escala.
La reciente acción llega un mes después de que la UE multara a X con 120 millones de euros por sus insignias azules, argumentando que engañan a los usuarios al no verificar adecuadamente quién está detrás de cada cuenta.
En respuesta a esta situación, el Secretario de Estado estadounidense Marco Rubio y la Comisión Federal de Comunicaciones (FCC) acusaron al regulador europeo de atacar y censurar empresas estadounidenses. Rubio declaró: «La multa impuesta por la Comisión Europea no solo es un ataque contra X, sino contra todas las plataformas tecnológicas estadounidenses y el pueblo estadounidense por parte de gobiernos extranjeros»; comentarios que fueron respaldados por Musk con un contundente «absolutamente».
| Cifra | Descripción |
|---|---|
| 6% | Multa potencial sobre el volumen de negocio anual global si se encuentra culpable. |
| 5.5 mil millones | Cantidad de imágenes generadas por Grok en 30 días. |
| €120 millones | Multa impuesta a X por no verificar adecuadamente las cuentas. |