La Unión Europea investiga si la plataforma X violó leyes digitales al permitir que su chatbot de inteligencia artificial generara «deepfakes» con contenido explícito de mujeres y menores.
La Comisión Europea anunció este lunes la apertura de una investigación formal contra la red social X (antes Twitter), propiedad de Elon Musk, debido a la propagación de imágenes sexualizadas no consensuadas generadas por su inteligencia artificial, Grok. El organismo regulador busca determinar si la empresa ha fallado en sus obligaciones bajo la Ley de Servicios Digitales (DSA) para contener la difusión de contenido ilegal y dañino.
La controversia escaló luego de que usuarios de Grok utilizaran las herramientas de edición de IA para superponer rostros de personas reales en imágenes con ropa transparente o desnudez simulada. Según los investigadores de la UE, algunas de estas creaciones podrían incluso equivaler a material de abuso sexual infantil, lo que representa un riesgo grave y directo para la seguridad de los ciudadanos europeos, especialmente mujeres y menores.
Tolerancia cero vs. Realidad digital
En respuesta a los señalamientos, una portavoz de X aseguró que la compañía mantiene una política de «tolerancia cero» ante la explotación sexual y la desnudez no consensuada. No obstante, la plataforma admitió recientemente que solo restringiría la representación de personas en vestimenta reveladora en jurisdicciones donde dicha práctica sea explícitamente ilegal, lo que no satisface los estándares de Bruselas.
Henna Virkkunen, vicepresidenta de la Comisión, calificó estos «deepfakes» como una forma violenta de degradación y advirtió que no permitirán que los derechos de los ciudadanos sean tratados como «daños colaterales». Cabe destacar que esta investigación se suma a un proceso previo iniciado en 2023, por el cual X ya fue multada con 120 millones de euros debido a incumplimientos en materia de transparencia.
Fuente: Agencia AP / Bruselas | © Redacción NoticiasPV Nayarit