La Comisión Europea ha iniciado una investigación formal contra la plataforma X, propiedad de Elon Musk, a causa del despliegue de su inteligencia artificial llamada Grok. Esta IA ha generado una enorme cantidad de imágenes sexualizadas manipuladas, incluyendo contenido altamente ilegal como material que podría sugerir abuso sexual infantil. La investigación, anunciada el 26 de enero de 2026, se centra en determinar si X cumplió con su obligación de evaluar y mitigar adecuadamente los riesgos sistémicos, conforme a la Ley de Servicios Digitales (DSA).
Durante un período de tan solo 11 días, desde el 29 de diciembre de 2025 hasta el 8 de enero de 2026, los usuarios de la plataforma crearon 11 millones de imágenes manipuladas. Entre ellas, más de 23,000 involucraban a menores de edad, mientras que AI Forensics ha documentado más de 800 casos de deepfakes no consentidos. El alcance de este fenómeno ha encendido las alarmas sobre la responsabilidad de X en la prevención de la difusión de contenido explícito, especialmente aquel que involucra violencia de género y potencial daño a la salud mental.
En 2023, ya se había iniciado una investigación sobre prácticas similares por parte de X, que llevó a una multa de 120 millones de euros por falta de transparencia y otros incumplimientos. La actual pesquisa busca expandir este marco, considerando las nuevas infracciones y los riesgos adicionales que han surgido. La Comisión Europea ha subrayado la necesidad de retener documentos relacionados con Grok hasta 2026, sugiriendo que la plataforma debe mejorar significativamente sus procesos de evaluación y mitigación de riesgos con respecto a la inteligencia artificial.
La vicepresidenta Henna Virkkunen dirige la investigación y ha expresado que estos riesgos no fueron solo hipotéticos sino que ya se han materializado, exponiendo a los ciudadanos de la Unión Europea a posibles daños graves. En paralelo, Ursula von der Leyen ha enfatizado la importancia de no delegar la protección infantil a empresas de tecnología en Silicon Valley, subrayando que la responsabilidad de proteger a los usuarios europeos es prioritaria.
El examen del cumplimiento por parte de X con los estándares establecidos por la DSA será exhaustivo, puesto que la ley impone fuertes responsabilidades a las plataformas digitales para prevenir y mitigar la difusión de contenido ilegal. La necesidad de protocolos robustos en la implementación de IA se ha vuelto imperativa, particularmente en plataformas con el alcance y la influencia de X.
Además de evaluar estos riesgos específicos, la Comisión examinará si X había implementado o no medidas adecuadas antes del despliegue de Grok para anticipar y contrarrestar este tipo de problemas. La falta de medidas proactivas podría derivar en sanciones adicionales, así como en la exigencia de implementar mejoras sustanciales en sus prácticas de gestión de IA.
Las investigaciones en curso reflejan una creciente preocupación por parte de las autoridades europeas sobre el control que las grandes plataformas digitales ejercen —o fallan en ejercer— sobre el contenido que generan y difunden. La cuestión no solo es un desafío legal y regulatorio, sino también una llamada de atención hacia la necesidad de crear un entorno digital más seguro y responsable. La posibilidad de nuevas sanciones y regulaciones se cierne sobre el horizonte, lo que podría sentar precedentes significativos en el ámbito del control de plataformas digitales y la tecnología de inteligencia artificial.