'Violento' e 'inaceptable': X de Elon Musk bajo fuego por deepfakes sexualizados

La Comisión no ha establecido un plazo para la investigación, pero si los reguladores encuentran violaciones serias, la UE puede imponer multas de hasta el 6% del volumen de negocios anual global, un número diseñado para ser sentido incluso por las empresas que tratan las sanciones como un elemento de gasto.

Esta es una cuestión de riesgo sistémico bajo la DSA: una que observa si una plataforma en línea muy grande evaluó los daños previsibles antes de lanzar una función, si puso en marcha medidas de seguridad que realmente funcionaron y si actuó de manera decisiva una vez que el abuso se hizo evidente. La respuesta de la Comisión hasta ahora parece ser: Muéstrenos la documentación.

Políticamente, esto cae en el impulso más amplio de la UE de demostrar que realmente puede hacer cumplir la DSA contra plataformas de renombre, no solo publicar elegantes PDFs al respecto. (El Parlamento Europeo ha estado presionando públicamente por una ejecución más rápida y más fuerte en este ámbito exacto.)

X, por su parte, insiste en que ha restringido el acceso y limitado las funciones. X dice que ha “implementado medidas tecnológicas” para asegurar que Grok ya no editará fotos de personas reales en “ropa reveladora como bikinis”, exactamente el tipo de afirmación que dura exactamente lo que tarda alguien en intentar un aviso ligeramente diferente. X dice que la “solución” se aplica a todos, incluso a los usuarios de pago. Y el último movimiento de la empresa matriz también viene con una letra pequeña geográfica: X dice que está bloqueando este tipo de edición de imágenes en lugares donde es ilegal, reconociendo dos cosas a la vez: Primero, que la capacidad existe; segundo, que la restricción puede variar dependiendo de las leyes que actualmente estén al alcance de su dirección IP.

Esta no es la primera escalada de la UE en la saga Grok. A principios de este mes, Bruselas ordenó a X conservar todos los documentos relacionados con Grok hasta finales de 2026, extendiendo una orden de retención previa relacionada con algoritmos y contenido ilegal, un movimiento que suena lo suficientemente aburrido hasta que ves lo que puede habilitar más tarde. Y en el Reino Unido, el regulador de comunicaciones Ofcom ha abierto una investigación sobre X por imágenes sexualizadas relacionadas con Grok. Y en diciembre, X fue multado con €120 millones por infracciones de transparencia de la DSA (diseño de verificación azul, transparencia de repositorio de anuncios, acceso de investigadores).

La presión también viene del otro lado del Atlántico. En los EE. UU., los legisladores están empujando en paralelo otra palanca. El Congreso ya ha aprobado la Ley Take It Down, que penaliza la publicación consciente de imágenes íntimas no consensuales, incluido el contenido generado por IA, y establece un régimen formal de eliminación. Más significativamente, el Senado ha avanzado con la Ley DEFIANCE, que otorgaría a las víctimas de deepfakes sexuales generados por IA un derecho civil federal de acción.

Los fiscales generales estatales no están esperando al Congreso. El 16 de enero, el Fiscal General de California, Rob Bonta, anunció que había enviado a xAI una carta de cese y desistimiento exigiendo que detuviera “la creación y distribución de imágenes íntimas no consensuales y material de abuso sexual infantil” y señalando que “la creación de este material es ilegal”. Y una coalición bipartidista de más de 30 fiscales generales estatales ha acusado a Grok de facilitar el abuso "tan fácil como hacer clic en un botón".

Todo eso significa que X y xAI enfrentan el mismo problema básico en múltiples jurisdicciones: El argumento de que la moderación puede limpiar después de las decisiones de producto sigue chocando con reguladores que quieren ver controles de riesgo antes de que las funciones se lancen. Virkkunen de la Comisión dijo que la investigación determinará si X cumplió con sus obligaciones bajo la DSA, “o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio”.

Por ahora, Grok sigue fracasando hacia arriba. xAI continúa recaudando enormes sumas, construyendo computadoras y presentándose como infraestructura de IA en lugar de un chatbot para consumidores con un historial. X sigue ajustando características en lugar de eliminarlas. Los escándalos se apilan; la máquina zumba.

Esta es la UE trazando una línea clara alrededor de una categoría de daño que es tanto altamente de género como altamente escalable: los deepfakes sexuales no consensuados, impulsados por herramientas generativas y algoritmos de distribución. El mensaje subyacente es: si lanzas un botón 'picante' en una plataforma con un alcance masivo, eres responsable de las consecuencias posteriores, legalmente, no solo reputacionalmente.