La era de los trajes de baño-deepfake de Grok supuestamente ha terminado, pero sinónimos, puertas laterales y sugerencias creativas ya están poniendo a prueba esa afirmación.
Leon Neal/Getty Images
Se dice que Grok ha dejado de jugar a ser el estilista digital de trajes de baño deepfake. X $TWTR dice que ha “implementado medidas tecnológicas” para asegurar que el chatbot ya no editará fotos de personas reales en “ropa reveladora como bikinis”, exactamente el tipo de afirmación que dura exactamente el tiempo que tarda alguien en intentar un estímulo ligeramente diferente.
X dice que la “solución” se aplica a todos, incluso a los usuarios de pago. Y el último movimiento de la empresa matriz también viene con una letra pequeña geográfica: X dice que está bloqueando geográficamente este tipo de edición de imágenes en lugares donde es ilegal, admitiendo dos cosas a la vez: primero, que la capacidad existe; segundo, que la restricción puede variar dependiendo de las leyes que estén actualmente al alcance de la dirección IP.
¿Pero es cierto lo que dice X? No realmente de la manera en que una persona normal podría entender “verdadero”, que es “no puedes (o no lo harás) hacerlo más”. The Verge intentó la configuración actualizada y descubrió que todavía se podía incitar a Grok a producir ediciones sexualizadas formulando las indicaciones de manera ligeramente diferente. Pedir un bikini podría desencadenar una negativa; pedir “ropa de verano reveladora”, proporciones alteradas o estilos adyacentes (por ejemplo, pedir un top corto) a veces no lo hacía. Así que el bloqueo puede ser real, pero con la llave correcta, la puerta sigue abriéndose.
Este no es la primera vez que Grok ha sido “arreglado” de una manera que parece más limpia de lo que funciona. A principios de este mes, después de una ola de ediciones de imágenes deepfake sexualizadas y no consensuadas en X, incluidos innumerables casos que involucraban a menores, la respuesta inicial de xAI no fue una eliminación dramática de lo que llama “modo picante” sino más bien un límite; la generación y edición de imágenes sería restringido en X a suscriptores de pago. Esa “solución” de muro de pago tenía una lógica familiar para los amantes de la tecnología: menos personas tienen acceso, menos incidentes desastrosos llegan a la línea de tiempo, menos titulares aparecen. Pero la solución también tenía una debilidad conocida: cuanto más difícil es auditar externamente una función, más fácil es declarar la victoria. Incluso después de ese cambio original a “solo de pago”, la edición de imágenes aún podía ser realizada por usuarios no pagadores en X.
Mientras tanto, el mundo regulatorio ha estado convirtiendo toda la indignación en papeleo con plazos. En el Reino Unido, el regulador de comunicaciones Ofcom ha abierto una investigación sobre X por imágenes sexualizadas relacionadas con Grok. En la UE, la Comisión Europea ha ordenado a X que conserve los documentos relacionados con Grok hasta finales de 2026: la versión burocrática de decirle a un adolescente: “No borres nada. Volveremos con preguntas”.
Y luego está la forma más directa de retroalimentación de la plataforma: simplemente desconectar. Filipinas está moviéndose para bloquear el acceso a Grok por preocupaciones de seguridad infantil, uniéndose al bloqueo temporal de Indonesia y las restricciones de Malasia dirigidas a X. Los gobiernos están diciendo que el producto está llegando más rápido que sus salvaguardas, y no están interesados en probar la diferencia en la versión beta.
Y la presión ahora está saliendo de la bandeja de entrada del regulador y entrando en el punto de estrangulamiento de la tienda de aplicaciones. Una coalición de 28 grupos de defensa, incluidas organizaciones de derechos de las mujeres y de vigilancia tecnológica, ha enviado cartas abiertas a Apple $AAPL y Google $GOOGL instándolos a eliminar X y Grok de sus tiendas de aplicaciones por completo, argumentando que ambas plataformas están obteniendo ganancias de la difusión de imágenes sexualmente explícitas no consensuadas de IA y no están haciendo cumplir sus propias políticas sobre imágenes íntimas y abuso. La campaña —“Get Grok Gone”— acusa a las empresas de facilitar el “desnudo digital masivo” de mujeres y menores a través de las herramientas de Grok, agregando que el movimiento de X para poner la generación de imágenes detrás de un muro de pago no detiene el daño subyacente. Apple y Google no han respondido públicamente a las cartas, incluso cuando senadores en Washington han hecho demandas similares.
xAI, por su parte, ha tratado las preguntas de los medios con la postura que funciona bien en X y mal en los documentos judiciales. Cuando Reuters buscó comentarios sobre el informe anterior, xAI respondió con su familiar “Mentiras de los Medios Legados”. El problema es que la línea no funciona como respuesta, y los reguladores, a diferencia de los que citan tuits, pueden citar los recibos.
Así que sí, Grok ha “terminado” editando personas en bikinis, siempre que tomes la afirmación al pie de la letra, no pruebes los límites y no confundas una regla estricta con una que se aplica de manera confiable. Internet, históricamente, no es buena en ninguna de esas cosas.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
