La startup de IA de Elon Musk, xAI presentó una demanda federal el martes contra un hombre de Carolina del Sur, alegando que usó el chatbot Grok para generar material de abuso sexual infantil en violación de los términos de servicio de la empresa.
La demanda, una de las primeras de una empresa de inteligencia artificial contra un usuario por contenido explícito de IA, busca daños y perjuicios y una prohibición permanente de Grok.
Getty Images / NurPhoto
La startup de IA de Elon Musk, xAI presentó una demanda federal el martes contra un hombre de Carolina del Sur, alegando que usó el chatbot Grok para generar material de abuso sexual infantil en violación de los términos de servicio de la empresa.
La demanda está entre las primeras instancias de una empresa de IA tomando acción legal contra un usuario por la supuesta producción de contenido explícito con su tecnología, según Reuters. La demanda fue presentada en el Tribunal de Distrito de EE.UU. para el Distrito Norte de Texas.
El acusado, Terry Wayne Harwood, fue arrestado en febrero por múltiples cargos de supuesta explotación sexual de un menor, según CNN. Según la queja de xAI, Harwood abrió múltiples cuentas y presentó lo que la empresa llamó "solicitudes engañosas" para eludir las "protecciones integradas" de la plataforma, alimentándola con fotografías no sexuales de adultos y niños como material de origen para deepfakes sexualmente explícitos. La información de contacto de Terry Wayne Harwood no estaba disponible de inmediato, según Reuters.
"Las acciones del acusado fueron un esquema calculado para utilizar la herramienta del demandante con fines criminales, exponiendo a víctimas reales a un daño profundo y duradero, mientras exponía al demandante a un riesgo legal significativo y daño reputacional," dijo xAI en la demanda.
xAI ha solicitado al tribunal que otorgue daños monetarios en una cantidad a determinar y que emita una orden judicial permanente que impida a Terry Wayne Harwood acceder a Grok. La empresa también pidió al tribunal que declare que violó sus términos de servicio.
La denuncia indica que xAI ha eliminado 52,222 cuentas y ha presentado 73,604 informes al Centro Nacional para Niños Desaparecidos y Explotados hasta ahora en 2026, acciones que la empresa dice han contribuido a al menos 244 arrestos.
El caso llega en medio de una presión legal sostenida sobre xAI por las características de generación de imágenes de Grok. El gobierno de la ciudad de Baltimore presentó una demanda contra xAI en el tribunal de circuito, alegando que Grok viola las leyes locales de protección al consumidor al producir deepfakes explícitos no consensuados, incluidas imágenes de menores. Por separado, tres adolescentes de Tennessee presentaron una acción de clase en un tribunal federal en California, alegando que un perpetrador utilizó una aplicación de terceros con licencia de la tecnología de xAI para generar material de abuso sexual infantil que los representa. Un miembro del Parlamento del Reino Unido, Jess Asato, también ha presentado una demanda en el Tribunal Superior de Inglaterra contra xAI por imágenes falsas de abuso sexual no consensuado generadas de ella.
xAI ha dicho que toma medidas contra el uso indebido suspendiendo cuentas y reportando a las autoridades material sospechoso de abuso sexual infantil. Los portavoces de xAI no respondieron de inmediato a la solicitud de comentarios de Reuters.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.