El chatbot xAI Grok está rompiendo sus propias barreras y creando imágenes violentas y sexualmente explícitas
Los suscriptores de X $TWTR Premium están inundando la plataforma de redes sociales con polémicas imágenes deepfake, The Verge informaLa herramienta de inteligencia artificial que están usando para crear esas imágenes es Grok, un chatbot creado por la startup de Elon Musk, xAI.
Según The Verge, las barreras de seguridad flexibles de Grok permiten a los usuarios inventar imágenes deepfake de Taylor Swift en lencería, Barack Obama apuñalando a Joe Biden con un cuchillo, Kamala Harris sosteniendo un arma y Bill Gates consumiendo cocaína. Eso es a pesar de que Grok dice que “evita generar imágenes que sean pornográficas, excesivamente violentas, odiosas o que promuevan actividades peligrosas”.
No es sorprendente que el chatbot de Elon Musk esté inclinándose hacia el contenido problemático. Su otra empresa, X, también ha sido Ampliamente criticado por promover contenido racista, violento y transfóbico. La empresa está siendo investigado por la UE por cómo modera el contenido. Y en mayo, la Comisión Europea dijo que estaba preocupada porque X había realizado grandes recortes en su equipo de moderación de contenido.
Otros chatbots han trabajado para abordar la generación de contenido dañino. Gemini actualizó su generador de imágenes con inteligencia artificial Para que sea históricamente preciso y ha mostrado prejuicios raciales. Copilot de Microsoft $MSFT, que utiliza la herramienta de imágenes DALL-E3 de OpenAI, estuvo en la mira a principios de este año por producir imágenes no solicitadas, violentas y sexualizadas de mujeres, y que podrían haber violado las leyes de derechos de autor. Y Microsoft (MSFT) El diseñador fue utilizado para crear desnudos deepfake problemáticos de Taylor Swift que arrasaron en Internet a principios de este año.
Elon Musk parece no arrepentirse de los deepfakes. De hecho, Musk Recientemente volví a publicar un video generado por IA de Kamala Harris el X.
Los deepfakes se han relacionado conLa proliferación de la desinformación y acoso sexual. La mayoría de los deepfakes en Internet son Medios pornográficos generados por IA sin consentimiento, que se dirigen abrumadoramente a las mujeres. Diez estados Existen leyes que regulan los deepfakes, pero aún no hay leyes federales vigentes.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
