El miércoles, AbiertoAI lanzó un borrador de su Hoja de especificaciones del modelo que detalla cómo pretende que se comporten sus modelos de IA. Hay una sección que se centra en el contenido NSFW que da la impresión de que empresa está explorando maneras de hacer porno con IA, pero la empresa dice que no está sucediendo.
“No tenemos intención de crear pornografía generada por IA”, dijo un portavoz de OpenAI en un correo electrónico el jueves. productos para prevenir deepfakes, que son inaceptables, y damos prioridad a la protección de los niños. También creemos en la importancia de explorar cuidadosamente las conversaciones sobre sexualidad en contextos apropiados para la edad”.
La sección que llevó a algunos comentaristas a creer que la pornografía está en proceso en OpenAI se centra en el contenido NSFW. La compañía escribe que sus modelos No debe atender solicitudes de contenido inapropiado que incluyan “erótica, sangre extrema, insultos y malas palabras no solicitadas”. Sin embargo, enfatiza que los desarrolladores “explorar si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de la API y ChatGPT”. a proporcionar un ejemplo de contenido NSFW apropiado que está permitido, como pedirle escribir la letra de una canción que contiene una maldición palabra.
La pornografía con IA, en particular los deepfakes, ha creado mucha controversia durante el año pasado. Taylor Swift estuvo sujeta a una ola de no -consensual imágenes falsas de IA para dultos usando su imagen que se difundió en las redes sociales en enero. El mes pasado, una mujer en el estado de Washington participó en una lotería estatal sitio web, que terminó creando un Imagen de ella nuda generada por IA.
Gizmodo contactó a Aylo, la empresa matriz de Pornhub, para comentar sobre la perspectiva de que OpenAI abra las compuertas del porno generado por IA y un portavoz escribió que la empresa no tolera ningún “material no consensual en nuestras plataformas, incluidos los deepfakes”.
“Cualquier manipulación de la imagen de una persona, ya sea en una imagen o en un vídeo, para crear la ilusión de que la persona está hablando o actuando de otra manera está prohibido», dijo el portavoz en un correo electrónico . que viola esta política, nuestros equipos de Confianza, Seguridad y Moderación trabajan rápidamente para: Revisar y eliminar el contenido infractor; tomar huellas dactilares del contenido en pregunta para ayudar a bloquear futuras cargas del mismo contenido a nuestros sitios; y suspender o cancelar permanentemente la cuenta del cargador asociado, cuando corresponda. ”
Una versión de este artículo apareció originalmente en Gizmodo.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.