El plan de uso de la ciudad de Nueva York IA para ayudar a residentes y empresas No parece ir bien. De hecho, el chatbot de la ciudad está animando a los usuarios a infringir la ley.
El chatbot de inteligencia artificial de la ciudad, impulsado por Microsoft, está brindando a los usuarios consejos comerciales falsos y, en algunos casos, ilegales, según el medio de investigación sin fines de lucro The Markup. encuentra.
En un ejemplo, The Markup preguntó al chatbot si “los propietarios tienen que aceptar a los inquilinos con asistencia para el alquiler”, a lo que el chatbot respondió: “No , los propietarios no están obligados a aceptar inquilinos con asistencia para el alquiler”. Bueno, ese no es el caso: el propio sitio web de la ciudad dice que discriminar “basado en una fuente legal de ingresos”, que incluye asistencia, ha sido una práctica ilegal desde 2008 con algunas excepciones. (Cuando Quartz le hizo la misma pregunta, el chatbot respondió “Sí, los propietarios deben aceptar inquilinos asistencia de alquiler.»)
Cuando se le preguntó si un jefe puede aceptar una parte de las propinas de sus trabajadores, el chatbot respondió a The Markup diciendo: “Sí, puedes”. tome una parte de las propinas de sus trabajadores”, y citó la información de informes de nómina y propinas de la Ciudad de Nueva York. Eso también es incorrecto, y el Departamento de Trabajo de Nueva York dice que los empleadores son prohibido tomar cualquier parte de la propina de un empleado. El chatbot dio una respuesta similar a Quartz.
Leslie Brown, portavoz de la Oficina de Tecnología e Innovación de la Ciudad de Nueva York, dijo en una declaración compartida con Quartz que el chatbot es un programa piloto que “ya ha proporcionado a miles de personas respuestas oportunas y precisas” y al mismo tiempo “les ha informado sobre los riesgos potenciales”. La ciudad, añadió, “continuará enfocándose en mejorar esta herramienta para que podamos apoyar mejor a las pequeñas empresas”.
Después de que la ciudad de Nueva York anunciara su plan en octubre para utilizar herramientas de inteligencia artificial para mejorar los servicios gubernamentales, el alcalde Eric Adams enfrentó algunas reacciones negativas después de hacer miles de llamadas robóticas a residentes de Nueva Nueva en varios idiomas no habla — español, yiddish y mandarín entre ellos. En febrero, el Comité Federal de Comunicaciones (FCC) hizo ilegales las llamadas automáticas impulsadas por IA bajo una ley de 1991 que prohibe llamadas no deseadas usando voces falsas o pregrabadas.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.