Illinois se convirtió en el último estado en restringir el uso de inteligencia artificial en terapia, siguiendo a Nevada y Utah, ya que al menos otros tres estados consideran sus propias restricciones sobre la tecnología.
California, Nueva Jersey y Pensilvania podrían unirse a otros tres estados en la restricción de aplicaciones terapéuticas de la IA.
Scott Olson/Getty Images
Illinois se convirtió en el último estado en restringir el uso de inteligencia artificial en terapia, siguiendo a Nevada y Utah, ya que al menos otros tres estados consideran sus propias restricciones sobre la tecnología.
La prohibición de la terapia con IA de Illinois, bajo la Ley de Bienestar y Supervisión para Recursos Psicológicos, prohíbe el uso de IA para "proveer salud mental y toma de decisiones terapéuticas", según un press release. Sin embargo, los profesionales de salud conductual con licencia todavía pueden usar la tecnología para servicios de apoyo administrativo y complementario. El gobernador de Illinois, JB Pritzker, firmó la ley el 1 de agosto.
Otros tres estados — California, Nueva Jersey y Pensilvania — tienen proyectos de ley en trámite que restringirían el uso de IA en terapia. La proposed bill de California requeriría que el secretario dentro de la Agencia de Operaciones Gubernamentales del estado cree un grupo de trabajo sobre salud mental e IA para "determinar el papel" de la IA en la terapia.
El proyecto de ley de Nueva Jersey prohibiría a cualquiera que "desarrolle o implemente" IA en el estado de publicitar que su tecnología puede actuar como un profesional de salud mental con licencia. El proyecto de ley de Pensilvania exigiría que las escuelas primero obtengan el consentimiento de los padres antes de administrar servicios de salud mental virtual a los niños.
Como el Washington Post informó, dos estados aparte de Illinois ya han comenzado a restringir las aplicaciones terapéuticas de la IA. En junio pasado, Nevada firmó un proyecto de ley que limita la IA en las escuelas, entre otras medidas, y limita los usos de la IA por parte de proveedores de salud mental y conductual. Y en marzo, Utah aprobó una ley que puso regulaciones a los chatbots de salud mental que usan IA.
Estas restricciones surgen a medida que investigadores junto con el ejecutivo de tecnología Sam Altman destacan los riesgos de tratar la IA generativa como un terapeuta.
Altman es el CEO de OpenAI, que posee y opera el chatbot de IA más grande, ChatGPT. En una entrevista de podcast a finales de julio, Altman dijo que las sesiones de terapia con ChatGPT no necesariamente siempre permanecerán privadas. Agregó que actualmente no hay bases legales para proteger información sensible y personal que alguien pueda compartir con ChatGPT si una demanda requiere que OpenAI comparta la información.
Poco antes de la entrevista de Altman, un estudio de la Universidad de Stanford encontró que los chatbots de terapia de IA están lejos de estar listos para reemplazar a los proveedores humanos. Encontró que tales chatbots expresan estigmas y hacen declaraciones inapropiadas sobre ciertas condiciones de salud mental, incluyendo personas que experimentan delirios, pensamientos suicidas, alucinaciones y TOC, entre otras condiciones.
“Los habitantes de Illinois merecen atención médica de calidad de profesionales reales y calificados, y no de programas de computadora que obtienen información de todos los rincones de Internet para generar respuestas que perjudican a los pacientes,” dijo Mario Treto, Jr., secretario del Departamento de Regulación Financiera y Profesional de Illinois, en el comunicado. “Esta legislación se mantiene como nuestro compromiso de salvaguardar el bienestar de nuestros residentes asegurando que los servicios de salud mental sean entregados por expertos capacitados que prioricen el cuidado del paciente por encima de todo.”
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.