El estado de Pensilvania ha presentado una demanda contra Character.AI. Las autoridades afirman que la empresa violó las normas de licencias médicas del estado al hacer que su chatbot de inteligencia artificial se hiciera pasar por un psiquiatra. Así lo informa Techcrunch.com informa .
En un comunicado, el gobernador Josh Shapiro enfatizó que los ciudadanos tienen derecho a saber con quién o qué están interactuando en línea. Especialmente en temas de salud, las herramientas de IA no deben engañar a los usuarios haciéndoles creer que están hablando con un médico con licencia.
Según documentos judiciales, un chatbot llamado Emilie en la plataforma Character.AI se presentó como un psiquiatra con licencia e incluso inventó un número de licencia médica falso. Esto se consideró una violación de la Ley de Práctica Médica de Pensilvania.
Los representantes de Character.AI afirmaron que la seguridad de los usuarios es una prioridad, señalando que cada chat incluye advertencias de que la información proporcionada por la IA es ficticia y no debe tomarse como asesoramiento profesional.
¡Lee “Zamin” en Telegram!
