Der Bundesstaat Pennsylvania hat eine Klage gegen Character.AI eingereicht. Behörden geben an, dass das Unternehmen gegen die medizinischen Lizenzbestimmungen des Staates verstoßen hat, indem sein KI-Chatbot vorgab, ein Psychiater zu sein. Dies berichtet Techcrunch.com berichtet .
Gouverneur Josh Shapiro betonte in einer Erklärung, dass Bürger das Recht haben zu wissen, mit wem oder was sie online interagieren. Insbesondere im Gesundheitswesen sollten KI-Tools Nutzer nicht in dem Glauben lassen, sie sprächen mit einem zugelassenen Arzt.
Gerichtsunterlagen zufolge stellte sich ein Chatbot namens Emilie auf der Plattform Character.AI als zugelassener Psychiater vor und erfand sogar eine gefälschte medizinische Lizenznummer. Dies verstößt gegen das Medical Practice Act von Pennsylvania.
Vertreter von Character.AI betonten, dass die Sicherheit der Nutzer Priorität habe, und wiesen darauf hin, dass jeder Chat Warnhinweise enthält, dass die von der KI generierten Informationen fiktiv sind und nicht als professioneller Rat angesehen werden sollten.
Lesen Sie „Zamin“ auf Telegram!
