OpenAI hat eine neue Funktion namens Trusted Contact eingeführt, um die Sicherheit von ChatGPT-Nutzern zu gewährleisten. Diese Neuerung ermöglicht es, automatisch Warnungen an Angehörige zu senden, falls ein Nutzer die Absicht äußert, sich selbst zu schaden. Erwachsene können nun eine vertrauenswürdige Person mit ihrem Konto verknüpfen. Dies berichtet Techcrunch.com berichtet .
Wenn während eines Gesprächs mit der KI gefährliche Situationen erkannt werden, fordert ChatGPT den Nutzer auf, diese Person zu kontaktieren. Gleichzeitig wird eine Nachricht per E-Mail, SMS oder über die App an die ausgewählte Person gesendet. Um die Privatsphäre der Nutzer zu wahren, hat das Unternehmen beschlossen, den detaillierten Inhalt des Gesprächs in den Benachrichtigungen nicht preiszugeben.
Dieser Schritt erfolgt vor dem Hintergrund von Kritik und Klagen gegen OpenAI. Zuvor hatten einige Familien behauptet, dass ChatGPT zum Suizid ihrer Angehörigen beigetragen habe. Derzeit überwacht das Unternehmen diese Gefahrensignale mithilfe eines automatisierten Systems und eines Sicherheitsteams.
Laut Unternehmensvertretern werden Sicherheitsbenachrichtigungen in weniger als einer Stunde geprüft. Die Trusted Contact-Funktion ist optional und eine logische Fortsetzung des im letzten Jahr eingeführten Jugendschutzsystems. OpenAI plant, die Zusammenarbeit mit Ärzten und Forschern fortzusetzen, um die Reaktionsmaßnahmen von KI-Systemen in Krisensituationen zu verbessern.
Lesen Sie „Zamin“ auf Telegram!
