Meta startet neues System für die Sicherheit von Jugendlichen: KI unter Kontrolle

Der Meta-Konzern hat eine wichtige Neuerung angekündigt, um die Sicherheit von Jugendlichen zu gewährleisten, die den Meta AI Chatbot nutzen. Wenn ein minderjähriger Nutzer in einem Gespräch mit der KI über Selbstverletzung oder Suizid spricht, benachrichtigt das System ab sofort die Eltern. Dieser Schritt erfolgt vor dem Hintergrund internationaler Kritik am Einfluss von Technologiegiganten auf die psychische Gesundheit der jüngeren Generation. Dies berichtet Techcrunch.com berichtet .

Nach Angaben des Unternehmens wird bei Anzeichen von riskantem Verhalten des Jugendlichen eine spezielle Benachrichtigung an das Dashboard für die elterliche Aufsicht gesendet. Meta erklärte, ein spezielles KI-Modell entwickelt zu haben, um diesen Prozess präziser zu gestalten. Das System ist darauf spezialisiert, den Inhalt von Unterhaltungen zu analysieren und gefährliche Schlüsselwörter zu identifizieren.

Menschlicher Faktor und Sicherheitsmaßnahmen

Obwohl das System automatisiert ist, hat Meta einen zusätzlichen Prüfschritt eingeführt, um Fehler zu vermeiden. Laut Ixbt.com werden alle verdächtigen Chats, die von der KI markiert wurden, manuell von Experten geprüft, bevor sie an die Eltern weitergeleitet werden. Selbst wenn die Absicht des Jugendlichen unklar ist, zieht es das Unternehmen vor, die Eltern als Vorsichtsmaßnahme zu informieren.

Derzeit ist diese Funktion für Nutzer der Instagram Parental Supervision in den USA, Großbritannien, Australien und Kanada verfügbar. Bis Ende des Jahres soll das System weltweit schrittweise eingeführt werden, auch für Nutzer in Usbekistan. Dies ermöglicht es lokalen Nutzern, die digitale Kommunikation ihrer Kinder sicherer zu gestalten.

Notfallhilfe und Inhaltsbeschränkungen

Meta beschränkt sich nicht nur auf Warnungen, sondern zielt auch darauf ab, in Notfällen schnell zu handeln. Wenn festgestellt wird, dass das Leben eines Nutzers (egal ob Teenager oder Erwachsener) in Gefahr ist, verbessert das Unternehmen den Mechanismus zur Kontaktaufnahme mit den zuständigen Rettungsdiensten. Während solche Praktiken zuvor für Beiträge auf Facebook und Instagram galten, werden sie nun direkt auf Meta AI Chats ausgeweitet.

Darüber hinaus funktionieren die Funktionen von Meta AI für Teenager in einem eingeschränkten Modus. Das System verweigert die Kommunikation zu folgenden Themen:

• Sexuelle oder romantische Unterhaltungen;
• Diskussionen über Alkohol und andere schädliche Substanzen;
• Inhalte, die Gewalt verherrlichen.

Durch die neuen Funktionen für Eltern können diese auch nachverfolgen, über welche Themen ihre Kinder in der vergangenen Woche mit der KI gesprochen haben. Dies hilft dabei, eine vertrauensvolle Kommunikation in der Familie aufzubauen und potenzielle Probleme frühzeitig zu erkennen.