Claude-Nutzerchats in Google-Suche aufgetaucht

Die Sicherheit von KI-Diensten und die Privatsphäre der Nutzer sind wieder einmal in den Mittelpunkt ernsthafter Diskussionen gerückt. Nach Angaben von 404 Media und Social-Media-Nutzern wurde festgestellt, dass ein unbekannter Teil öffentlicher Konversationen im neuronalen Netz von Claude sowie von Nutzern erstellter Artifacts-Mini-Apps öffentlich in der Google-Suchmaschine indiziert wurde. Dieser Vorfall hat ernsthafte Bedenken hinsichtlich der Sicherheit personenbezogener Daten geweckt. Dies berichtet Techcrunch.com berichtet .

Das Problem erwies sich als mit der „Share Chat“-Funktion (Chat teilen) des Dienstes zusammenhängend. Diese Funktion ermöglicht es Benutzern, ihre Projekte oder Konversationen über einen speziellen Link mit anderen zu teilen. Obwohl die Benutzeroberfläche eine Warnung enthält, dass jeder mit dem Link diesen einsehen kann, haben sich viele nicht vorgestellt, dass diese Daten für das gesamte Internet offen bleiben und in Suchmaschinen gelangen würden.

Offenlegung vertraulicher Informationen

Beobachtungen von TechCrunch und Futurism zeigten, dass sich unter den von der Suchmaschine indizierten Seiten auch sehr sensible und vertrauliche Inhalte befanden. Insbesondere wurden ein detaillierter medizinischer Bericht eines echten Patienten, Ergebnisse klinischer Studien mit Patientennamen sowie Namen und Telefonnummern von Grundschülern entdeckt. Es wurde auch bekannt, dass interne Dokumente von Unternehmen öffentlich sichtbar wurden.

Darüber hinaus wurde festgestellt, dass sich unter den offengelegten Artifacts-Dokumenten verschiedene Programmiercodes, Arbeitsnotizen sowie von KI generierte Texte mit erotischem Inhalt befanden. Laut Fortune zeigte eine dieser Unterhaltungen, dass Claude entgegen den eigenen Richtlinien des Unternehmens explizite erotische Inhalte erstellt hatte, was gegen die Politik von Anthropic verstößt.

Reaktion der Unternehmen und Behebung des Problems

In einem Kommentar gegenüber TechCrunch erklärten Vertreter von Anthropic, dass solche Links nur dann in den Suchergebnissen auftauchen, wenn die Nutzer sie selbst an Orten platzieren, die von Suchmaschinen eingesehen werden können, wie etwa Foren oder soziale Netzwerke. Laut der Unternehmenssprecherin Ami Roterman teilen sie keine Chat-Kataloge oder Sitemaps mit Suchmaschinen wie Google, aber wenn ein Benutzer Informationen öffentlich teilt, können diese von Drittanbietern archiviert werden.

Google-Sprecher Ned Adriance betonte seinerseits, dass die Suchmaschine die Beliebtheit von Webseiten nicht kontrolliert und Suchschinen stets den von Website-Eigentümern festgelegten Anweisungen folgen. Dieser Fehler, der am Samstag von einem Reddit-Nutzer entdeckt und am Montag breit berichtet wurde, wurde umgehend behoben. Testsuche-Anfragen ab Montag ergaben keine Ergebnisse, was darauf hinweist, dass das Problem erfolgreich behoben wurde.