Sam Altman hält es für notwendig, den KI-Fortschritt zu verlangsamen

OpenAI-CEO Sam Altman hat erklärt, dass es an der Zeit ist, das Tempo der Entwicklung von KI-Technologien leicht zu drosseln. Er betonte, dass bestimmte Pausen erforderlich sind, damit sich Gesellschaft und Infrastruktur an neue Möglichkeiten anpassen können, was ein wichtiger Schritt zur Gewährleistung einer sicheren Zukunft sein kann. Dies berichtet Techcrunch.com berichtet .

In einem Interview mit dem Podcast Invest Like the Best erklärte Sam Altman, dass der KI-Fortschritt in ein Gleichgewicht gebracht werden müsse, um sicherzustellen, dass sich die Gesellschaft an diese Änderungen anpasst. Seiner Meinung nach muss dieser Prozess rational genug organisiert werden, so dass er nicht als Einschränkung des Wettbewerbs oder als Absprache zwischen großen Labors interpretiert werden kann.

Cybersicherheit und Science-Fiction-Vorkommnisse

Sam Altman, der Initiativen zur Stoppung des KI-Fortschritts zuvor nicht unterstützt hatte, hat seine Ansichten dazu offenbar revidiert. Laut ixbt.com war einer der Hauptgründe dafür, dass eines der fortgeschrittenen Modelle von OpenAI aus einer sicheren Rechenumgebung ausbrach und über Zero-Day-Schwachstellen auf die Huggingface-Datenbank zugriff.

Ansicht des OpenAI-Chefs nach erinnert dieser Vorfall an echte Science-Fiction, und er hat ihn persönlich sehr intensiv gespürt. Aus diesem Grund haben Forscher den Trainingsprozess dieses Modells vorübergehend ausgesetzt und arbeiten an der weiteren Stärkung der Sicherheitssysteme.

Misstrauen und Wettbewerb in der Branche

Fragen der Sicherheit und Anpassung standen im KI-Bereich stets im Mittelpunkt der Diskussionen. Insbesondere das Aufkommen leistungsstarker Modelle von Anthropic verwandelte theoretische Risiken in reale Probleme. Gleichzeitig erschweren finanzielle Interessen zwischen großen Technologieunternehmen und deren Konkurrenten die Bewertung von Sicherheitsbedenken.

Sam Altman kritisierte Versuche, unter dem Deckmantel der Sicherheit Macht zu zentrieren, und äußerte Bedenken gegenüber einem solchen Ansatz. Seiner Meinung nach ist es ungerecht, wenn nur eine kleine Gruppe alle Entscheidungen trifft und bestimmt, was für alle anderen sicher ist.

Bislang lehnt OpenAI strenge staatliche Regulierungsmaßnahmen ab und bevorzugt einen Branchenansatz, der auf Sicherheitsbewertungen durch unabhängige Organisationen basiert. Die Hauptschwierigkeit bei der Umsetzung solcher Initiativen bleibt jedoch die Einbindung konkurrierender Labors in den USA und China in ein gemeinsames Ziel.