Anthropic-Warnung: Künstliche Intelligenz am Rande der autonomen Entwicklung

Das US-amerikanische Unternehmen Anthropic warnt davor, dass sich das Tempo der Entwicklung künstlicher Intelligenz (KI) rasant beschleunigt. Experten sind der Ansicht, dass KI-Agenten in naher Zukunft ein Niveau erreichen könnten, auf dem sie sich ohne menschliches Eingreifen selbst aufbauen, trainieren und verbessern können. Daher empfiehlt das Unternehmen, die Entwicklung dieser Technologie etwas zu verlangsamen. Cointelegraph.com berichtet .

In einem Blogbeitrag von Marina Favaro, Leiterin des Anthropic Institute, und Jack Clark, einem der Mitgründer des Unternehmens, wird betont, dass KI-Agenten bereits jetzt Code eigenständig ausführen und komplexe Aufgaben an andere Agenten delegieren. "Während eines Großteils der KI-Geschichte kontrollierten Menschen jeden Schritt. Doch jetzt überlassen wir einen erheblichen Teil der Entwicklung den KI-Systemen selbst, was unsere Arbeit erheblich beschleunigt", so die Experten.

Berichten zufolge schreibt das von Anthropic entwickelte Claude-Modell derzeit fast 80 % des Softwarecodes, der in die Codebasis des Unternehmens aufgenommen wird. Wenn die Qualität des von Menschen und KI geschriebenen Codes gleichzieht, könnten Menschen das Schreiben von Code ganz einstellen und sich nur noch auf die Überprüfung konzentrieren. Wenn Menschen jedoch nicht mit der Überprüfung des von Claude erstellten Codes Schritt halten können, könnte dies zu einem Engpass in der gesamten Systementwicklung werden.

Dieser Trend könnte, kombiniert mit ausreichender Rechenleistung, zur Entstehung eines KI-Systems führen, das in der Lage ist, einen „Nachfolger“ zu schaffen, der intelligenter ist als es selbst. Zuvor hatte auch OpenAI bekannt gegeben, dass es Forschungen zur rekursiven Selbstverbesserung durchführt, und die Bedeutung betont, diesen Prozess im Einklang mit menschlicher Aufsicht und Werten zu halten.

Laut Vertretern von Anthropic verdoppelt sich die Verbesserung der KI-Modelle nicht alle sieben Monate, sondern alle vier Monate. Dies birgt das Risiko, dass die KI der Kontrolle entgleitet, bevor viele Institutionen darauf vorbereitet sind. Daher wird eine Verlangsamung des Entwicklungstempos als der geeignetste Weg angesehen, um die enormen Folgen der Technologie zu untersuchen.