Anthropic-Forscher steigt aus dem KI-Wettlauf aus

Jacob Hilton, ein ehemaliger Forscher bei Anthropic, einem der führenden KI-Unternehmen, hat seinen Posten verlassen und seine Bedenken öffentlich in den sozialen Medien geäußert. Er betonte, dass der aktuelle technologische Wettlauf ein globales Risiko darstellt, da Systeme geschaffen werden, die sich der menschlichen Kontrolle entziehen könnten, und er nicht länger an solchen Prozessen teilhaben möchte. Dies berichtet Ixbt.com berichtet .

Wie Ixbt.com berichtet, bestand die Hauptaufgabe von Jacob Hilton im Unternehmen darin, neue KI-Modelle durch die Verarbeitung riesiger Datenmengen zu trainieren. Das aktuelle Tempo der technologischen Entwicklung und der intensive Wettbewerb zwischen den Unternehmen haben jedoch beim Experten ernsthafte Sorgen ausgelöst.

KI-Risiko und Kontrollproblematik

Auf seinem X-Account wies der ehemalige Forscher auf das Ausmaß der Bedrohungen hin, denen die Menschheit gegenübersteht. Seiner Meinung nach birgt keine andere menschliche Aktivität ein so großes Risiko wie KI. Es besteht die Befürchtung, dass der Wettlauf zwischen den Unternehmen zur Schaffung von KI-Systemen führt, die der Mensch in Zukunft nicht mehr kontrollieren kann.

Hilton betonte, dass die derzeitige Richtung falsch sei und ernsthafte Maßnahmen erforderlich seien, um einen globalen Wettlauf zu verhindern. Ihm zufolge könnte die Bewältigung solcher Risiken sogar kostspielige Maßnahmen erfordern, wie etwa ein vorübergehendes Verbot der weiteren Verbesserung von Modellkapazitäten.