KI-Sicherheit: Experten setzen sich für Open-Source-Modelle ein

Auf der Konferenz Ai4 in Las Vegas diskutierten führende KI-Experten, darunter der Nobelpreisträger Geoffrey Hinton, die CEO von World Labs Fei-Fei Li und der Coursera-Mitbegründer Andrew Ng, darüber, KI-Modelle offen zu halten. Angesichts wachsender Bedenken gegenüber Open-Source- und Modellen mit offenen Gewichten in der modernen Technologiebranche betonten die Forscher, wie wichtig es sei, den technologischen Fortschritt vor dem Monopol einiger weniger großer Unternehmen zu schützen. Techcrunch.com berichtet .

Modelle mit offenen Gewichten gelten heute bei großen Laboren als gefährlich, da sie frei verbreitet werden können und ihre Nutzung schwer zu kontrollieren ist. Laut ixbt.com erklärten sich jedoch alle drei Experten, die auf der Konferenz in Las Vegas sprachen, entschieden zu Befürwortern offener KI. Sie betonten, dass die Entstehung eines einzigen Gatekeepers verhindert werden müsse, der die technologische Entwicklung einschränken könnte.

Monopolrisiko und ein wettbewerbsorientiertes Umfeld

Andrew Ng äußerte in seinem Vortrag die Sorge, dass sich auf dem KI-Markt eine Situation wiederholen könnte, in der Apple und Google mobile Betriebssysteme kontrollieren. Seiner Ansicht nach würde es Innovationen verlangsamen und den Wettbewerb beseitigen, wenn mehrere große Konzerne den Zugang zur Technologie beschränkten.

Laut Ng besteht die beste Lösung darin, Offenheit zu fördern und ein Wettbewerbsumfeld zwischen zahlreichen Anbietern zu schaffen. „KI ist eine großartige Technologie, und ich möchte, dass jeder Mensch Zugang dazu hat“, betonte er. Große Unternehmen versuchen jedoch, Einfluss auf die Regeln für die Branche zu nehmen, um ihren Wettbewerbsvorteil zu bewahren.

Der Unterschied zwischen Open Source und offenen Gewichten

Geoffrey Hinton erklärte, dass es einen wichtigen Unterschied zwischen herkömmlicher Open-Source-Software und KI-Modellen mit offenen Gewichten gebe. Während sich Fehler in Open-Source-Software leicht finden lassen, erfordert die öffentliche Bereitstellung der Parameter eines fertigen KI-Modells ein hohes Maß an Verantwortung.

Hinton räumte ein, dass er offene Gewichte früher abgelehnt hatte, weil sie den Einsatz für schädliche Zwecke wie Cyberangriffe erleichtern könnten. Dennoch erklärte er, dieser Kampf sei bereits verloren: Modelle mit offenen Gewichten seien zu einem festen Bestandteil der Branche geworden, und die mit den Trainingskosten verbundenen Hürden seien verschwunden.

Trotz der Risiken ist Hinton überzeugt, dass die Entwicklung von KI insgesamt nützlich ist. Seiner Ansicht nach steigert die Technologie die Produktivität und verbessert Bildungs- und Gesundheitssysteme. Er betonte, dass man Sorgen um die Zukunft der KI nicht als Feigheit abtun sollte, dass es jedoch ebenfalls falsch wäre, den Fortschritt vollständig aufzuhalten.