Die Sicherheit von KI-basierten Agenten muss nicht nur auf Modellebene, sondern auf der Ebene des gesamten Systems gewährleistet werden. Ein neuer Bericht von Forschern von Google, Gray Swan AI, EmbraceTheRed und mehreren Universitäten betont die Notwendigkeit, KI-Agenten als „nicht vertrauenswürdige Komponenten“ zu behandeln. Dies berichtet Cointelegraph.com berichtet .
Forscher sind der Ansicht, dass der traditionelle Ansatz, der sich nur auf die Robustheit des Modells konzentriert, nicht ausreicht. Stattdessen müssen KI-Agenten durch den Einsatz von Systemsicherheitsmethoden vor externen Angriffen geschützt werden. Dies ist besonders wichtig, da KI-Agenten im Kryptowährungssektor immer beliebter werden.
Circle-CEO Jeremy Allaire prognostizierte kürzlich, dass in den nächsten fünf Jahren Milliarden von KI-Agenten im Namen der Nutzer agieren werden. Wenn Sicherheitsprobleme jedoch nicht gelöst werden, könnte diese Technologie große Risiken bergen. Forscher schlagen drei Hauptmechanismen zur Abwehr von Angriffen vor.
Erstens müssen KI-Agenten klar zwischen Anweisungen und nicht vertrauenswürdigen Daten unterscheiden. Zweitens sollten Agenten nur die für die Aufgabenerfüllung erforderlichen Mindestberechtigungen erhalten, anstatt vollen Systemzugriff. Drittens muss das gesamte System, nicht der Agent, kontrollieren, wohin sensible Informationen gesendet werden.
Kürzlich musste der KI-Krypto-Handelsassistent Bankr Transaktionen stoppen, nachdem 14 Wallets kompromittiert wurden. Solche Vorfälle unterstreichen, wie wichtig es ist, korrekte Sicherheitssysteme für KI-Agenten zu entwickeln, die auf Web3-Anwendungen und Blockchains wie Solana arbeiten.
Lesen Sie „Zamin“ auf Telegram!
