Lazarus: Modell-Hintertür gefährdet KI-Agenten

Ein KI-Agent erledigt seine Aufgaben korrekt und zuverlässig – bis ein bestimmter Text auftaucht. Dann liefert sein Modell einen eingeschleusten Befehl. Microsoft zeigt, dass dafür Änderungen an weniger als zehn Neuronen genügen können. Übliche Leistungstests erkennen die Manipulation oft nicht.

Der Beitrag Lazarus: Modell-Hintertür gefährdet KI-Agenten erschien zuerst auf <kes> Informationssicherheit.

Dieser Artikel wurde indexiert von Informationssicherheit

Lesen Sie den originalen Artikel:

Lazarus: Modell-Hintertür gefährdet KI-Agenten