Prompt-Injection: Mehr Angriffe, nicht mehr Schutz

KI-Agenten, die mit einer größeren Zahl von Prompt-Injection-Angriffen nachtrainiert wurden, ließen sich in drei von vier Tests leichter kapern. Das zeigt eine Studie von Forschern der University of Waterloo, der Zhejiang-Universität und des KTH Royal Institute of Technology. Das Red-Teaming-Tool mit den meisten funktionierenden Angriffen brachte die schwächere Verteidigung hervor. Das neue Framework PIPETTE setzt deshalb auf die Vielfalt der Angriffsstrategien statt auf deren Anzahl.

Der Beitrag Prompt-Injection: Mehr Angriffe, nicht mehr Schutz erschien zuerst auf All About Security Das Online-Magazin zu Cybersecurity (Cybersicherheit). Ransomware, Phishing, IT-Sicherheit, Netzwerksicherheit, KI, Threats, DDoS, Identity & Access, Plattformsicherheit.

Dieser Artikel wurde indexiert von All About Security Das Online-Magazin zu Cybersecurity (Cybersicherheit). Ransomware, Phishing, IT-Sicherheit, Netzwerksicherheit, KI, Threats, DDoS, Identity & Access, Plattformsicherheit

Lesen Sie den originalen Artikel:

Prompt-Injection: Mehr Angriffe, nicht mehr Schutz