aii.news
SicherheitEntwickler20. Nov.

Studie: Mehr Trainingsdaten zu Prompt Injection können KI-Agenten leichter kaperbar machen

unknown persons using computer indoors
Foto: Arlington Research / Unsplash

Forscher der University of Waterloo, der Zhejiang University und der KTH fanden heraus, dass KI-Agenten, die mit einer größeren Menge an Prompt-Injection-Angriffen nachtrainiert wurden, in drei von vier Tests leichter zu kapern waren. Das Red-Teaming-Tool, das die meisten funktionierenden Angriffe fand, führte zur schwächsten Abwehr.

Warum das wichtig ist

Teams, die KI-Agenten absichern, sollten bei Tests gegen Prompt Injection auf Vielfalt der Angriffe statt nur auf Menge setzen.

aii.news wählt Meldungen aus vertrauenswürdigen Nachrichtenquellen aus und fasst sie mithilfe von KI zusammen. Jede Meldung verlinkt auf die Originalberichterstattung. So arbeiten wir.