aii.news
BeveiligingOntwikkelaars20 nov

Studie: meer trainingsdata over prompt injection kan AI-agents makkelijker te kapen maken

unknown persons using computer indoors
Foto: Arlington Research / Unsplash

Onderzoekers van de University of Waterloo, Zhejiang University en KTH ontdekten dat AI-agents die opnieuw getraind waren op een grotere set prompt-injectionaanvallen in drie van de vier tests makkelijker te kapen waren. De red-teamingtool die de meeste werkende aanvallen vond, leverde de zwakste verdediging op.

Waarom het ertoe doet

Teams die AI-agents beveiligen, moeten bij tests tegen prompt injection inzetten op variatie in aanvallen, niet alleen op volume.

aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.