Une étude montre que davantage de données d'entraînement sur l'injection de prompts peut rendre les agents IA plus faciles à détourner
Des chercheurs de la University of Waterloo, de la Zhejiang University et du KTH ont constaté que des agents IA réentraînés sur un plus grand ensemble d'attaques par injection de prompts étaient plus faciles à détourner dans trois tests sur quatre. L'outil de red teaming ayant trouvé le plus d'attaques efficaces a produit la défense la plus faible.
Pourquoi c'est important
Les équipes chargées de sécuriser les agents IA devraient miser sur la variété des attaques, et pas seulement sur leur volume, lors des tests contre l'injection de prompts.
aii.news sélectionne et résume des articles de sources d'information fiables avec l'aide de l'IA. Chaque article renvoie au reportage d'origine. Notre méthode.