دراسة: زيادة بيانات التدريب على حقن الأوامر قد تجعل وكلاء الذكاء الاصطناعي أسهل اختراقًا
وجد باحثون من University of Waterloo وZhejiang University وKTH أن وكلاء الذكاء الاصطناعي الذين أُعيد تدريبهم على مجموعة أكبر من هجمات حقن الأوامر أصبحوا أسهل في الاختطاف في ثلاثة من أربعة اختبارات. وأنتجت أداة الفريق الأحمر التي عثرت على أكبر عدد من الهجمات الناجحة أضعف دفاع.
لماذا يهمّك هذا
ينبغي للفرق التي تؤمّن وكلاء الذكاء الاصطناعي التركيز على تنوع الهجمات لا حجمها فقط عند الاختبار ضد حقن الأوامر.
يختار aii.news الأخبار من مصادر موثوقة ويلخّصها بمساعدة الذكاء الاصطناعي. كل خبر يرتبط بالتقرير الأصلي. طريقة عملنا.