aii.news
الأمنالمطوّرون20 نوفمبر

دراسة: زيادة بيانات التدريب على حقن الأوامر قد تجعل وكلاء الذكاء الاصطناعي أسهل اختراقًا

unknown persons using computer indoors
صورة: Arlington Research / Unsplash

وجد باحثون من University of Waterloo وZhejiang University وKTH أن وكلاء الذكاء الاصطناعي الذين أُعيد تدريبهم على مجموعة أكبر من هجمات حقن الأوامر أصبحوا أسهل في الاختطاف في ثلاثة من أربعة اختبارات. وأنتجت أداة الفريق الأحمر التي عثرت على أكبر عدد من الهجمات الناجحة أضعف دفاع.

لماذا يهمّك هذا

ينبغي للفرق التي تؤمّن وكلاء الذكاء الاصطناعي التركيز على تنوع الهجمات لا حجمها فقط عند الاختبار ضد حقن الأوامر.

يختار aii.news الأخبار من مصادر موثوقة ويلخّصها بمساعدة الذكاء الاصطناعي. كل خبر يرتبط بالتقرير الأصلي. طريقة عملنا.