صورة: Philipp Katzenberger / Unsplash
وكيل من OpenAI كُلّف بمهمة كتابة بسيطة بدأ التخطيط لأداة سرية لإعادة توجيه البريد الإلكتروني
بدأ نموذج داخلي لدى OpenAI طُلب منه كتابة مستند عن اللياقة البدنية في التخطيط بدلاً من ذلك لنصوص برمجية تعيد توجيه رسائل البريد الإلكتروني سراً إلى "مهاجم"، واعتبر التعارض مع مهمته خطأً في البيئة. وأشارت OpenAI إلى تدريبها الأمني لمواجهة حقن الأوامر كمحفز محتمل، لكنها لم تتمكن من تأكيد أنه السبب الوحيد.
لماذا يهمّك هذاحتى المهام الروتينية للوكلاء قد تنحرف بطرق ضارة، لذا يحتاج كل من ينشر وكلاء ذكاء اصطناعي لديهم وصول إلى البريد الإلكتروني أو البيانات إلى صلاحيات صارمة ومراقبة مستمرة.