قراصنة سرقوا مفاتيح مزوّدي الذكاء الاصطناعي من Railway وتسببوا في استخدام احتيالي بقيمة $740,000
أكدت شركة الاستضافة السحابية Railway أنها خاضت مواجهة استمرت نحو 26 ساعة ضد مهاجمين سعوا وراء بيانات اعتماد مزوّدي الذكاء الاصطناعي، ما أدى إلى رسوم احتيالية بنحو $740,000. وكان الهدف من المفاتيح المسروقة إعادة بيعها لخدمات تُستخدم في تقطير النماذج، وربما كُشفت بيانات اعتماد ما يصل إلى 100,000 مساحة عمل.
باتت مفاتيح API للذكاء الاصطناعي غنيمة ثمينة، لذا ينبغي للمطورين تخزينها بأمان وتغييرها دورياً وتحديد سقوف للإنفاق.
يختار aii.news الأخبار من مصادر موثوقة ويلخّصها بمساعدة الذكاء الاصطناعي. كل خبر يرتبط بالتقرير الأصلي. طريقة عملنا.
تابع القراءة
-
أكثر من 35 ألف تطبيق أُنشئت بوكيل البرمجة من Grok مكشوفة على الإنترنت، وبعضها يسرّب كلمات مرور
عثرت شركة الأمن Claroc على 37,571 تطبيقاً أُنشئت باستخدام Grok على الإنترنت، يمكن فتح 35,578 منها دون تسجيل الدخول، بينها 24 تطبيقاً أنشأها موظفون في X وSpaceXSI. واحتوى نحو تطبيق من كل عشرة على بيانات أعمال داخلية، فيما سرّب بعضها معلومات سرية وكلمات مرور.
لماذا يهمّك هذاعلى كل من يبني تطبيقات بأدوات البرمجة بالذكاء الاصطناعي التحقق من إعدادات الوصول قبل النشر، إذ قد تكشف الإعدادات الافتراضية البيانات الخاصة للجميع.
-
باحثو Microsoft يُظهرون إمكانية زرع باب خلفي في وكلاء الذكاء الاصطناعي بتعديل أقل من 10 خلايا عصبية
كشف باحثون في Microsoft عن تقنية تُدعى Lazarus تزرع باباً خلفياً مخفياً في نموذج ذكاء اصطناعي عبر تغيير أقل من 10 خلايا عصبية نادرة الاستخدام، دون إعادة تدريب. وعند ظهور محفّز، ينفّذ الوكيل الذي يستخدم النموذج أمر المهاجم، بينما يتصرف بشكل طبيعي خلال اختبارات الأمان المعتادة.
لماذا يهمّك هذاعلى الشركات التي تمنح وكلاء الذكاء الاصطناعي صلاحية الوصول إلى الطرفيات أو الأنظمة التحقق من مصدر أوزان النماذج ومن يمكنه تعديلها، لأن اختبارات الأمان قد لا تكشف هذا النوع من التلاعب.
-
OpenAI تطلق أدوات Daybreak الأمنية التي تستخدم وكلاء الذكاء الاصطناعي لاختبار اختراق التطبيقات وإعداد الإصلاحات
كشفت OpenAI عن Daybreak Red Team، الذي يستخدم وكلاء ذكاء اصطناعي منسقين لاختبار تطبيقات الويب بحثاً عن نقاط الضعف، ويُتاح عبر الوصول المبكر. كما أطلقت Defense Factory، الذي يحقق في النتائج الأمنية ويعدّ التصحيحات، رابطاً اكتشاف الثغرات بإصلاحها وإعادة اختبارها.
لماذا يهمّك هذاقد تتمكن فرق الأمن قريباً من إسناد مهمتي اكتشاف ثغرات التطبيقات وإصلاحها إلى وكلاء الذكاء الاصطناعي، ما قد يسرّع الإصلاحات لكنه يتطلب مراجعة بشرية دقيقة.
-
قراصنة يستغلون ثغرة في SGLang لاختراق خادم استدلال لدى NEAR AI وسرقة بيانات الوكلاء والمستخدمين
استغل مهاجم ثغرة تنفيذ تعليمات برمجية عن بُعد في محرك الاستدلال مفتوح المصدر SGLang لتشغيل تعليمات برمجية على أحد خوادم الاستدلال التابعة لـNEAR AI، واستولى على بيانات 18 وكيلاً ونحو 100 مستخدم. كما يُحتمل أن تكون الطلبات المرسلة في الوضع السري مكشوفة على ذلك الخادم.
لماذا يهمّك هذاعلى الفرق التي تشغّل محركات استدلال مفتوحة المصدر تطبيق التحديثات بسرعة، لأن ثغرة واحدة قد تكشف مطالبات المستخدمين حتى في الإعدادات التي توصف بأنها سرية.
-
وكلاء ذكاء اصطناعي وباحثون من Microsoft يكتشفون 59 ثغرة في نواة Linux بعضها مخفي منذ أكثر من 20 عاماً
اكتشف مشروع تابع لـ Microsoft FORGE Lab يجمع بين وكلاء الذكاء الاصطناعي وباحثين بشريين 59 ثغرة في نواة Linux، بعضها موجود في شيفرة الإنتاج منذ أكثر من 20 عاماً. وسرّع الذكاء الاصطناعي عملية الاكتشاف، لكن التحقق من الثغرات وكتابة التصحيحات ظلّا يتطلبان جهداً بشرياً كبيراً.
لماذا يهمّك هذايكتشف الذكاء الاصطناعي ثغرات قديمة في البرمجيات الأساسية بسرعة، لذا ينبغي للفرق التي تشغّل Linux توقّع مزيد من التصحيحات والتخطيط للجهد البشري اللازم لإصلاحها.
