هجمات مدعومة بالذكاء الاصطناعي، واحتيال بالتزييف العميق، وهجمات على أنظمة الذكاء الاصطناعي، وكيف تتصدى لها البنوك وشركات التقنية المالية وشركات التكنولوجيا. يُحدَّث مرتين يومياً.
صورة: Kristijan Arsov / Unsplash
أفاد بحث جديد بأن قراصنة يُشتبه بارتباطهم بكازاخستان استخدموا وكيل ذكاء اصطناعي للمساعدة في التجسس على حكومات آسيا الوسطى. وسرقت المجموعة وثائق حساسة واخترقت شبكات بنى تحتية حيوية.
لماذا يهمّك هذاباتت مجموعات مدعومة من دول تستخدم وكلاء الذكاء الاصطناعي في عمليات تجسس فعلية، لذا ينبغي للحكومات ومشغّلي البنى التحتية توقّع هجمات أسرع وأكثر أتمتة.
اكتشف مشروع تابع لـ Microsoft FORGE Lab يجمع بين وكلاء الذكاء الاصطناعي وباحثين بشريين 59 ثغرة في نواة Linux، بعضها موجود في شيفرة الإنتاج منذ أكثر من 20 عاماً. وسرّع الذكاء الاصطناعي عملية الاكتشاف، لكن التحقق من الثغرات وكتابة التصحيحات ظلّا يتطلبان جهداً بشرياً كبيراً.
لماذا يهمّك هذايكتشف الذكاء الاصطناعي ثغرات قديمة في البرمجيات الأساسية بسرعة، لذا ينبغي للفرق التي تشغّل Linux توقّع مزيد من التصحيحات والتخطيط للجهد البشري اللازم لإصلاحها.
تمكّن باحثون من Darktrace في اختبار مخبري من التحكم في Claude Code عبر ميزة الذاكرة في منصة Anthropic، واستخرجوا ملفاً بحجم 1 GB عبر Files API. ومرّت كل حركة البيانات عبر نقطة الوصول المعتادة لواجهة Anthropic البرمجية، فبدت كأنها وكيل برمجة يؤدي عمله.
لماذا يهمّك هذاقد تمنح مفاتيح واجهات برمجة الذكاء الاصطناعي المسرّبة المهاجمين سيطرة خفية على وكلاء البرمجة، لذا ينبغي للشركات حماية هذه المفاتيح وتغييرها دورياً كما تفعل مع كلمات المرور.
عندما فشلت الأوامر المكتوبة يدوياً في اختراق شركة تجزئة أمريكية، استخدم المهاجم بدلاً منها سكربتات مولّدة بالذكاء الاصطناعي، ما مكّنه من التنقل عبر الشبكة خلال دقائق.
لماذا يهمّك هذايقلّص الذكاء الاصطناعي الوقت المتاح للمدافعين لرصد المتسلل وإيقافه، لذا تحتاج شركات التجزئة إلى مراقبة واستجابة أسرع.
خلال أسبوع واحد في أكتوبر، تلقى سوق إلكتروني أكثر من 414,000 زيارة من حركة مرور ادّعت أنها وكيل ذكاء اصطناعي استهلاكي معروف، استهدفت جميعها صفحة تسجيل الدخول. وكانت هذه الحركة في الواقع عملية حشو بيانات اعتماد تختبر أسماء مستخدمين وكلمات مرور مسروقة، وفاق عددها زيارات الوكيل الحقيقي.
لماذا يهمّك هذاالمواقع التي تثق بحركة المرور لمجرد ادعائها أنها وكيل ذكاء اصطناعي قد تصبح عرضة لهجمات الاستيلاء على الحسابات.
تدفع اليابان نحو حزمة تمويل طارئة تضيف فرق استجابة سيبرانية مشتركة بين القطاعين العام والخاص وفريقاً متخصصاً في الذكاء الاصطناعي تديره وزارة الاقتصاد. كما تمنح مجالاً أوسع لاستخدام صلاحيات الدفاع السيبراني النشط الجديدة للحكومة.
لماذا يهمّك هذابدأت الحكومات تمويل دفاعات مخصصة ضد الهجمات المدعومة بالذكاء الاصطناعي، ما سيؤثر في كيفية إبلاغ الشركات عن الاختراقات والاستجابة لها.
رصد باحثون مهاجمين يستضيفون نسخاً ذاتية الإدارة من AntiFox، وهي منصة مفتوحة المصدر لاختبار الاختراق تعتمد على الوكلاء، على Alibaba Cloud لاستهداف خدمات الويب وسرقة بيانات اعتماد AWS. ثم تنقّل المهاجمون أفقياً داخل البيئات المخترقة.
لماذا يهمّك هذاوكلاء الذكاء الاصطناعي الهجومية المصممة للمدافعين باتت تُستخدم ضد حسابات السحابة، ما يزيد سرعة ونطاق الهجمات على بيانات الاعتماد.
وصف باحثو مايكروسوفت تقنية تُدعى Lazarus تعدّل بضع خلايا عصبية خاملة في نموذج مفتوح الأوزان بحيث يدفعه مُحفِّز إلى إخراج أوامر المهاجم، دون الحاجة إلى إعادة التدريب. ويتصرف النموذج المعدَّل بشكل طبيعي في اختبارات السلامة القياسية، وتقول مايكروسوفت إنها لم ترصد مهاجمين يستخدمون هذه الطريقة.
لماذا يهمّك هذاعلى الفرق التي تشغّل وكلاء على نماذج مفتوحة الأوزان التحقق من مصدر ملفات نماذجها وتقييد ما يمكن للوكلاء تنفيذه.
أصدرت Fortinet إصلاحات لنحو 100 ثغرة دفعة واحدة. ويأتي هذا الارتفاع بعد استخدام الشركة نماذج ذكاء اصطناعي متقدمة في اختبارات أمان منتجاتها.
لماذا يهمّك هذاالبحث عن الثغرات بالذكاء الاصطناعي ينتج عدداً أكبر بكثير من التحديثات، لذا ينبغي لفرق تقنية المعلومات توقع دورات تحديث أكبر وأكثر تكراراً.
عثرت GitGuardian على 31,088 سرًّا مختلفًا، بينها بيانات اعتماد لقواعد بيانات ورموز سحابية، في ملفات الإعدادات المحلية لـClaude Code عبر 23,276 مستودعًا عامًا على GitHub. وكان 5,343 منها لا يزال صالحًا عند اكتشافه.
لماذا يهمّك هذاإذا كنت تستخدم Claude Code، فتأكد من استبعاد ملف إعداداتك المحلي من Git، وغيّر أي بيانات اعتماد ربما تكون قد رُفعت.
قالت شركة Railway المزوّدة للمنصات إن مفاتيح مزودي الذكاء الاصطناعي التي خزّنها العملاء سُرقت في اختراق وقع في أكتوبر واستُخدمت في استهلاك غير مصرح به يُقدَّر بـ740,000 دولار، وقد يطال ذلك ما يصل إلى 100,000 مساحة عمل. وتعهدت الشركة بتغطية الرسوم التي لن يستردها مزودو الذكاء الاصطناعي.
لماذا يهمّك هذاأصبحت مفاتيح API الخاصة بالذكاء الاصطناعي المخزنة هدفاً مباشراً لسرقة قدرات الحوسبة وإعادة بيعها، لذا ينبغي وضع حدود للإنفاق وتدوير المفاتيح المحفوظة على منصات الأطراف الثالثة.
استغل مهاجم ثغرة تنفيذ تعليمات برمجية عن بُعد في محرك الاستدلال مفتوح المصدر SGLang لتشغيل تعليمات برمجية على أحد خوادم الاستدلال التابعة لـNEAR AI، واستولى على بيانات 18 وكيلاً ونحو 100 مستخدم. كما يُحتمل أن تكون الطلبات المرسلة في الوضع السري مكشوفة على ذلك الخادم.
لماذا يهمّك هذاعلى الفرق التي تشغّل محركات استدلال مفتوحة المصدر تطبيق التحديثات بسرعة، لأن ثغرة واحدة قد تكشف مطالبات المستخدمين حتى في الإعدادات التي توصف بأنها سرية.
قالت Fireworks AI إن تحقيقها في حادث سابق كشف عن نشاط خبيث إضافي طال معلومات الحسابات والفوترة والأسرار ومجموعات البيانات ونماذج غير مكتملة لعدد محدود من الحسابات. وقالت Notion إن الاختراق كشف نصوص محادثات Notion AI في عدد صغير من مساحات العمل.
لماذا يهمّك هذابياناتك في الذكاء الاصطناعي لا تكون آمنة إلا بقدر أمان مزودي البنية التحتية وراء أدواتك، لذا ينبغي للشركات مراجعة المزودين الذين يعالجون أوامرها وبياناتها.
