بحث من OpenAI يشرح سبب تزايد صعوبة مراقبة استدلال النماذج المتقدمة
درس فريق السلامة في OpenAI سبب تزايد إفلات سلاسل التفكير في نماذج مثل GPT-6 Astra من الرقابة، ووجد أن أربع مراحل في التدريب، منها خيارات البنية والتعلم المعزز، تقف وراء ذلك. ويقول التحليل إن هذا يعكس مفاضلات بين القدرات وتكلفة الحوسبة وليس اتجاهاً حتمياً.
تُعد قراءة استدلال النموذج فحصاً أساسياً للسلامة، ويُظهر هذا البحث أن المختبرات يمكنها الحفاظ عليه إذا قبلت ببعض التكلفة.
يختار aii.news الأخبار من مصادر موثوقة ويلخّصها بمساعدة الذكاء الاصطناعي. كل خبر يرتبط بالتقرير الأصلي. طريقة عملنا.
تابع القراءة
-
AlphaProof Code من DeepMind يتحقق رسميًا من النواة التشفيرية لـSignal خلال أربعة أسابيع
تحقق AlphaProof Code من Google DeepMind رياضيًا من الشيفرة التشفيرية الأساسية لـSignal في أربعة أسابيع، وهي مهمة تستغرق عادة سنوات، إذ كتب وكلاء الذكاء الاصطناعي أكثر من ستة ملايين سطر من شيفرة البراهين. وتخطط DeepMind لتطبيق الطريقة على البنية التحتية الحيوية مثل شبكات الكهرباء والأجهزة الطبية.
لماذا يهمّك هذاقد يجعل الذكاء الاصطناعي البرهنة الرسمية على صحة البرمجيات أمرًا عمليًا للأنظمة الحساسة أمنيًا التي يعتمد عليها الناس يوميًا.
-
Google تطلق Gemini 4 Hydrogen ليصبح النموذج الافتراضي في وضع الذكاء الاصطناعي في البحث
أطلقت Google نموذج Gemini 4 Hydrogen الذي تقول إنه يتعامل بشكل أفضل مع الأسئلة متعددة الأجزاء والأخطاء الإملائية والطلبات شديدة التحديد، ويحل محل سلسلة Flash. وهو متاح اعتباراً من اليوم في البحث وتطبيق Gemini وAI Studio وGemini API وGemini للأعمال.
لماذا يهمّك هذاستعمل الآن مليارات عمليات البحث والعديد من تطبيقات المطورين على هذا النموذج، وتشير اختبارات مستقلة إلى أنه يقدم جودة قريبة من القمة بتكلفة أقل من بعض المنافسين.
-
تقارير: مجلس إدارة Nvidia يستعد لإقالة الرئيس التنفيذي جنسن هوانغ بعد تقرير عن علاقة ثانية
أفادت تقارير بأن مجلس إدارة Nvidia يستعد لإقالة الرئيس التنفيذي جنسن هوانغ بعد تقرير عن علاقة مزعومة ثانية، هذه المرة مع مسؤولة تنفيذية تتبع له مباشرة. ويأتي ذلك بعد أيام من اعترافه بعلاقة مع امرأة يُزعم أنها جاسوسة صينية.
لماذا يهمّك هذاقد يؤثر تغيير القيادة في الشركة التي توفر معظم رقائق الذكاء الاصطناعي على إمدادات الرقائق والاستثمار في الذكاء الاصطناعي والتوترات التقنية بين الولايات المتحدة والصين.
-
جنسن هوانغ يستقيل من منصب الرئيس التنفيذي لـ Nvidia بعد فضيحتي تجسس وعلاقات غرامية وتعيين المديرة المالية كوليت كريس رئيسة تنفيذية مؤقتة
قبل مجلس إدارة Nvidia استقالة جنسن هوانغ من مناصب الرئيس التنفيذي والرئيس وعضو مجلس الإدارة بأثر فوري، وذلك عقب تقارير عن علاقتين غراميتين، إحداهما مع جاسوسة صينية مزعومة والأخرى مع مسؤولة تنفيذية في Nvidia كانت تتبع له مباشرة. وتتولى المديرة المالية كوليت كريس الآن منصب الرئيسة التنفيذية المؤقتة.
لماذا يهمّك هذاخسرت أهم شركة لرقائق الذكاء الاصطناعي في العالم مؤسسها، ما قد يؤثر على إمدادات أجهزة الذكاء الاصطناعي والأسواق والنقاشات حول الأمن التقني بين الولايات المتحدة والصين.
-
قانون سلامة الذكاء الاصطناعي في نيويورك يدخل حيز التنفيذ ويفرض رقابة إضافية على OpenAI وAnthropic
تستعد نيويورك لتطبيق قانونها الخاص بسلامة الذكاء الاصطناعي، الذي يُلزم كبار مطوري الذكاء الاصطناعي بالتسجيل والإفصاح عن ممارسات السلامة والإبلاغ عن الحوادث الحرجة. وتواجه الشركات غير الملتزمة غرامات.
لماذا يهمّك هذايواجه كبار مطوري الذكاء الاصطناعي الآن قواعد إلزامية على مستوى الولاية للإبلاغ عن السلامة، قد تصبح نموذجًا لولايات قضائية أخرى.
