باحثو Nvidia: نوافذ السياق الضخمة غالباً غير ضرورية ويقترحون بدائل أقل تكلفة
وجد باحثون في Nvidia أن الملخصات الدورية والبحث الموجّه بالكلمات المفتاحية حققا عادة نتائج مماثلة لاستخدام السياق الكامل بجزء بسيط من التكلفة. ويقترحون فئة جديدة من النماذج تعمل بملاحظات قصيرة بدلاً من السياق الطويل.
لماذا يهمّك هذا
يمكن للمطورين خفض التكاليف والأخطاء عبر التلخيص والبحث بدلاً من حشو كل شيء في سياق النموذج.
يختار aii.news الأخبار من مصادر موثوقة ويلخّصها بمساعدة الذكاء الاصطناعي. كل خبر يرتبط بالتقرير الأصلي. طريقة عملنا.