Des chercheurs de Nvidia jugent les immenses fenêtres de contexte souvent inutiles et proposent des alternatives moins coûteuses
Des chercheurs de Nvidia ont constaté que des résumés périodiques et une recherche ciblée par mots-clés égalaient généralement les résultats du contexte complet, pour une fraction du coût. Ils proposent une nouvelle classe de modèles fonctionnant avec de courtes notes plutôt qu'un long contexte.
Pourquoi c'est important
Les développeurs peuvent réduire coûts et erreurs en résumant et en recherchant plutôt qu'en entassant tout dans le contexte d'un modèle.
aii.news sélectionne et résume des articles de sources d'information fiables avec l'aide de l'IA. Chaque article renvoie au reportage d'origine. Notre méthode.