Nvidia-onderzoekers: enorme contextvensters zijn vaak overbodig, goedkopere alternatieven voorgesteld
Onderzoekers van Nvidia ontdekten dat periodieke samenvattingen en gericht zoeken op trefwoorden meestal dezelfde resultaten opleverden als de volledige context, tegen een fractie van de kosten. Ze stellen een nieuwe klasse modellen voor die met korte notities werken in plaats van lange context.
Waarom het ertoe doet
Developers kunnen kosten en fouten beperken door samen te vatten en te zoeken in plaats van alles in de context van een model te proppen.
aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.