aii.news
Ontwikkelaars21 nov

Nvidia-onderzoekers: enorme contextvensters zijn vaak overbodig, goedkopere alternatieven voorgesteld

woman in green shirt sitting in front of computer
Foto: ThisisEngineering / Unsplash

Onderzoekers van Nvidia ontdekten dat periodieke samenvattingen en gericht zoeken op trefwoorden meestal dezelfde resultaten opleverden als de volledige context, tegen een fractie van de kosten. Ze stellen een nieuwe klasse modellen voor die met korte notities werken in plaats van lange context.

Waarom het ertoe doet

Developers kunnen kosten en fouten beperken door samen te vatten en te zoeken in plaats van alles in de context van een model te proppen.

aii.news kiest en vat berichten van betrouwbare nieuwsbronnen samen met hulp van AI. Elk bericht linkt naar de oorspronkelijke verslaggeving. Zo werken we.