aii.news
Desarrolladores21 nov

Investigadores de Nvidia dicen que las enormes ventanas de contexto a menudo son innecesarias y proponen alternativas más baratas

woman in green shirt sitting in front of computer
Foto: ThisisEngineering / Unsplash

Investigadores de Nvidia comprobaron que los resúmenes periódicos y la búsqueda dirigida por palabras clave solían igualar los resultados del contexto completo a una fracción del coste. Proponen una nueva clase de modelos que trabajan con notas breves en lugar de contextos largos.

Por qué importa

Los desarrolladores pueden reducir costes y errores resumiendo y buscando en lugar de meterlo todo en el contexto de un modelo.

aii.news selecciona y resume noticias de fuentes fiables con ayuda de la IA. Cada noticia enlaza a la información original. Cómo trabajamos.