Investigadores de Nvidia dicen que las enormes ventanas de contexto a menudo son innecesarias y proponen alternativas más baratas
Investigadores de Nvidia comprobaron que los resúmenes periódicos y la búsqueda dirigida por palabras clave solían igualar los resultados del contexto completo a una fracción del coste. Proponen una nueva clase de modelos que trabajan con notas breves en lugar de contextos largos.
Por qué importa
Los desarrolladores pueden reducir costes y errores resumiendo y buscando en lugar de meterlo todo en el contexto de un modelo.
aii.news selecciona y resume noticias de fuentes fiables con ayuda de la IA. Cada noticia enlaza a la información original. Cómo trabajamos.