Comprime lo que ve tu IA. · Cágala, Aprende, Repite

Comprime lo que ve tu IA.

Existe una herramienta que se llama Headroom y que comprime todo lo que lee tu agente de IA (resultados de herramientas, registros, fragmentos RAG, archivos e historial de conversaciones) antes de que llegue al LLM. Las mismas respuestas, pero con una fracción del tamaño de los tokens.

Me la encontre en Linkedin pero te dejo su repo para que lo prueben, ya tiene 34K estrellas

https://github.com/chopratejas/headroom

4 comments

Comprime lo que ve tu IA.