Chat
LLM real activado: un modelo de Groq redacta la respuesta usando solo los fragmentos recuperados. Apagalo para usar el modo offline (extractivo y determinista).
Costo de esta consulta
Tokens enviados al LLM. Antes se mandaba el PDF entero de 5.000 páginas en cada pregunta.
–Tokens con RAG + memoria
2.500.000Tokens del diseño original
–Veces menos tokens
Paso 2 · Fragmentos recuperados (top-k)
Similitud coseno entre la pregunta y cada fragmento del índice vectorial.
Hacé una pregunta para ver qué se recupera.
Memoria conversacional (SQLite)
Ventana deslizante con los últimos mensajes + resumen de los anteriores.
Sin mensajes todavía.
Resumen persistido
(vacío: todavía no salió ningún mensaje de la ventana)