Cómo tu agente sabe cosas para las que nunca fue entrenado
Un modelo no conoce tu política de devoluciones. El RAG recupera el chunk correcto y fundamenta la respuesta en él — con citas. Escribe una pregunta y míralo pasar.
Un modelo de lenguaje sabe una cantidad enorme sobre el mundo y nada sobre tu negocio. Nunca vio tu política de devoluciones, tus zonas de envío, ni que aceptas Yape. Pregúntale directo y hará lo más peligroso que puede hacer un agente de soporte: adivinar, con total confianza.
La solución no es fine-tuning. Es recuperación — traer la pieza relevante de tu conocimiento al contexto, y hacer que el modelo responda desde eso, no desde su memoria.
Escribe una pregunta abajo y mira cómo el vector search re-rankea la base de conocimiento en cada tecla, y luego fundamenta una respuesta en los mejores chunks:
Type a question and watch the vector search re-rank live.
The answer is built only from what was retrieved — never invented.
Retrieval-augmented generation, en un respiro
El RAG tiene cuatro movimientos:
- Chunkea tus documentos en pasajes chicos y autocontenidos.
- Embebe cada chunk en un vector — un punto en el espacio de significado.
- Busca en ese espacio con la pregunta del usuario y toma los mejores matches.
- Fundamenta la respuesta: entrega esos chunks al modelo y pídele que responda solo desde ellos, con citas.
El demo de arriba usa simple coincidencia de palabras para poder correr en tu navegador — la recuperación real usa embeddings y captura significado, no solo palabras iguales. Pero la forma es exactamente esta: recupera primero, responde después.
”Con fundamento, no adivinado” es todo el punto
Fíjate qué hace el panel de respuesta: solo dice lo que un chunk recuperado respalda, y cita la fuente. Pregunta algo que la base no puede responder y no recupera nada — y un agente real, en vez de inventar, pregunta para aclarar o escala.
Esa es la diferencia entre un demo y algo que puedes poner frente a clientes. Las citas no son decoración; son cómo un humano verifica al agente, y cómo lo mantienes honesto.
La calidad de la recuperación es el producto
Cualquiera mete texto en un prompt. Las victorias difíciles y aburridas están en la recuperación: cómo chunkeas, qué modelo de embeddings usas, si re-rankeas los mejores resultados, cómo manejas la frescura cuando un documento cambia. Hazlo bien y el mismo modelo base de pronto se siente como si conociera tu empresa.
Qué hace Thaliq con esto
Sueltas tus documentos. Nosotros chunkeamos, embebemos con un vector store portable (pgvector), recuperamos en cada vuelta, y le entregamos al modelo contexto fundamentado con citas — dentro del mismo loop agéntico que tus tools y el HITL. Y como la recuperación corre sobre tu vector store, en self-host tu conocimiento nunca sale de tu perímetro.
Tu agente no necesita ser entrenado sobre tu negocio. Solo necesita poder buscarlo.