#93 - Hvordan Bygger Man RAG-systemer? med Emil Lykke Jensen

I denne episode af Vabos Podcast dykker værten Kasper Junge og gæsten Emil Jensen ned i Retrieval Augmented Generation (RAG). De diskuterer, hvad RAG er, hvordan det kan anvendes i virksomheder, og hvilke udfordringer der er forbundet med datahåndtering og søgning. Derudover taler de om vigtigheden af at optimere supportartikler og den iterative proces i systemforbedringer. Episoden afsluttes med en diskussion om hukommelse og RAGs fremtidige perspektiver. I denne samtale diskuterer deltagerne emner relateret til AI, semantisk søgning, evaluering af RAG-systemer, fine-tuning og RAG. De udforsker, hvordan uendelige kontekstvinduer kan forbedre søgninger, vigtigheden af feedback loops i systemer, og hvordan man bedst anvender fine-tuning i forhold til RAG. Deltagerne deler også deres erfaringer med forskellige modeller og værktøjer, samt hvordan domæneviden spiller en afgørende rolle i data science.Find Emil Lykke Jensen og hans projekter her:- https://www.linkedin.com/in/emillykkejensen/- https://www.governt.io/- https://www.brieft.io/Chapters00:00 Introduktion til RAG og gæsternes baggrund02:31 Hvad er Retrieval Augmented Generation?05:22 Anvendelse af RAG i virksomheder08:06 Udfordringer ved datahåndtering og søgning10:44 Effektivitet i søgning og retrieval13:39 Optimering af supportartikler med RAG16:23 Data som en vigtig ressource18:56 Iterativ forbedring af systemer22:03 Hukommelse og RAGs rolle24:42 Fremtidige perspektiver for RAG35:52 Uendelige kontekstvinduer og semantisk søgning42:20 Evaluering af racksystemer og feedback loops47:48 Fine-tuning vs. RAG: Hvornår skal man bruge hvad?55:03 Praktiske anvendelser og fremtidige perspektiver