RAG (Retrieval Augmented Generation)
RAG, bir LLM'in yanıt üretmeden önce harici bilgi kaynaklarından ilgili içerik alarak bunu bağlam olarak kullanması tekniğidir.
Duz Turkce Aciklama
LLM'ler eğitim kesme tarihi nedeniyle güncel bilgiye sahip değildir ve büyük bir dokümantasyonu ezberleyemez. RAG bu sorunu şöyle çözer: kullanıcı sorusu önce vektör veritabanında aranır ve ilgili doküman parçaları bulunur; ardından bu parçalar modelin bağlamına eklenerek soruya özel bilgiyle yanıt üretilmesi sağlanır. Bu yöntem hem halüsinasyonları azaltır hem de modelin güncel ve alana özgü bilgiyle yanıt vermesini mümkün kılar.
Nerede Kullanilir?
Kurumsal doküman soru-cevap sistemleri, hukuki araştırma asistanları, müşteri destek botları ve bilgi yönetim sistemlerinde standart mimari yaklaşımdır. Neredeyse her LLM uygulamasında en sık başvurulan teknik haline gelmiştir.
Ornek
Bir şirket, 5.000 sayfalık ürün kılavuzunu vektör veritabanına yükleyerek RAG destekli bir müşteri asistanı kurdu; asistan artık 'Yazıcım kağıt sıkıştırdı ne yapmalıyım?' gibi sorulara kılavuzdan doğru adımları alarak yanıt veriyor.