Yapay zekâ modelleri senin şirket belgelerini, kendi notlarını ya da bir PDF’in içeriğini bilmez. “Bu sözleşmede ceza maddesi var mı?” diye sorduğunda uydurabilir. RAG (Retrieval-Augmented Generation) bu sorunu çözer.
Mantığı tek cümlede
Soruyla ilgili belge parçalarını önce bul, sonra modele “şu metinlere dayanarak cevapla” diye birlikte ver. Model bilgiyi hafızasından değil, verdiğin metinden üretir.
Nasıl çalışır (4 adım)
- Parçala: Belgeleri küçük parçalara böl (ör. 500 kelimelik bloklar).
- Gömme (embedding) çıkar: Her parçayı, anlamını temsil eden bir sayı dizisine çevir. Benzer anlamlı metinler birbirine yakın sayılar alır.
- Sakla: Bu sayıları bir “vektör veritabanına” koy (ör. Chroma, Qdrant, pgvector).
- Sorgula: Kullanıcı soru sorunca, sorunun gömmesini çıkar, veritabanından en benzer parçaları bul, modele soruyla birlikte ver.
Neden işe yarar?
- Model güncel ve sana özel bilgiyle cevap verir.
- Kaynak gösterebilir: “Bu cevap şu belgenin 3. sayfasından.”
- Halüsinasyon (uydurma) azalır, çünkü model elindeki metne bağlı kalır.
Ne zaman gerekmez?
- Genel bilgi soruları için (modelin zaten bildiği şeyler).
- Belgen çok kısaysa; o zaman belgeyi doğrudan isteme (prompt) yapıştırmak yeterli.
Başlamak için araçlar
- Çerçeveler: LlamaIndex, LangChain (RAG’i kolaylaştırır)
- Vektör DB: Chroma (yerel, basit), pgvector (PostgreSQL eklentisi)
- Gömme modeli: OpenAI/Cohere API ya da yerel (sentence-transformers)
Kendi belgelerinizle RAG denediyseniz deneyiminizi paylaşın; hangi araç işe yaradı?