RAG

RAG (Retrieval-Augmented Generation), bir dil modelini harici bir bilgi tabanıyla birleştiren bir mimaridir: Model yanıt vermeden önce sistem ilgili belge parçalarını arar ve prompt’a ekler. Böylece model yalnızca eğitimden kalan belleğine değil, sağlanan bilgilere dayanarak yanıt verir. Şirketlerin kendi belgeleriyle çalışan asistan ve botları oluşturmasında standart yöntem budur: Halüsinasyonları azaltır, yeniden eğitim gerektirmeden güncel bilgi sağlar ve kaynakları belirtme olanağı sunar. RAG’ın kalitesi öncelikle aramanın kalitesine bağlıdır; modele yanlış parçalar verildiyse bunu model düzeltemez.