Yapay zeka sözlüğü / RLHF
🏗️ Modeller ve eğitim
RLHF
Modeli insan yanıt değerlendirmeleriyle eğitmek; böylece model yalnızca “metin tahmin etmekle” kalmaz, yardımcı da olur.
RLHF (Reinforcement Learning from Human Feedback), modelin insan değerlendirmeleriyle öğrendiği eğitim aşamasıdır: İnsanlar modelin farklı yanıtlarını karşılaştırıp daha iyilerini seçer, algoritma da modeli tercih edilen yanıtları daha sık üretmesi için ince ayar yapar. Ham “metin tahmincilerini” soruları devam ettirmek yerine yanıtlayan, zararlı isteklere karşı çıkan ve nazik bir üslup kullanan yardımcı asistanlara dönüştüren, RLHF ve benzeri tekniklerdir. Bunun bedeli, modelin aşırı uyumlu hale gelip kullanıcıya sürekli katılması olabilir.
İlgili kavramlar