Yapay zeka sözlüğü / Alignment

🏗️ Modeller ve eğitim

Alignment (uyum), yapay zekânın hedef ve davranışlarını insanların niyetleri ve değerleriyle örtüştürmeye yönelik çabaların genel adıdır. Amaç, modelin geliştiricilerin öngörmediği durumlarda da yardımcı, dürüst ve zararsız olmasıdır. Uygulamada bu; eğitim tekniklerinin (RLHF gibi), güvenlik önlemlerinin ve dayanıklılık testlerinin birleşimidir. Yapay zekânın geleceğine ilişkin tartışmalarda alignment, daha geniş bir soruyu da ifade eder: Giderek güçlenen sistemlerin, kötü ifade edilmiş bir hedefin onlara kelimesi kelimesine söylediğini değil, gerçekten istediğimiz şeyi yapmasını nasıl sağlayabiliriz?