Yapay zeka sözlüğü / İçerik denetimi
🛡️ Güvenlik ve kalite
İçerik denetimi
Modelin girdilerinin ve çıktılarının yasaklı içerikler açısından otomatik olarak filtrelenmesi.
Yapay zekâ bağlamında içerik denetimi; içeriklerin şiddet, cinsel içerik, nefret söylemi ve kendine zarar verme gibi yasaklı kategoriler açısından otomatik olarak kontrol edilmesidir. Hem kullanıcının yazdıkları hem de modelin ürettikleri filtrelenir; denetim sistemlerinin kendileri de yapay zekâ modelleridir. Uygulama geliştiricileri için sağlayıcılar, ana modelden önce ve sonra devreye alınabilecek ayrı içerik denetimi araçları sunar. Kullanıcılar içinse yanlış alarmlar nedeniyle denetim can sıkıcı olabilir; zararsız ama iki anlama gelebilecek isteklerin reddedilmesine bu sistemler yol açar.
İlgili kavramlar