Yapay zeka sözlüğü / Jailbreak

🛡️ Güvenlik ve kalite

Jailbreak, modelin güvenlik önlemlerini özenle hazırlanmış bir prompt ile aşma girişimidir: rol yapma, varsayımsal senaryolar ve tekrar tekrar farklı ifadeler kullanma; bunların tümü modelin kurallar gereği yapmaması gereken bir şeyi yapmasını sağlamak içindir. Güvenlik önlemlerini geliştirenlerle bunları aşmaya çalışanlar arasında sürekli bir yarış var; yayımlanan numaralar kısa sürede işe yaramaz hâle geliyor ve yenileri ortaya çıkıyor. Yapay zekâyı kullanan şirketler için çıkarılacak ders pratik: modelin güvenlik önlemlerinin aşılamayacağını varsaymayın; kritik kısıtlamaları modelin dışında da uygulayın.