Yapay zeka sözlüğü / LLM

🧠 Temeller

LLM, yani büyük dil modeli, büyük miktarda dil verisiyle eğitilmiş; metni işleyebilen ve aldığı bağlama göre devamını oluşturabilen bir yapay zekâ modelidir.

Günlük işlerden bir örnek: İzmir'de bir apartman yöneticisi, asansör yenileme çalışmasıyla ilgili uzun bir duyuruyu sakinlerin kolayca okuyabileceği bir mesaja dönüştürmek istiyor. Hazır metni modele verip tarihleri ve telefon numarasını korumasını istiyor, ardından özeti orijinaliyle karşılaştırıyor. LLM, bilginin biçimini değiştirmeye yardımcı olur; yenileme tarihini kendiliğinden uydurmamalı veya yüklenici firmanın zamanında geleceğini garanti etmemelidir.

LLM pratikte nasıl çalışır

Metin, sözcüklerin parçalarına, tam sözcüklere veya karakterlere karşılık gelebilen birimler olan token'lara bölünür. Model, bağlama dayanarak sıradaki olası token'ları belirler. Günümüzdeki LLM'ler genellikle girdinin farklı bölümleri arasındaki ilişkileri dikkate almaya imkân veren transformer mimarisinden yararlanır. Bu, katalogdan hazır bir yanıt seçmek gibi çalışmaz.

Eğitim, modelin parametrelerini belirler. Daha sonra bir komut girmek genellikle modeli baştan eğitmek yerine bu parametreleri kullanmasını sağlar. Modelin önceki mesajınıza yanıt vermesi, konuşma geçmişinin bağlam olarak modele iletilmesinden kaynaklanabilir. Bu, mesajınızın modeli kalıcı olarak değiştirdiğini kanıtlamaz. Bu mekanizmanın temelini Google'ın büyük dil modelleri kursunda bulabilirsiniz.

LLM, sohbet botu ve arama motoru farklı şeylerdir

Sohbet botu, konuştuğunuz uygulamadır. LLM ise bu uygulamanın bileşenlerinden biridir. Uygulama ayrıca internette arama yapabilir, dosyaları okuyabilir, hesaplamalar yapabilir ve kullanıcı ayarlarını saklayabilir. Bu nedenle benzer bir model kullanan iki hizmet farklı sonuçlar verebilir.

Modelin güncel tren seferlerini veya bir ürünün bugünkü fiyatını bilmesi şart değildir. Uygulamada arama özelliği varsa bu özelliği kullanıp kullanmadığını ve verileri nereden aldığını kontrol edin. Görünen bir bağlantı doğrulamanın başlangıcıdır, sonu değil: Sayfayı açıp ilgili ifadeyi gerçekten doğruladığından emin olun. Model bir belgeyi doğru okuyup ondan yanlış bir sonuç da çıkarabilir.

Dil modelini hangi işler için kullanabilirsiniz

Kaynak materyalinizin olduğu ve sonucu değerlendirebildiğiniz işler iyi bir başlangıçtır: talimatları kısaltmak, notları düzenlemek, iki yönetmelik sürümünü karşılaştırmak veya bir mesaj için birkaç alternatif hazırlamak. Her sürümde bir koşulun, istisnanın ya da önemli bir uyarının kaybolmadığını kontrol edin.

LLM metinleri sınıflandırabilir, metinlerden veri çıkarabilir ve kod yazmaya yardımcı olabilir. Bu tür kullanımlarda yanıt için izin verilen biçimi ve doğruluğu nasıl kontrol edeceğinizi belirleyin. Çözümün akıcı biçimde anlatılması programın test edildiği anlamına gelmez; tablonun doğru biçimlendirilmesi de içerdiği sayıların doğru olduğunu kanıtlamaz.

İşe yarar ilk komutunuzu nasıl hazırlarsınız

1. Materyali paylaşın. Apartman örneğinde, işlenmesi gerekmeyen kişisel bilgileri çıkardıktan sonra duyuruyu yapıştırın. “Yenileme çalışmasıyla ilgili bir duyuru yaz” demek yerine duyurunun dayanması gereken bilgileri verin.

2. Görevi ve hedef kitleyi belirtin: “Duyuruyu sakinler için altı cümleye kısaltın. Tüm tarihleri, saatleri ve iletişim numarasını koruyun.” Böylece model bunun bir reklam mı, özet mi yoksa resmî bir duyuru mu olduğunu tahmin etmek zorunda kalmaz.

3. Eksik bilgilerle ilgili bir kural ekleyin: “Kaynakta olmayan bilgileri tamamlamayın.” Belirsiz noktaları ayrı bir liste hâlinde vermesini de isteyebilirsiniz. Bu, yanıtın serbestliğini sınırlar ama kontrol ihtiyacını ortadan kaldırmaz.

4. Sonucu girdiyle karşılaştırın. Tarih, tutar veya taahhüt içeren her cümleyi işaretleyin. Bir şey uyuşmuyorsa hatayı açıkça belirtip görevi yeniden verin. Model özür diledi diye sonraki sürümün doğru olduğunu varsaymayın.

5. Kontrol etmek için kısa bir listeyle birlikte işe yaradığını doğruladığınız komutu saklayın. Komutu, tarihi eksik olan bir duyuru da dâhil olmak üzere başka bir duyuruda deneyin. Ancak bundan sonra tutarlı sonuç verip vermediğini değerlendirebilirsiniz.

Daha büyük bir model yerine ne zaman belgelere ihtiyaç duyarsınız

Yanıt şirket içi bir talimata bağlıysa önce ilgili talimatı paylaşın. RAG sistemi, kaynaklardaki ilgili bölümleri arayıp soruya ekler. Bu, yeniden eğitimle aynı şey değildir ve hatasızlık garantisi vermez: Güncelliğini yitirmiş bir belgeyi seçebilir veya önemli bir istisnayı atlayabilir. Uygulamada kaynağın sürümü ve tarihi, yanıtın uzunluğundan daha önemli olabilir.

En sık yapılan hata: kendinden emin bir üslubu bilgi sanmak

LLM hem doğru bir talimatı hem de uydurma bir açıklamayı aynı akıcılıkla yazabilir. Bir ifadenin kesin bir dille kurulmasıyla doğru olması arasında doğrudan bir ilişki yoktur. Sonucu kontrol edebileceğiniz işlerde kullanın ve önemli kararları doğrulanmış bilgilere dayandırın. Doğrulanamayan bir konuda “bilmiyorum” yanıtı, ikna edici bir tahminden daha iyidir.