Karar modelleri mi küçük dil modelleri mi? Maliyet ve hız

👁 114 okunma

Decision Index’te karar modelleri küçük dil modellerinden 3 ila 20 kattan fazla daha hızlı yanıt veriyor. Ancak Claude Haiku 5.5 (low), genel indeks puanında bu modellerin tamamını geride bırakıyor. Maliyet konusunda tek bir kural yok: kullanılan modele ve LLM‘de kaç çıkış token‘ı için ödeme yaptığınıza bağlı. Aşağıda Artificial Analysis ölçümlerini, API fiyatlarını ve token bazında açık maliyet hesabını karşılaştırıyorum.

Veri tarihi: 13.10.2026. Burada “küçük dil modelleri”, doğrulanmış parametre sayısını değil, üreticilerin daha ucuz seçeneklerini (Haiku, Luna, Flash, Gemma) ifade ediyor. Karar modelinin ne olduğunu ve sıralamada kimin öne çıktığını Yapay zekâ karar modelleri rehberinde anlattım. Bir milyon sınıflandırmada tasarruf hesabı ve kademeli sistem hesaplayıcısı ayrı LLM yerine karar modeli rehberinde; burada küçük LLM’leri karar modelleriyle karşılaştırmaya odaklanıyorum.

Aynı görevi karşılaştırdığınızdan emin olun

Karar modeli bir seçim ve her seçenek için olasılık döndürür. Decision Index’te standart bir dil modeli aynı görevleri alır, ancak yanıtını zorunlu JSON biçiminde verir. Böylece iki model türü yanıtı farklı şekilde üretse de aynı soruları çözer (AA metodolojisi).

Bu nedenle bir modelin Decision Index puanını başka bir modelin Intelligence Index puanıyla karşılaştırmayın. İkisi de Artificial Analysis’te yer alsa bile farklı ölçeklerdir. LLM adının yanındaki ayara da dikkat edin: AA, Haiku 5.5’in low, medium, high, xhigh ve max seçeneklerini farklı puan, maliyet ve süre değerlerine sahip beş ayrı satır olarak gösteriyor.

Bir nokta daha: Doğru kategoriyi seçmek, müşteriye yanıt vermekle aynı şey değil. Sürecinizde kararın ardından gerekçe ya da mesaj yazılması gerekiyorsa metin üretimi aşamasını da hesaba katmalısınız. Yalnızca sınıflandırıcıyı tam metin yanıtıyla karşılaştırmak, ölçülen şeyi değiştirir.

AA verilerine göre puan, maliyet ve süre

Kaynak: AA Decision Index sıralaması, canlı veriler; 13.10.2026 tarihinde görüntülendi, dil modelleri karşılaştırması açık. Sıralamadaki 11 karar modelinin tamamı ve seçilmiş küçük LLM’ler yer alıyor. Her sütundaki en iyi değer kalın yazılmıştır. Gemini satırı veri eksikliğini gösterir, sıfır puanı değil.

AA, token kullanımını ve güncel fiyatları kullanarak maliyeti hesaplıyor, ardından ortalama görev maliyetini bir milyon görev üzerinden gösteriyor. Karar modellerinde yalnızca giriş, LLM’lerde ise hem giriş hem çıkış için ödeme yapılır. Dolayısıyla bu maliyet, “herhangi bir milyon kararın” fiyatı değil, belirli bir soru kümesi için yapılan hesaptır.

Tablodan çıkarılabilecek sonuçlar:

• Haiku 5.5 (low) puanda önde: Jev’den 3,1 puan yüksek; ancak AA’ye göre yaklaşık 11 kat daha yavaş ve 4,4 kat daha pahalı.
• Model kategorisi daha düşük fiyatı garanti etmez: Clef, daha hızlı yanıt vermesine rağmen Haiku 5.5 (low) ve GPT-6 Luna (low) modellerinden pahalı. Clef-Omni de non-reasoning Luna’dan daha pahalı.
• Daha büyük LLM, kararlarda daha iyi demek değil: Reasoning özellikli Gemma 4 31B listedeki en pahalı ve en yavaş model; puanı ise Luna’yı (low) ancak az farkla geçiyor.
• En uygun fiyatlı seçenekler: AA’ye göre Decider v1.1 27B, Microsoft-Decision-1 ve Jev 1.13, fiyatına göre en iyi sonuca yakın.

Doğruluk, kararın türüne bağlı

En yüksek indeks puanı her bileşende üstünlük anlamına gelmez. AA analizine göre LLM’ler bilgi sorularında öne çıkarken, üst sıralardaki karar modelleri güvenlik sınıflandırması ve araç seçimi kararlarında onlara yetişiyor ya da onları geçiyor.

Sayıların kaynakları, 13.10.2026 tarihinde görüntülendi: AA’nın AA-Omniscience-Decision, HLE-MultiChoice, When2Call ve WildGuardTest grafikleri. Son sütun farklı modellerin en iyi sonuçlarını bir araya getiriyor; tek bir sistemi tanımlamıyor. İndeksin nasıl oluşturulduğunu ve testlerin neyi ölçtüğünü Decision Index sıralaması haberinde anlattım.

Pratik sonuç şu: Görev, mesajı iyi tanımlanmış bir kategoriye atamak ya da bir ajanın sonraki adımını seçmekse karar modeli güçlü bir adaydır. Karar, sorguda bulunmayan bilgiye dayanıyorsa küçük LLM belirgin biçimde avantajlıdır. Bu, test örneklerinizi seçmeye yönelik bir öneridir; şirketinizde aynı başarıyı elde edeceğinizin garantisi değildir.

API fiyatları: ayrı tablo, farklı birimler

Fiyat kaynakları, 13.10.2026 tarihinde görüntülendi: Anthropic, OpenAI, Google, Cloudflare; karar modellerinin fiyatları üreticilerden alınarak rehberde derlendi. Haiku ve Luna fiyatları, 13.10 tarihinde yaptığım testte OpenRouter’ın sorgular için kestiği tutarlarla örtüşüyor. Tabloda önbellek, toplu işlem indirimleri ve AB’de işleme ek ücretleri hesaba katılmadı.

Gemini 3.8 Flash için bir not: Google, 0,75 ve 3,75 USD fiyatlarının 2026 sonuna kadar geçerli olduğunu belirtiyor. Bu nedenle gelecek yıl için hesap yapmadan önce güncel fiyatı kontrol edin. Tüm LLM’lerde de girişinizin, farklı fiyatların geçerli olduğu uzun bağlam eşiğini aşıp aşmadığına bakın.

Açık varsayımlarla bir milyon görevin maliyeti

Bu bir senaryodur, benchmark değildir. Her biri 1000 ücretlendirilen giriş token’ı kullanan bir milyon çağrı varsayıyorum. LLM’lerde, ücretli reasoning token’ları dâhil, görev başına 50 ve 500 ücretlendirilen çıkış token’ı senaryolarını karşılaştırıyorum. Bunlar kabul edilen kullanım değerleridir; hiçbir modelin yanıt uzunluğu için tahmin değildir.

USD cinsinden 1 milyon görevin maliyeti =
görev başına giriş token'ı * 1 milyon giriş token'ının fiyatı
+ görev başına çıkış token'ı * 1 milyon çıkış token'ının fiyatı

Haiku, 50 çıkış token'ı senaryosu:
1000 * 0.10 + 50 * 0.50 = 125 USD

Hesaplamalar, 13.10.2026 tarihli fiyatlara dayanıyor. Karar modelleri metin üretmediği için maliyetleri çıkış token’ı bütçesine bağlı değil. Kalın yazı, kalite açısından kazananı değil, senaryodaki en düşük maliyeti gösteriyor.

• Kısa çıkış senaryosunda Haiku ve Luna, Workers AI’deki Clef’ten daha ucuz; uzun çıkışta durum tersine dönüyor.
• Bu hesapta Gemini 3.8 Flash, her iki çıkış bütçesinde de Haiku ve Luna’dan 7,5 kat pahalı.
• Ek çıkış token’ları için gereken gerekçeyi üretecekse karar modeli bunun yerini tutmaz. Metin üreten ikinci bir model, hesaba eklemeniz gereken başka bir çağrı demektir.

Her model için 1000 token varsaymak basitleştirmedir: farklı tokenizer’lar aynı metni farklı sayıda token olarak hesaplar. Testimde sorular içeren tek bir Lehçe müşteri bildirimi Mercury Decide’da yaklaşık 205, Jev’de yaklaşık 650 token tuttu. Haiku ise talimat ve JSON şemasıyla birlikte ortalama 782 giriş token’ı aldı. Bu nedenle gerçek bir karşılaştırmada mesaj uzunluğundan tahmin yürütmek yerine API’nin raporladığı kullanımı kaydedin.

Gecikme: kararın hazır olma süresi

Sınıflandırmada önemli olan, uygulamanın sonraki adımı atabildiği andır. JSON’un ilk karakterinin gelmesi henüz kararın hazır olduğu anlamına gelmez; ilk token süresi ve üretim hızı, tam yanıtın ölçümünün yerini tutmaz.

13.10.2026 tarihli testim (Polonya’dan OpenRouter üzerinden gönderilen sorgular, dolayısıyla ağ süresini de içeriyor) AA’deki eğilimi doğruluyor:

• Karar modelleri: 310-619 ms medyan (en hızlı Clef-Omni, en yavaş Mercury Decide).
• GPT-6 Luna (low): 1371 ms.
• Claude Haiku 5.5 (low): 1689 ms.
• Gemini 3.8 Flash: 5.10.2026 tarihinde API üzerinden yapılan ayrı testte, Lehçe 30 bildirimde 1822 ms medyan (departman 30/30, öncelik 26/30). Bu farklı bir veri kümesi ve farklı bir gün olduğu için bu değeri AA tablosuna eklemiyorum.

Medyan dağılımın ortasını gösterir, kullanıcının beklediği en yavaş yanıtları değil. Kendi testinizde dağılımın uç değerlerini, hataları ve yeniden denemeleri de kaydedin. Bir milyon kararı art arda işlemenin kaç saat sürdüğünü ve sorgu limitlerinin etkisini maliyet rehberinde hesapladım.

Lehçe doğruluğu: küçük LLM hâlâ az farkla önde

Testimdeki açıkça sınıflandırılabilir 47 Lehçe bildirimden karar modelleri 41-44’ünün departmanını doğru buldu; Claude Haiku 5.5 (low) ve GPT-6 Luna (low) ise 45’ini doğru sınıflandırdı. Bu kadar küçük bir örneklemde bir ila üç bildirimlik fark gürültüye yakın. Yine de AA ile örtüşüyor: basit sınıflandırmada küçük LLM’lerin hafif bir avantajı var; bunun karşılığında daha fazla süre ve maliyet ödüyorsunuz. 11 modelin tüm sonuçları rehberde.

Hangi durumda hangi modeli seçmeli?

• Karar modeli: Adımın çıktısı bir etiket ya da eylem seçimi olduğunda ve binlerce karar verildiğinde. Adayları aynı örneklerle test edin; emin olunmayan durumları başka yere yönlendirmek için olasılık değerlerinden yararlanın.
• Claude Haiku 5.5: Kararı metinle ya da sorgu dışında kalan bilgilerle birleştirmeniz gerektiğinde. Low seçeneği bu karşılaştırmadaki en yüksek puanı alıyor; ancak en hızlı karar modellerinden 10 kattan fazla yavaş.
• GPT-6 Luna: Karşılaştırılan seçenekler arasında bilgi sorularında en yüksek doğruluk (66,0); ancak bu testte neredeyse hiç “bilmiyorum” demiyor (0,0), dolayısıyla daha sık tahmin yürütüyor. Low, non-reasoning ve Decisions satırlarını ayrı tutun; bunlar farklı puanlara, maliyetlere ve sürelere sahip.
• Gemini 3.8 Flash: Karşılaştırılabilir bir testi kendiniz yapmanız gerekiyor. Fiyatı senaryo hesabına imkân veriyor, ancak Decision Index’teki eksik puanın yerini tutmuyor.

Sık sorulan sorular

Karar modeli küçük bir LLM’den her zaman daha mı ucuz?

Hayır. AA ölçümünde Clef’in milyon görev maliyeti 199,4 USD; bu, Claude Haiku 5.5 (low) ve GPT-6 Luna (low) modellerinden yüksek. Fiyatı belirleyenler kullanılan model, giriş uzunluğu ve ücretli çıkış token’larıdır.

Bir milyon token, bir milyon görev anlamına mı gelir?

Hayır. Tek bir görev birkaç yüz ila birkaç bin token kullanabilir. Bir milyon görevin maliyetini bulmak için token fiyatını ölçülen ya da açıkça varsayılan kullanımla çarpmak gerekir.

Gemini 3.8 Flash, Decision Index’te başarısız mı?

Böyle bir sonuca varmak için yeterli veri yok. 13.10.2026 tarihinde Gemini 3.8 Flash’ın indekste puanı bulunmuyordu. Ölçüm olmaması başarısız olduğu anlamına gelmez.

GPT-6 Luna ile GPT-6 Luna Decisions aynı sonucu mu ifade ediyor?

Hayır. AA, dil modelini ayrı gösteriyor (low: 55,2 puan, non-reasoning: 49,6); Decisions seçeneğinin puanı ise 48,5. Her birinin maliyeti ve süresi farklı.

İndeks puanı doğru kararların yüzdesi mi?

Hayır. Dört farklı ölçütün birleştirilmesiyle elde ediliyor. Belirli bir kullanım için uygun bileşeni seçin ve modeli temsili verilerle test edin.

Açıklama: Jev’i daha önceki incelememden tanıyorum. Eylül ayında kendi editoryal araçlarımda kullanmak üzere basit bir API istemcisi yazdım. TypeSafe bu yazıyı sipariş etmedi veya ücretini ödemedi. Değerlendirmemi bağımsız Artificial Analysis ölçümlerine ve tüm modellere aynı görevleri verdiğim kendi testime dayandırıyorum.

Kendi testlerim: 13.10.2026 (Polonya’dan OpenRouter üzerinden 11 modelle 50 Lehçe bildirim) ve 5.10.2026 (Gemini 3.8 Flash’ın API üzerinden test edildiği 30 Lehçe bildirim).

// okumaya devamGPT-6.1 Terra mı Claude Opus 5.5 mi? Test ve maliyetKarşılaştırmalarCOPEX: MCP kullanan dil modelleri nasıl kandırılıyor?Karşılaştırmalarbasal-omni: JevBench’te açık modeller arasında birinciKarşılaştırmalar