Yerel yapay zekâ: Modeller, donanım ve sıralama
RTX 4090, 8-24 GB ekran kartı ve Mac için yerel yapay zekâ modelleri. Hız ölçümleri, donanım tablosu ve Ekim 2026 sıralaması.
👁 114 okunma
Yerel yapay zekâ, bilgisayarınızda çalışan açık dil, görüntü, video ve konuşma modelleridir: hesap açmadan, abonelik ödemeden ve verilerinizi buluta göndermeden kullanabilirsiniz. RTX 4090 ekran kartımda yaptığım ölçümleri, “hangi donanımda hangi model çalışır” tablosunu (24 GB’tan yalnızca işlemciye kadar), Ekim 2026’nın en iyi açık model sıralamasını ve her hafta yeni bir modeli çalıştırdığım “Haftanın modeli” serisinin takvimini burada bulabilirsiniz. Son inceleme: RTX 4090’da Gemma 4 31B. Ekim ayının yeni açık video modelleri: Sand.ai’nin MAGI-2 Preview modeli (Apache-2.0, ancak her biri 80 GB olan 8 ekran kartı gerektiriyor) ve Agnes-Video-2.0-MoE (Apache 2.0, yaklaşık 57,5 GB model ağırlığı).
9 Ekim 2026 itibarıyla
- 24 GB ekran kartında baştan sona çalıştırıp ölçtüğüm en güçlü model: Gemma 4 31B QAT - 41-43 tok/s, 19,2 GB; Lehçe testimde 9,5/10 (8.10).
- Kalite ve donanım dengesi en iyi model: Gemma 4 12B - Lehçe yazma testimde 72,3 puan, yaklaşık 8 GB ekran kartı belleği.
- Ticari kullanım için görüntü: Z-Image Turbo, 1344×768 boyutunda bir görüntü 4,2 saniyede.
- Yerel konuşma: XTTS v2 (ticari olmayan kullanım) ve Chatterbox (MIT); ikisi de bulut hizmetleri kadar iyi değil.
- Ağırlıkları yakında yayımlanacak model: StepFun Step 5 - 15 Ekim için duyuruldu (600 milyar parametre; tek ekran kartına sığmaz).
Kısaca
Başlangıç için: metinde Gemma 4 12B, görüntüde Z-Image Turbo, kısa kliplerde Wan 2.2 5B. Gemma 12B, Lehçe yazma testimde 72,3 puan aldı; ücretli Claude Haiku 4.5’i geçti ve 8 GB ekran kartında çalışıyor. 24 GB ekran kartınız varsa daha büyük modeli Gemma 4 31B’yi tercih edin. Z-Image bir görüntüyü 4,2 saniyede üretiyor ve ticari kullanımına izin veriliyor. Wan 2.2 ile 720p çözünürlükte 5 saniyelik video üretmek yaklaşık 4 dakika sürüyor. Düzeltme gerektirmeyen metinlerde bulut modelleri (Claude Opus 5.5, GPT-6 Luna) hâlâ belirgin biçimde daha iyi.
Testlerim ve rehberler
01Gemma 4 12B ve 7 yerel yapay zekâ modeli: Yazma testiRTX 4090 üzerinde 7 yerel modeli, yazma görevlerinde bulut modelleriyle karşılaştırdım. Gemma 4 12B, 72,3 puanla ilk sırada.Oku →
02Wan 2.2 yerel kurulum: RTX 4090’da süre ve VRAM testiWan 2.2 TI2V 5B’yi ComfyUI’de RTX 4090 ile test ettik: üretim süresi, VRAM kullanımı ve dört düzenlenmemiş video örneği.Oku →Hangi donanımda hangi model çalışır?
En önemli unsur ekran kartının belleği (VRAM), Mac’te ise birleşik bellektir. Aşağıda beş yaygın donanım seçeneğini ele aldım. Uyguladığım kural şu: hız değerlerini yalnızca kendi ölçümlerime veya tarihi belirtilmiş kaynaklara dayanarak veriyorum. Kendi ekran kartım RTX 4090 24 GB. Daha küçük kartları simülasyonla inceledim: Ollama’da ekrana karta aktarılan katman sayısını, modelin 8, 12 veya 16 GB kartta boşta kalan belleğe (toplam kapasite eksi sistem için 1 GB) sığacağı şekilde sınırladım; geri kalan hesaplamayı işlemci yaptı. Gerçek 8 veya 12 GB kartların belleği RTX 4090’dan daha yavaş olduğundan bu değerleri üst sınır olarak değerlendirin. Ölçümüm veya kaynağım olmayan yerlerde “ölçmedim” diye belirtiyorum.
RTX 4090 24 GB (ayrıca 3090, 5090) - kendi ölçümlerim
| Model ve lisans | Ekran kartı belleği | Hız |
|---|---|---|
| Metin: Gemma 4 31B QAT, Apache 2.0 | 19,2 GB | 41-43 tok/s |
| Metin: Qwen 3.8 27B (Q4_K_M), Apache 2.0 | 17 GB | 50 tok/s |
| Metin: Bielik 11B v3 (Q8), Apache 2.0 | 16,7 GB | 72 tok/s |
| Metin: GPT-OSS 20B, Apache 2.0 | 12,2 GB | 218 tok/s |
| Görüntü: Z-Image Turbo, Apache 2.0 | 18 GB’a kadar | görüntü başına 4,2 sn |
| Görüntü: Qwen-Image 2.1, yalnızca ticari olmayan kullanım | 16 GB’a kadar | görüntü başına 6,5 sn |
| Video: Wan 2.2 TI2V 5B, Apache 2.0 | yaklaşık 20 GB | 720p, 5 saniye için yaklaşık 4 dk |
| Konuşma: XTTS v2, yalnızca ticari olmayan kullanım | 3,0 GB | 53 saniyelik kayıt için 17,6 sn |
| Konuşma: Chatterbox Multilingual, MIT | 5,3 GB | 33 saniyelik kayıt için 26,4 sn |
Metin: llama.cpp CUDA (26.09) ve Ollama 0.40 (Gemma 31B, 8.10), 8-32 bin token bağlam. Görüntüler: ComfyUI, 1344×768; ilk yükleme süresi hesaba katılmadı. Konuşma: 8.10 tarihli test; ayrıntılar yapay zekâ seslendirme modelleri karşılaştırmasında. Gemma 4 31B kartın neredeyse tamamını kullanıyor; aynı anda görüntü oluşturucu çalıştıramazsınız.
12 GB ekran kartı (RTX 3060, 4070) - simülasyon ve kaynaklar
| Model ve lisans | Bellek | Hız |
|---|---|---|
| Metin: Gemma 4 12B (Q4), Apache 2.0 | yaklaşık 8 GB, tamamı sığıyor | 12 GB kartta ölçmedim; 4090’da: 91-104 tok/s |
| Metin: GPT-OSS 20B, Apache 2.0 | 11,2 GB, ancak sığıyor | simülasyonda 165 tok/s |
| Metin: Bielik 11B v3 (Q8), Apache 2.0 | 45 katmandan 50’si ekranda kartında | simülasyonda 23,6 tok/s |
| Metin: Qwen 3.8 27B, Apache 2.0 | 65 katmandan 44’ü ekran kartında | simülasyonda 6,9 tok/s |
| Referans: Gerçek RTX 3060 12 GB’da Llama 2 7B Q4_0 | yaklaşık 4 GB | 76,9 tok/s (llama.cpp, kaynak aşağıda) |
| Görüntü: Z-Image Turbo, Apache 2.0 | üreticiye göre 16 GB’a sığıyor | 12 GB kartta ölçmedim |
| Konuşma: XTTS v2 / Chatterbox | 3,0 / 5,3 GB, sığıyor | 12 GB kartta ölçmedim |
8 GB ekran kartı (RTX 4060, 3070) - simülasyon ve kaynaklar
| Model ve lisans | Bellek | Hız |
|---|---|---|
| Metin: Gemma 4 E4B, Apache 2.0 | 5,4-6,1 GB, sığıyor | 8 GB kartta ölçmedim; 4090’da: 110-129 tok/s |
| Metin: Gemma 4 12B (Q4), Apache 2.0 | 48 katmandan 45’i ekran kartında | simülasyonda 48 tok/s |
| Metin: GPT-OSS 20B, Apache 2.0 | 24 katmandan 14’ü ekran kartında | simülasyonda 29 tok/s |
| Metin: Bielik 11B v3 (Q8), Apache 2.0 | 50 katmandan 28’i ekran kartında | simülasyonda 8 tok/s |
| Referans: Gerçek RTX 4060 Ti 8 GB’da Llama 2 7B Q4_0 | yaklaşık 4 GB | 64,0 tok/s (llama.cpp, kaynak aşağıda) |
| Görüntü: Z-Image Turbo, Qwen-Image | testimde 16-18 GB | 8 GB kartta ölçmedim |
| Konuşma: XTTS v2 (3,0 GB), Piper (ekran kartı olmadan) | sığıyor | XTTS’yi 8 GB kartta ölçmedim |
8 GB kartta tamamen sığan bir model seçin. Q8 sürümündeki Bielik 11B, ekran kartı ve işlemci arasında paylaştırıldığında simülasyonda 8 tok/s’ye düştü; belleğin tamamı ekran kartındayken 70 tok/s’ye ulaşıyordu.
M serisi işlemcili Mac (16, 32, 64 GB) - kaynaklar, kendi ölçümüm yok
Test için Mac kullanmıyorum. Mac’te bellek sistem ve grafik birimi arasında ortaktır; bu nedenle belleğin bir kısmı her zaman macOS ve programlara ayrılır. Aşağıda kendi testlerimdeki dosya boyutlarını, yani yalnızca model için gereken asgari belleği, aynı küçük model (Llama 2 7B Q4_0) için llama.cpp’nin herkese açık tablosundaki hızlarla birlikte görebilirsiniz.
| Mac | Sığabilecek modeller (dosya boyutu) | Hız |
|---|---|---|
| 16 GB | Gemma 4 12B Q4 (7,0 GB), Gemma 4 E4B (5-8 GB), Bielik 11B Q4 | Gemma için ölçümüm yok; M4’te Llama 2 7B (120 GB/s): 24,1 tok/s |
| 32 GB | Ek olarak GPT-OSS 20B (12,1 GB), Qwen 3.8 27B Q4 (16,5 GB), Gemma 4 31B QAT (17,65 GB) | ölçümüm yok; M4 Pro’da Llama 2 7B (273 GB/s): 50,7 tok/s |
| 64 GB | Aynı modeller, daha uzun bağlamla; daha büyük modelleri denemedim | ölçümüm yok; M4 Max’te Llama 2 7B (546 GB/s): 83,1 tok/s |
| Görüntü ve konuşma | ComfyUI Mac’te çalışıyor | ölçmedim |
Yalnızca işlemci, ekran kartı olmadan
| Kullanım | Bildiğim | Hız |
|---|---|---|
| Metin | RAM’in en azından model dosyası kadar büyük olması gerekir (Gemma 4 E4B 5-8 GB, Gemma 4 12B Q4 7 GB); bağlam için de ek bellek gerekir | yalnızca işlemcide ölçmedim |
| Metin, bir kısmı işlemcide | Qwen 3.8 27B’nin 66 katmanından 18’i işlemcide | 46 yerine 8,4 tok/s (Ollama rehberimdeki ölçümüm) |
| Konuşma | Piper, gosia sesi - ekran kartı olmadan çalışıyor | 36 saniyelik kayıt için 5,8 sn (i9-14900KF) |
| Görüntü ve video | Teknik olarak mümkün | ölçmedim; pratikte çok yavaş |
Aynı model farklı donanımlarda
Donanımları adil biçimde karşılaştırmak için tek bir tablo kullandım: llama.cpp’de aynı Llama 2 7B modelinin Q4_0 nicemlemesiyle elde edilen sonuçlar (128 token üretimi). Nvidia kartı verileri flash attention kullanılan #15013 numaralı tartışmadan, Mac verileri #4167 numaralı tartışmadan alındı. Hız, ekran kartının fiyatıyla değil bellek bant genişliğiyle artıyor.
Ölçümlerimde görülen bir başka nokta da şu: Ekran kartına sığmayan bir model yalnızca yüzde birkaç yavaşlamıyor, yaklaşık bir büyüklük mertebesi yavaşlıyor. Daha küçük kart simülasyonlarında aynı Qwen 3.8 27B modeli:
Bellek hesaplamalarını (ağırlıklar, nicemleme, bağlam belleği) model için ne kadar VRAM gerektiğini anlattığım yazıda, bilgisayar önerilerini ise yerel yapay zekâ için bilgisayar rehberinde açıkladım.
10 dakikada nasıl başlanır?
10 dakika, yalnızca kurulum ve ilk çalıştırma için gereken süre. Modelin indirilmesi internet bağlantınıza bağlı: Gemma 4 31B (18 GB) bilgisayarımda 40 dakika sürdü; küçük Gemma 4 12B (7 GB) ise hızlı internetle birkaç dakikada indi.
Ollama - terminalden metin üretimi
- ollama.com adresinden yükleyiciyi indirip kurun (Windows, macOS, Linux).
- PowerShell veya Terminal’i açıp
ollama run gemma4:12byazın. Model indirilir ve sohbet hemen açılır. - Her şeyin ekran kartında çalışıp çalışmadığını
ollama psyazarak kontrol edin. PROCESSOR sütununda “100% GPU” görünmeli. --verbosebayrağını ekleyerek hızı görebilirsiniz (“eval rate” satırı).
Sorunlara yönelik ayrıntılı rehber: RTX 4090’da Ollama.
LM Studio - pencereli arayüzde metin üretimi
- lmstudio.ai adresinden LM Studio’yu indirip kurun. Hesap gerekmez.
- Arama sekmesine örneğin “gemma 4 12b” yazın ve Q4 sürümünü seçin. Program, ekran kartınıza sığacak modelleri önerir.
- “Load” düğmesine tıklayıp sohbette yazmaya başlayın. Her şey bilgisayarınızda kalır.
Ayrıntılar: adım adım LM Studio rehberi; araçlarla bağlantı için: LM Studio ve MCP.
ComfyUI - görüntü ve video üretimi
- instaluj-comfyui.ps1 betiğimi çalıştırın. Betik, ekran kartınıza uygun PyTorch sürümüyle ComfyUI’yi kurup Z-Image Turbo’yu indirir.
- ComfyUI’nin gösterdiği adresi tarayıcıda açın (varsayılan: 127.0.0.1:8188).
- Z-Image Turbo şablonunu seçin, isteminizi yazın ve “Run” düğmesine tıklayın. Model diskten yüklendiği için ilk görüntünün üretilmesi daha uzun sürer.
Kurulum ve gereksinimler: Windows’ta ComfyUI.
En iyi açık modeller - Ekim 2026
Sıralama iki kaynağı bir araya getiriyor: bağımsız Artificial Analysis (AA) tabloları ve Lehçe testlerim. AA ağırlıklı olarak İngilizce ölçüm yapıyor; bu nedenle Lehçe için kendi sonuçlarım daha önemli.
Metin
| Model | Sonuç | Tek bir 24 GB ekran kartında çalışır mı? |
|---|---|---|
| MiMo-V2.6-Pro (Xiaomi), 1 trilyon parametre | AA’da 46 puan | hayır |
| GLM-5.3 Max (Z AI), 753 milyar | AA’da 45 puan | hayır |
| Kimi K3 Max (Moonshot), 2,8 trilyon | AA’da 44 puan | hayır |
| GLM-5.3 Flash (Z AI), 320 milyar | AA’da 42 puan | hayır |
| DeepSeek V4.1 Flash, 552 milyar | AA’da 39 puan | hayır |
| Qwen 3.8 27B (Alibaba) | AA’da 34 puan; Lehçe testimde 72,2 puan | evet, 17 GB |
| Gemma 4 31B (Google) | AA tablosunda yok; Lehçe testimde 9,5/10 | evet, 19,2 GB |
| Gemma 4 12B (Google) | AA tablosunda yok; Lehçe testimde 72,3 puan | evet, 8 GB |
AA: Intelligence Index v4.3.2, açık ağırlıklı modeller tablosu; 9.10.2026’da kontrol edildi. İlk sıralardaki modeller sunucular için tasarlanmış; ilk altı model arasından oyunculara yönelik tek bir ekran kartında yalnızca Qwen 3.8 27B çalıştırılabiliyor. Sıradan bir bilgisayarda Lehçe yazmada en iyi sonuçları Gemma 4 (31B ve 12B) verdi.
Görüntü
| Model | Sonuç | Lisans |
|---|---|---|
| Qwen-Image-2.1 (Alibaba) | AA’da 1034 Elo; testimde görüntü başına 6,5 sn | yalnızca ticari olmayan kullanım |
| Ideogram 4.0 (Quality) | AA’da 1011 Elo | ticari olmayan kullanım |
| FLUX.2 [dev] (Black Forest Labs) | AA’da 1000 Elo | ticari olmayan kullanım |
| Qwen-Image-2512 (Alibaba) | AA’da 999 Elo | Apache 2.0 |
| Z-Image Turbo (Tongyi-MAI) | AA’da 941 Elo; testimde görüntü başına 4,2 sn | Apache 2.0 |
AA tablosunun 2.10.2026 tarihindeki durumu. Lisans bilgileriyle birlikte 19 modelin tamamını en iyi açık görüntü modelleri sıralamasında görebilirsiniz.
Konuşma
| Model | Sonuç | Lisans |
|---|---|---|
| XTTS v2 (seslendirme) | Lehçe testimde telaffuzdan 10/15 puan | ticari olmayan kullanım |
| Piper, gosia sesi (seslendirme) | Lehçe testimde 6/15 | motor GPL-3.0, ses lisansı model kartında |
| Chatterbox Multilingual (seslendirme) | Lehçe testimde 4/15; rakamları okumuyor | MIT |
| Whisper large-v3 (konuşmayı metne dönüştürme) | AA’da sağlayıcıya göre yüzde 4,1-10,1 kelime hatası | MIT |
| Voxtral Small 24B (konuşmayı metne dönüştürme) | AA’da yüzde 2,8 kelime hatası; en iyi açık model | Apache 2.0, ancak Lehçe desteklemiyor |
Seslendirme modellerini 8.10.2026’da aynı Lehçe metinle test ettim (buluttaki en iyi model Eleven v4, 15/15 aldı). AA’nın konuşmayı metne dönüştürme tablosu (9.10.2026’da kontrol edildi), İngilizce kayıtlarındaki hataları ölçüyor. Voxtral Small model kartına göre Lehçe desteklemiyor ve yaklaşık 55 GB ekran kartı belleği gerektiriyor; bu nedenle ev bilgisayarında Lehçe kayıtlar için geriye Whisper kalıyor.
“Haftanın modeli” serisi - incelemeler ve takvim
Her hafta açık bir model seçip RTX 4090’da çalıştırıyorum ve aynı değerleri ölçüyorum: indirme, yükleme, tok/s, 8 ve 32 bin token bağlamda ekran kartı belleği, lisans ve Lehçe beş aynı görevden aldığı puan (0-10). Böylece incelemeleri birbiriyle karşılaştırabilirsiniz. Tüm incelemelere Haftanın modeli etiketinden de ulaşabilirsiniz.
| İnceleme | Model | Durum |
|---|---|---|
| 1 (8.10) | Gemma 4 31B QAT | yayımlandı: 42 tok/s, 19,2 GB, 9,5/10 |
| 2 | Gemma 4 26B A4B (MoE) | sırada: 4 milyar etkin parametre, yoğun 31B modelden belirgin biçimde daha yüksek tok/s sağlar mı? |
| 3 | Z-Image Turbo / FLUX.2 [klein] 9B | sırada: görüntü incelemesi, görüntü başına saniye |
| 4 | Mistral Small 4 (119 milyar, MoE) | koşullu: 24 GB’a sığmıyor; RAM kullanıldığında kaç tok/s kaldığını kontrol edeceğim |
| 5 | Düşünme özellikli Qwen 3.8 27B | sırada: düşünme ve düşünmeme karşılaştırması |
Daha önemli bir model yayımlanırsa sıra değişebilir; SpeakLeash’in yeni Bielik modeli öncelik alacak.
Duyurulan açık ağırlık sürümleri
- 15 Ekim 2026 - StepFun Step 5. Üretici, 20.09’dan beri API üzerinden kullanılabilen modelin ağırlıklarını açık olarak yayımlayacağını duyurdu. Model 600 milyar parametreye (27 milyar etkin parametre) sahip; oyunculara yönelik tek bir ekran kartına sığmaz. Lisans henüz açıklanmadı.
- Hy Image 3.5 (Tencent) - şimdilik yalnızca API üzerinden önizleme sunuluyor; ağırlıklar yayımlanmadı (8.10 itibarıyla). API sürümüyle yaptığım test: HY Image 3.5 Preview.
- Ling 3.1 Flash - açık ağırlıkları yok (8.10 itibarıyla).
Modelleri çalıştırma programları
- LM Studio - model araması içeren pencereli program. Metin modellerini kullanmaya başlamanın en kolay yolu.
- Ollama - terminalden metin modelleri ve basit bir API sunucusu. Otomasyonlarda yaygın kullanılıyor.
- llama.cpp - yukarıdaki iki programın temelindeki motor. Tam denetim ve tarayıcıda sohbet olanağı sunuyor. Nvidia ekran kartında CUDA sürümünü kullanın; Vulkan bende 1,9-2,6 kat daha yavaştı.
- ComfyUI - görüntü ve video üretimi. Düğümlerle oluşturulan arayüz, yeni modeller için şablonlar ve betikle kontrol olanağı sunuyor.
İndirilebilir hazır betikler
Her rehber için hazırladığım betikleri 26.09.2026’da RTX 4090 ekran kartlı Windows 11 bilgisayarda test ettim. Açıklama satırlarıyla birlikte tüm kodlar ilgili yazılarda yer alıyor. Lisans MIT. Beş betiğin tamamını tek ZIP dosyası olarak (15 KB) da indirebilirsiniz.
- instaluj-llama-cpp.ps1 (5 KB) - CUDA veya Vulkan sürümüyle llama.cpp, Gemma 4 12B ve başlatma dosyası. Açıklama.
- instaluj-comfyui.ps1 (6 KB) - ekran kartınıza uygun PyTorch ile ComfyUI; Z-Image Turbo ve Wan 2.2 modelleri. Açıklama.
- generuj-obrazy.py (6 KB) - istem listesinden görüntü dizileri oluşturur ve süre günlüğü tutar. Açıklama.
- generuj-wideo.py (6 KB) - Wan 2.2 ile doğrudan MP4 klibi oluşturur. Açıklama.
- zmierz-model.py (6 KB) - modelinizin hızını, ekran kartı belleği kullanımını ve elektrik maliyetini ölçer. Açıklama.
Yerel yapay zekâ kullanmaya değer mi?
Gemma 4 12B ile 13 görev için elektrik maliyeti 0,4 grosz, aynı görevlerin GPT-6 Luna API üzerinden maliyeti ise 1,6 grosz oldu. Z-Image ile bir görüntü üretmek 0,04 grosz elektrik harcıyor. Ancak ekran kartı satın almanın maliyeti ancak yüzlerce saatlik kullanımdan sonra çıkar; en ucuz API’ler daha iyi yazıyor. Yerel yapay zekânın en büyük avantajı gizlilik: hiçbir veri bilgisayarınızdan çıkmıyor. Ayrıntılı hesaplama yerel model mi, API mi? yazısında.
Yerel modeller hakkında daha fazlası
Sık sorulan sorular
Lehçe için en iyi yerel yapay zekâ modeli hangisi?
24 GB ekran kartı için Gemma 4 31B (beş görevlik testimde 9,5/10, 42 tok/s). Daha küçük kartlar için, 26.09.2026 tarihli kapsamlı Lehçe yazma testimi 72,3 puanla kazanan Gemma 4 12B; Qwen 3.8 27B ise hemen arkasından 72,2 puan aldı. Bielik 11B v3, en doğru Lehçeyi kullanıyor ve Polonya’nın yerel koşullarını en iyi biliyor; ancak talimatları uygulamada daha zayıf.
8 GB ekran kartında hangi yapay zekâ modeli çalışır?
Gemma 4 E4B tamamen sığıyor (5,4-6,1 GB). Gemma 4 12B’nin Q4 sürümü ise neredeyse sığıyor: 8 GB’lık simülasyonumda 48 katmanın 45’i ekran kartında kaldı ve 48 tok/s elde edildi. Ekran kartı ve işlemci arasında paylaştırılan daha büyük modeller saniyede birkaç tokene düşüyor.
Yerel yapay zekâ Mac’te çalışır mı?
Evet. Ollama, LM Studio ve ComfyUI’nin macOS sürümleri var. Mac’te ölçüm yapmadım; llama.cpp tablosuna göre küçük 7B model M4’te yaklaşık 24 tok/s, M4 Pro’da yaklaşık 51 tok/s, M4 Max’te ise yaklaşık 83 tok/s üretiyor. 32 GB belleğe sahip Mac’te, testlerimde 17-19 GB yer kaplayan Qwen 3.8 27B veya Gemma 4 31B gibi modeller sığabilir.
Yerel yapay zekâyı ekran kartı olmadan çalıştırabilir miyim?
Küçük metin modelleri ve Piper seslendirme modeli yalnızca işlemciyle çalışıyor. Yalnızca işlemcide metin üretimini ölçmedim; Qwen’in 66 katmanından yalnızca 18’i işlemcide çalıştığında hız 46’dan 8,4 tok/s’ye düştü. Ekran kartı olmadan görüntü ve video üretimi pratikte çok yavaş.
Yerel yapay zekâ internet bağlantısı olmadan çalışır mı?
Evet. Modeli indirdikten sonra LM Studio, Ollama, llama.cpp ve ComfyUI tamamen çevrimdışı çalışır; istemleriniz ve dosyalarınız bilgisayarınızdan çıkmaz.
“Haftanın modeli” serisi nedir?
Her hafta yeni bir açık modeli RTX 4090’da çalıştırıp aynı yöntemle hızını, bellek kullanımını, yükleme süresini, lisansını ve Lehçe beş görevdeki performansını ölçüyorum. İlk inceleme Gemma 4 31B; sonraki incelemeler yukarıdaki takvimde.
StepFun Step 5 ev bilgisayarında çalışır mı?
Tek bir oyuncu ekran kartında çalışmaz. Model 600 milyar parametreye sahip ve ağırlıklarının 15 Ekim 2026’da yayımlanacağı duyuruldu. Çok güçlü sıkıştırma uygulansa bile yüzlerce gigabayt bellek gerektirir. Ayrıntılar için StepFun Step 5 rehberine bakın.
Kaynaklar ve kontrol tarihi
- RTX 4090 24 GB’da yaptığım ölçümler (Windows 11, i9-14900KF, 64 GB RAM): metin modelleri 26.09.2026 (llama.cpp b11194 CUDA), 8/12/16 GB kart simülasyonları 3.10.2026 (Ollama 0.35.1), Gemma 4 31B 8.10.2026 (Ollama 0.40.1), görüntü ve video 26.09.2026 (ComfyUI 0.37), seslendirme modelleri 8.10.2026.
- Artificial Analysis - açık ağırlıklı modeller (Intelligence Index v4.3.2), 9.10.2026’da kontrol edildi.
- Artificial Analysis - konuşmayı metne dönüştürme, 9.10.2026’da kontrol edildi; görüntü tablosu 2.10.2026 tarihindeki durumu yansıtıyor.
- Nvidia ekran kartlarında llama.cpp, #15013 numaralı tartışma ve Apple Silicon’da llama.cpp, #4167 numaralı tartışma (Llama 2 7B Q4_0), 9.10.2026’da kontrol edildi.
- Z-Image Turbo model kartı (16 GB, Apache 2.0) ve Voxtral Small 24B (diller, 55 GB), 9.10.2026’da kontrol edildi.
- Step 5 Preview duyurusu (20.09.2026) - parametreler ve ağırlıkların yayımlanma tarihi.
9 Ekim 2026’da kontrol edildi.
Parıldak'taki benzer konular
