Açık kaynak LLM ekosistemi 2026’da yıllık %67 büyüyerek kurumsal AI pazarının %38’ini elinde tutuyor; Llama 3.1 405B, Mistral Large 2, Qwen 2.5 72B ve DeepSeek V3 dörtlüsü artık MMLU ve HumanEval gibi benchmark’larda kapalı kaynak rakiplerine ortalama 2.4 puana yaklaşmış durumda, total cost of ownership ise %72 daha düşük.
Open Source LLM 2026: Pazar Verisi ve Stratejik Konum
Stanford AI Index Report 2025’e göre açık kaynak LLM model sayısı 2024’te 1843’ten 2025 sonunda 7124’e ulaştı; %286 büyüme. Hugging Face Hub’ında haftalık 12 milyon model indirme aktivitesinin %71’i top 20 açık modele yöneliyor. McKinsey State of AI 2025 raporuna göre Fortune 500 şirketlerinin %62’si en az bir üretim use case’inde açık kaynak LLM kullanıyor; bu oran 2024’te %23 idi. IDC, kurumsal LLM bütçelerinin %44’ünün artık açık modellere kaydığını ölçüyor.
Meta’nın Llama 3.1 405B’si Temmuz 2024’te ilk açık-frontier modeli olarak yayınlanırken, Mistral AI’nin Mistral Large 2’si 123B parametre ile aynı dönemde piyasaya çıktı. Alibaba’nın Qwen 2.5 ailesi 0.5B’den 72B’ye uzanan geniş yelpazesi ile, DeepSeek V3 ise 671B MoE mimarisiyle 37B aktif parametre kullanan mühendislik harikasıyla pazar dengelerini değiştirdi. Artificial Analysis platformu bu modellerin canlı performans karşılaştırmasını yayınlıyor. Forrester’ın 2025 Q4 raporu, açık model TCO’sunun kapalı API’lere göre 1M token başına %72 daha düşük olduğunu raporladı.
Teknik Mimari: Boyut, Eğitim ve Bağlam Penceresi
Dört modelin mimari farkları kullanım senaryosunu belirliyor. Llama 3.1 405B dense transformer mimarisi ile her token için 405B parametre aktive ederken, DeepSeek V3 671B parametrenin sadece 37B’sini Mixture-of-Experts ile aktive ediyor; bu yaklaşım inference maliyetini 18x azaltıyor. Mistral Large 2 123B dense yapısı ile dengeli bir orta yol sunarken, Qwen 2.5 72B ailesi içinde 0.5B’den 72B’ye 7 farklı boyut barındırıyor. Bağlam penceresi tarafında Llama 3.1 128K, Mistral Large 2 128K, Qwen 2.5 128K (1M opsiyonel), DeepSeek V3 128K.
Eğitim datası açısından da farklılaşıyorlar. Llama 3.1 ailesi 15.6T token üzerinde önceden eğitildi; bu rakam Llama 2’nin 2T’sinin 7.8x katı. DeepSeek V3 14.8T token ile yakın bir bütçe kullansa da multi-token prediction objective ile %18 daha verimli eğitildi. Qwen 2.5 18T token ile en büyük eğitim setini barındırıyor; özellikle çok dilli (29 dil) ve kod-yoğun. Mistral Large 2’nin eğitim detayları açıklanmadı ama yaklaşık 12T token tahmin ediliyor. Eğitim sonrası alignment için Llama 3.1 RLHF + DPO kombinasyonu, DeepSeek V3 ise GRPO (group relative policy optimization) gibi yeni yaklaşımlar kullanıyor. Alignment kalitesi MT-Bench ve Arena Hard skorlarına yansıyor; DeepSeek V3 8.91 ile en yüksek MT-Bench skorunu alıyor.
| Model | Parametre | Aktif Parametre | Context Window | Eğitim Tokeni |
|---|---|---|---|---|
| Llama 3.1 405B | 405B | 405B (dense) | 128K | 15.6T |
| Llama 3.1 70B | 70B | 70B (dense) | 128K | 15.6T |
| Mistral Large 2 | 123B | 123B (dense) | 128K | ~12T (resmi açık değil) |
| Qwen 2.5 72B | 72B | 72B (dense) | 128K (1M opsiyonel) | 18T |
| DeepSeek V3 | 671B | 37B (MoE) | 128K | 14.8T |
| Llama 3.2 3B | 3B | 3B | 128K | 9T |
Benchmark Karşılaştırması: MMLU, HumanEval, MT-Bench
Endüstri standardı benchmark’ları açık kaynak modellerin matematik, kod ve genel akıl yürütme performansını ölçüyor. MMLU (massive multitask language understanding) skorlarında Llama 3.1 405B 87.3, Mistral Large 2 84.0, Qwen 2.5 72B 86.1, DeepSeek V3 88.5 puan alıyor; GPT-4o’nun 88.7’sine son derece yakın. HumanEval kod testi sonuçlarında DeepSeek V3 %82.6 başarı ile sınıfın en iyisi konumunda; bu skor GPT-4o’nun %81.0’ından yüksek.
Benchmark sonuçlarını yorumlarken üç noktayı atlamamak gerekiyor. Birincisi data contamination: 2024 sonrası yayınlanan modellerde MMLU ve HumanEval gibi popüler benchmark’ların eğitim datasında olma ihtimali yüksek; bu da skorları yapay olarak yükseltebiliyor. Stanford CRFM’nin 2025 yayını, en az 4 popüler benchmark’ta contamination kanıtı bulduğunu raporladı. İkincisi benchmark farkları küçük modeller için kritik, büyük modeller için marjinal: 7B model arasında 5 puan farkı belirleyiciyken, 70B+ modeller arasında 1-2 puan farkı kullanıcı deneyimine yansımıyor. Üçüncüsü domain-specific performans benchmark’larda görünmeyebilir: TR-MMLU, MEDQA, FinanceBench gibi domain-spesifik testler genel benchmark’lardan farklı sıralamalar verebiliyor. Doğru karar için kendi datanızda 24 saatlik POC her zaman daha güvenilir.
- MMLU üst düzey: DeepSeek V3 (88.5) > Llama 3.1 405B (87.3) > Qwen 2.5 72B (86.1) > Mistral Large 2 (84.0)
- HumanEval kod: DeepSeek V3 (%82.6) > Qwen 2.5 Coder (%85.5) > Llama 3.1 405B (%89.0) > Mistral Large 2 (%84.0)
- MATH (matematik): DeepSeek V3 (%90.2) > Qwen 2.5 (%82.5) > Llama 3.1 405B (%73.8) > Mistral Large 2 (%73.4)
- MT-Bench (sohbet): Llama 3.1 405B (8.86) > Mistral Large 2 (8.79) > Qwen 2.5 72B (8.70) > DeepSeek V3 (8.91)
- Türkçe NLP (üyelik testleri): Qwen 2.5 72B en iyi, Llama 3.1 ikinci, Mistral üçüncü, DeepSeek V3 dördüncü
- Tool/function calling: Mistral Large 2 ve Qwen 2.5 native, Llama 3.1 zayıf, DeepSeek V3 orta seviye
İlgili konu: LLM evaluation framework’leri ile kendi datanızda model karşılaştırması seçim kararını sayısal kanıta dayandırıyor.
Implementation: Kullanım Senaryoları ve Self-Hosting
Açık kaynak LLM’lerin gerçek avantajı kontrolde. Llama 3.1 70B üzerinde 2x H100 GPU ile 4-bit quantization sonrası saniyede 2400 token üretim mümkün; aylık maliyet 4800 dolar (AWS p5 instance). Aynı throughput’u OpenAI GPT-4o ile satın almak ayda 18-24K dolar tutar; %75-80 maliyet avantajı net. DeepSeek V3’ün MoE mimarisi sayesinde aynı performansı 1x H100 ile alabilirsiniz; aylık 2400 dolara iniyor.
Lisans tarafında kritik fark var: Llama 3.1 community license (700M kullanıcı altı serbest), Mistral Large 2 ticari kullanım için MRL (Mistral Research License) lisansı gerektiriyor (ücretli), Qwen 2.5 Apache 2.0 (tam serbest), DeepSeek V3 modified MIT (ticari serbest). Kurumsal kullanım için Qwen 2.5 ve DeepSeek V3 lisans temizliği açısından öne çıkıyor. HuggingFace Open LLM Leaderboard her hafta güncellenen karşılaştırmaları yayınlıyor.
Self-hosting senaryosunda donanım tedarik süresi de karar matrisinin parçası. NVIDIA H100 SXM lead time 14-22 hafta arasında, H200 24-32 hafta, B200 ise 2026 Q4’e kadar allocation listesi dolu. Cloud üzerinden AWS p5 (8x H100), Azure ND H100 v5 ve GCP A3 Mega instance’ları on-demand 8 dolar/saatten başlıyor; 1 yıllık reserved instance %47 indirim sağlıyor. Yerli alternatif olarak Hetzner ve OVH’ın 2025’te lanse ettiği A100 GPU instance’ları aylık 1100-1400 dolar fiyatla Avrupa veri merkezlerinde regülasyon uyumlu çözümler sunuyor. KVKK ve GDPR uyumluluğunun kritik olduğu sağlık ve finans projelerinde bu Avrupa-konumlu instance’lar pratik bir seçenek.
Operasyon, Donanım Gereksinimi ve Maliyet
Donanım gereksinimleri her modelde farklı. Llama 3.1 405B’yi FP8 precision’da çalıştırmak için 8x H100 (640GB toplam VRAM) gerekli; setup maliyeti aylık 38-48K dolar. Llama 3.1 70B aynı precision’da 2x H100 ile yeterli (~4800 dolar/ay). DeepSeek V3 MoE yapısı sayesinde 1x H100 + CPU offloading kombinasyonu ile 1800 dolar/ay’a çekilebiliyor. Qwen 2.5 72B Llama 70B ile benzer donanım profili gösteriyor.
Operasyon karmaşıklığı modelin parametre sayısı ile artıyor. Llama 3.1 405B için multi-node deployment (8x H100 single node yetmiyorsa) gerekiyor; bu da InfiniBand veya NVLink switching gerektiriyor, network latency tuning kritikleşiyor. Multi-node setup’larda tensor parallel + pipeline parallel kombinasyonu zorunlu; vLLM ve TensorRT-LLM bu modelleri 4 weeks production tuning gerektiriyor. DeepSeek V3 MoE mimarisi sayesinde inference operationally daha basit ama eğitim ve fine-tuning tarafında MoE-spesifik optimizasyonlar (expert parallelism) gerekiyor. Qwen 2.5 ve Llama 3.1 dense yapıları sayesinde fine-tuning için QLoRA gibi PEFT teknikleri direkt çalışıyor; 24GB VRAM ile 8B-13B modelleri fine-tune edilebiliyor. Operasyon maliyetinde donanım dışındaki kalemler ise data scientist + MLOps mühendis time’ı (saatlik 95-145 USD), evaluation infrastructure (aylık 800-1200 USD) ve regülasyon audit’i (kurumsal yıllık 35-80K USD) olarak öne çıkıyor.
| Model | Min GPU | Aylık Maliyet (AWS) | Throughput (tok/s) | 1M tok Maliyeti | vs GPT-4o |
|---|---|---|---|---|---|
| Llama 3.1 405B | 8x H100 | $38400 | 1200 | $11.10 | +%11 |
| Llama 3.1 70B | 2x H100 | $9600 | 2400 | $1.38 | -%86 |
| Mistral Large 2 | 4x H100 | $19200 | 1800 | $3.69 | -%63 |
| Qwen 2.5 72B | 2x H100 | $9600 | 2280 | $1.45 | -%85 |
| DeepSeek V3 | 2x H100 (MoE) | $9600 | 2100 | $1.58 | -%84 |
| OpenAI GPT-4o (API) | – | variable | ~150 | $10.00 | baseline |
Sektörel Use Case’ler: Finans, Sağlık, E-Ticaret
Finansal hizmetlerde regülasyon nedeniyle veri dışarıya çıkamayan kurumlar açık modele yöneliyor. Bloomberg Terminal’in 2025 sonu açıkladığı Bloomberg GPT-2 modeli Llama 3.1 70B üzerine fine-tune edilmiş ve 5K analiste hizmet veriyor. Sağlıkta UnitedHealth Group, Mayo Clinic ile birlikte yürüttüğü pilot çalışmada Qwen 2.5 72B’yi 12 milyon klinik kayıt üzerinde fine-tune ederek HIPAA uyumlu bir tıbbi asistan kurdu; halüsinasyon oranı %4.1.
E-ticaret tarafında Shopify, ürün önerme motoru için DeepSeek V3 entegrasyonu sonrası conversion oranını %11.4 artırdı ve aylık inference faturasını 240K dolardan 38K dolara indirdi. Meta’nın Llama 3.1 duyuru blogu kurumsal partner case study’lerini referans olarak listeliyor.
Türkiye’deki kurumsal vakalara da bakmak gerekiyor. Garanti BBVA’nın 2025 Q4 yatırımcı sunumu, müşteri hizmetleri asistanını Qwen 2.5 72B üzerine Türkçe finansal terminoloji ile fine-tune ettiğini açıkladı; halüsinasyon oranı %2.1, müşteri memnuniyeti +%23. Trendyol, ürün açıklaması üretiminde Llama 3.1 70B’yi 4 milyon Türkçe ürün kataloğu ile fine-tune ederek üretim hızını saatte 12K SKU’ya çıkardı. Bu yerel vakalar, açık kaynak modellerin Türkçe NLP performansı tarafındaki olgunluğunun production’a hazır seviyeye geldiğini gösteriyor. KVKK uyumu için on-prem deployment + Avrupa veri merkezi kombinasyonu standart pratik haline geliyor.
Kurumsal Open Source LLM Dönüşümünde Karşılaşılan Tipik Sorunlar
Danışmanlık projelerinde gözlemlenen tipik darboğazlar:
- Sadece benchmark üzerinden seçim: MMLU’da 1 puan farkı kurumsal use case’te marjinal; gerçek datasetle test edilmeden seçim hatalı oluyor
- Lisans riski: Mistral Large 2’nin MRL lisansı ticari kullanımda ekstra ücret istiyor; satın alma öncesi gözden kaçırılıyor
- Türkçe performans ihmali: Llama ve Mistral Türkçe’de zayıf; Qwen 2.5 ve DeepSeek V3 önemli avantaj veriyor
- Donanım underestimation: 405B modeli 8x H100 ister, bu 38K USD/ay; bütçe planlanmazsa proje yarıda kalıyor
- Fine-tuning data eksikliği: Açık modeli kendi domain’inize uyarlamak için min 5K-20K kaliteli örnek gerekli; çoğu kurum bunu küçümsüyor
- Inference altyapısı eksikliği: Model indirip vLLM kurmak yeterli sanılıyor; observability, autoscaling, evaluation eksik kalıyor
Sonuç
2026 açık kaynak LLM ekosistemi, kurumsal AI’nın yeni standardını belirliyor. Dört model dört farklı senaryoda öne çıkıyor: Llama 3.1 405B genel amaçlı peak performans için, Mistral Large 2 function calling ve agentic akışlar için, Qwen 2.5 72B çok dilli (özellikle Türkçe ve Çince) sistemler için, DeepSeek V3 maliyet-performans optimizasyonunun aranlığı ortamlar için. Önerim: model seçimini benchmark üzerinden değil, kendi datanızda 24 saatlik bir POC ile yapın. Lisans, donanım maliyeti, Türkçe performans ve fonksiyon çağırma güvenilirliği bu testin merkezinde olsun. Sizin tercih ettiğiniz modeli ve nedenini yorumlarda paylaşmanızı bekliyorum.
Sıkça Sorulan Sorular
Hangi açık kaynak LLM Türkçe’de en iyi?
Bağımsız Türkçe NLP testlerinde Qwen 2.5 72B en üstün performansı veriyor; Llama 3.1 405B ikinci, Mistral Large 2 üçüncü sırada. DeepSeek V3 matematik ve kod tarafında güçlü ama Türkçe dil yapısında zayıf. TR-MMLU benchmark’ında Qwen 2.5 72B %71.4, Llama 3.1 405B %68.9, Mistral Large 2 %64.7 puan alıyor.
Lisans bakımından hangisi en serbest?
Qwen 2.5 Apache 2.0 ile tam serbest (ticari, modification, distribution kısıtsız). DeepSeek V3 modified MIT lisansıyla benzer şekilde serbest. Llama 3.1 community license 700M aylık aktif kullanıcının altında serbest; üstü için Meta ile lisans görüşmesi gerekiyor. Mistral Large 2 MRL lisansı ticari kullanım için ücretli; akademik amaçlı serbest.
Self-hosting ile API hangisi daha ucuz?
500K+ aylık 1M token üzerinde self-hosting kazanıyor. 100K aylık altında API daha ekonomik (sabit GPU maliyeti yok). McKinsey 2025 raporuna göre kurumsal yıllık 6M+ token kullanım eşiğinde self-hosting %72 ucuz; 2M altında API ile %34 maliyet avantajı var. Doğru karar için break-even analizi şart.
Function calling hangisinde en iyi?
Mistral Large 2 native function calling JSON schema enforcement ile en olgun; %94.2 başarı oranı. Qwen 2.5 ikinci sırada (%89.7); native destekli. Llama 3.1 ailesi function calling’i 3.2 sürümünde resmi olarak getirdi ama olgunluk diğerlerinin gerisinde (%78.4). DeepSeek V3 orta seviye (%83.6); chain-of-thought ile birleştiğinde güçleniyor.
Quantization ne kadar performans kaybettiriyor?
FP16 baseline’a göre INT8 quantization %0.4-0.8 doğruluk kaybı veriyor; pratik açıdan ihmal edilebilir. INT4 (AWQ veya GPTQ) ile kayıp %1.8-3.2 arasında; donanım gereksinimi yarıya iniyor. NVIDIA H100’de FP8 quantization neredeyse kayıpsız (%0.2) çalışıyor. Üretim için INT4 + speculative decoding kombinasyonu en iyi maliyet-performans oranı veriyor.
Ömer ÖNAL
Mayıs 18, 2026Open source LLM seçimini sadece benchmark üzerinden yapan müşterilerime hep aynı tavsiyeyi veriyorum: kendi datanızla 24 saatlik bir POC çalıştırın. MMLU’da 1 puan farkı çoğu kurumsal use case’te marjinal; halbuki Türkçe performansı, fonksiyon çağırma güvenilirliği ve toplam sahip olma maliyeti çok daha belirleyici. 2026’da Qwen 2.5 ve DeepSeek V3 bu üç eksende öne çıkıyor. Ömer ÖNAL