DSPy Felsefesi: Programlama, Prompt Yazma Değil

DSPy 2.6 sürümü 2026 yılı itibarıyla programmatic prompt optimization alanında akademik araştırmadan endüstri standardına geçiş yaptı; Stanford NLP Group tarafından geliştirilen framework, GitHub yıldız sayısı 21K’yı aşarken kurumsal kullanım %340 büyüdü. “Programming, not prompting” felsefesiyle, declarative module tanımlamayı ve otomatik prompt optimization’ı birleştiriyor. Konuyla ilişkili olarak DSPy Nedir? Prompt Otomasyonu ve LLM Pipeline Rehberi 2026 rehberimiz detaylı incelemeyi içerir.

Stanford NLP 2025 raporuna göre, DSPy ile optimize edilen pipeline’lar manuel prompt engineering’e göre ortalama %23-67 daha yüksek accuracy elde ediyor. LangChain State of AI 2025 verilerinde ise enterprise kullanıcıların %18’inin DSPy’ı production’da kullandığı, bu rakamın 12 ay önceki %4’lük seviyeden ciddi sıçrama olduğu görülüyor.

DSPy Felsefesi: Programlama, Prompt Yazma Değil

DSPy’ın temel önerisi şu: prompt’lar manuel yazılmamalı, programatik olarak ifade edilmeli ve compiler tarafından optimize edilmeli. Geleneksel prompt engineering’de %78 zaman string template’lerle uğraşmaya gidiyor; DSPy bu zamanı modülerite ve evaluation’a kaydırıyor. Geliştirici sadece “ne istediğini” tanımlıyor (Signature), “nasıl yapacağını” (Module) seçiyor ve “kalite metric’ini” belirliyor; compiler en iyi prompt’u öğreniyor.

Bu yaklaşım PyTorch’un derin öğrenmede yaptığı paradigma kaymasına benzetiliyor: nasıl PyTorch tensor operations’ı abstract ettiyse, DSPy de prompt operations’ı abstract ediyor. 2026 itibarıyla DSPy’ın imza özelliği automatic prompt compilation: aynı task farklı model’lerle (GPT-4o, Claude, Gemini) yeniden compile edilebiliyor, her model için optimum prompt otomatik üretiliyor.

• Signature: Task’in input/output tanımı, “summarize: text -> summary” gibi declarative spec.
• Module: Task’i çözen algoritmayı temsil eden component (Predict, ChainOfThought, ReAct).
• Optimizer (Teleprompter): Compile time’da prompt’ları otomatik optimize eden algoritma.
• Metric: Çıktı kalitesini ölçen fonksiyon, optimizer’ın yön belirlemesini sağlıyor.

“DSPy ile geliştirici prompt yazmıyor, prompt’u tanımlıyor. Compiler en iyi prompt’u few-shot example’larla birlikte otomatik üretiyor. Bu paradigma kayması production AI ekiplerinin time-to-quality’sini dramatik biçimde değiştiriyor.” — Stanford NLP DSPy 2.6 Release Notes

Signature: Task’i Tanımlamak

DSPy’ın temel yapı taşı Signature. Bir signature, task’in input fields ve output fields’ını tip annotations ile tanımlıyor. “summarize: long_text -> summary” şeklindeki şortcut syntax, modern DSPy’da Pydantic-style class-based signature ile genişletilmiş. InputField ve OutputField sınıflarıyla her field’a description ve constraints ekleniyor.

Signature’lar reusable: aynı signature farklı module’lerle (Predict, ChainOfThought, ProgramOfThought) kullanılabiliyor. Aynı task için farklı module’leri evaluation set üzerinde test edip en iyisini seçmek production workflow’unun standart parçası haline geldi. 2026 yeniliği TypedPredictor: Pydantic v2 ile derin tip kontrolü sunuyor, schema validation runtime’da otomatik yapılıyor.

Module Çeşitleri: Predict, ChainOfThought, ReAct, ProgramOfThought

DSPy 2.6, 2026 itibarıyla 12 farklı built-in module sunuyor. Predict en basit modül: signature’ı tek bir LLM çağrısıyla çözüyor. ChainOfThought reasoning step’leri açıkça LLM’e ürettirip nihai cevap üretmesini sağlıyor; kompleks problemlerde accuracy %34 artırıyor. ReAct tool use için, ProgramOfThought kod üretimi gerektiren matematik için, MultiChainComparison ensemble için kullanılıyor.

Teleprompters: Otomatik Prompt Optimization

DSPy’ın imza özelliği teleprompter’lar — programatik prompt optimization algoritmaları. 2026 itibarıyla 7 teleprompter mevcut. BootstrapFewShot, az sayıda label’lı example ile başlayıp model’in kendi ürettiği reasoning’leri few-shot olarak kullanıyor. BootstrapFewShotWithRandomSearch, hyperparameter search ile en iyi konfigürasyonu buluyor. MIPROv2 (Multi-prompt Instruction Proposal Optimizer), instruction text’i ve few-shot example’ları joint optimize ediyor.

2025 sonunda eklenen COPRO (Coordinate-ascent Prompt Optimizer), instruction tuning için coordinate descent algoritması kullanıyor. KNNFewShot, query’ye benzer example’ları runtime’da retrieve ediyor. Bu teleprompter’lar production’da accuracy’i ortalama %23-67 artırırken token cost’u optimum tutuyor.

Metric Fonksiyonları ve Evaluation

DSPy’da metric, optimizer’ın yön belirlemesi için kritik. 2026 itibarıyla üç tip metric yaygın. Exact match, classification ve extraction task’ları için kullanılıyor. Semantic similarity (cosine over embeddings), summarization ve generation task’ları için. LLM-as-judge, complex evaluation için: bir LLM diğer LLM’in çıktısını puanlıyor. Custom metric fonksiyonu yazmak 5 dakikadan kısa: bir prediction ve gold example alıp 0-1 arası skor döndüren Python fonksiyon yeterli.

Evaluation framework’ü built-in: dev set üzerinde batch evaluation, error analysis, confusion matrix otomatik. DSPy’ın resmi dokümantasyonunda 14 metric implementation pattern ve 23 evaluation pipeline örneği paylaşılıyor.

RAG Pipeline’ları: DSPy ile Modüler Yaklaşım

DSPy 2.6, RAG pipeline’ları için 9 hazır pattern sunuyor. SimpleRAG basit retrieve-then-generate. MultiHopRAG iterative retrieval. SelfReflectiveRAG generation sonrası kalite kontrolü. RAFT (Retrieval Augmented Fine-Tuning) retrieval distractor’larıyla eğitim. Bu pattern’lerin her biri DSPy module olarak tanımlanmış; signature’ları, metric’leri, teleprompter’ları hazır.

• Retrieve Module: Vector store’dan top-k doküman çekiyor, ColBERT/BM25/Dense seçimi mümkün.
• GenerateAnswer: Retrieved context ile cevap üretimi, ChainOfThought ile birleştiriliyor.
• SelfReflect: Üretilen cevabı eleştirip iyileştirme, hallucination’ı %43 azaltıyor.
• MultiHop: İlk cevaba göre yeni sorgu üretip ek retrieval, complex Q&A için kritik.

Compile ve Save: Production’a Geçiş

DSPy’ın production workflow’unun temel adımı compile. dspy.compile() çağrısı, teleprompter’ı bir training set üzerinde çalıştırıyor ve optimize edilmiş prompt’ları üretiyor. Compile çıktısı .json formatında save edilebiliyor; production’da load edip kullanılıyor. Compile süreci bir kez yapılıyor, production’da sadece inference koşuyor.

Müşterilerimden biri, müşteri destek kategorize sistemi için DSPy ile geliştirme yaptı. İlk versiyonda manuel prompt engineering ile %71 accuracy aldı, 4 hafta sürdü. DSPy ile BootstrapFewShot teleprompter’ı kullanılınca, aynı task 1 haftada %89 accuracy’e ulaştı. Production’a çıktıktan sonra MIPROv2 ile recompile %93’e taşıdı.

Multi-Model Routing: Cost-Quality Trade-off

2026 itibarıyla DSPy 2.6, multi-model routing için native destek sunuyor. dspy.LM abstraction’ı ile farklı task’lerde farklı model kullanılabiliyor. Tipik pattern: classification gibi simple task’lerde Haiku veya GPT-4o-mini, generation gibi complex task’lerde Claude Sonnet veya GPT-4o. Bu yaklaşım production cost’u %52-78 azaltıyor.

Cascading pattern de yaygın: önce ucuz model’le tahmin yap, confidence düşükse pahalı model’e fallback et. DSPy’ın GitHub deposunda production routing strategy örnekleri paylaşılıyor.

Observability ve Tracing

DSPy 2.6, MLflow ve Langfuse ile native entegrasyon sunuyor. Her module call, her LLM çağrısı, her teleprompter iterasyonu trace olarak izleniyor. Compile time’da yapılan optimization decisions log’lanıyor; production’da hangi few-shot example’ın seçildiği görülebiliyor. Bu transparency, regulated industries için compliance gereksinimini karşılıyor.

DSPy ile Fine-Tuning: 2026 Yeniliği

2026 yılında eklenen BootstrapFinetune teleprompter, prompt optimization’ı fine-tuning ile birleştiriyor. DSPy önce prompt’u optimize ediyor, ardından optimized pipeline’ın çıktılarını training data olarak kullanıp local model’i fine-tune ediyor. Bu hybrid yaklaşım, production’da hem cost’u (local model) hem quality’i (optimized supervision) optimize ediyor. Llama 3.1 8B veya Mistral 7B gibi modeller bu pattern’le %95+ accuracy’e ulaşıyor.

Kurumsal DSPy Dönüşümünde Tipik Sorunlar

Sahada DSPy projelerinde en sık karşılaştığımız beş hata, çoğu adoption’ı yavaşlatıyor. Birincisi, metric fonksiyonunun zayıf tanımlanması: exact_match yerine semantic similarity veya LLM-as-judge gerekli olan task’lerde optimization yanlış yöne gidiyor. İkincisi, training set’in çok küçük olması: BootstrapFewShot minimum 50-100 example bekliyor, daha azıyla overfitting riski yüksek. Üçüncüsü, MIPROv2 teleprompter’ının ilk denemede tercih edilmesi; BootstrapFewShot ile başlayıp sonra MIPROv2’ye geçmek daha kontrollü. Dördüncüsü, compile sonrası save edilmemesi: her runtime’da recompile production’da kabul edilemez. Beşincisi, multi-model routing’in olmaması: tüm task’lerde Claude Opus kullanıldığında cost gereksiz yere %400 fazla.

Sonuç

DSPy 2.6, kurumsal AI pipeline’larında programmatic prompt optimization’ı endüstri standardı haline getirdi. Declarative module tanımları, otomatik teleprompter optimization ve multi-model routing birleşince, AI ekiplerinin manuel prompt engineering döngüsünden çıkıp ölçülebilir kalite gelişimine geçişi mümkün oldu. Stanford NLP’nin aktif geliştirmesi ve büyüyen kurumsal kullanım, framework’ün önümüzdeki 3 yıl boyunca dominant pozisyonunu korumasını sağlıyor.

Uzman Yorumu — Ömer ÖNAL: Production AI projelerinde manuel prompt engineering’in zamanı geçti. Müşterilerime DSPy 2.6 ile başlangıç planı: minimum 100 example’lık training set hazırlayın, ChainOfThought modülüyle başlayın, BootstrapFewShotWithRandomSearch teleprompter’ı default seçim olsun. Compile çıktısını mutlaka save edin ve version control’e alın. Multi-model routing ilk gün eklenmeli; classification task’lerinde GPT-4o-mini, generation’da Claude Sonnet typical pattern. Evaluation set’i production data dağılımını yansıtmalı yoksa optimization yanlış yöne gider.

Sıkça Sorulan Sorular