Vector Embedding Boyut Optimizasyonu: PCA, Quantization, Matryoshka

Pinecone’un 2025 State of Vector Search raporuna göre kurumsal vektör veritabanlarının ortalama yıllık depolama maliyeti 184.000 USD seviyesine ulaştı; bu maliyetin %71’i embedding boyutundan kaynaklanıyor. OpenAI text-embedding-3-large modelinin 3072 boyutlu çıktısı, 100 milyon dokümanlık bir koleksiyon için yaklaşık 1,2 TB ham vektör verisi ve buna ek olarak HNSW indeks yapıları için 600 GB ek alan gerektirir. 2026 yılında üretken yapay zeka uygulamalarının ölçeklenmesiyle birlikte embedding boyut optimizasyonu, retrieval kalitesini koruyarak maliyeti %60-90 düşürmenin en etkili yöntemi haline geldi. PCA, Product Quantization (PQ) ve Matryoshka Representation Learning (MRL) gibi tekniklerin doğru kombinasyonu ile aynı recall seviyesinde 20-32 kat daha küçük indeksler elde etmek mümkün.

Bu rehberde üç temel aileyi (doğrusal indirgeme, quantization, Matryoshka temsil öğrenmesi) inceliyor, somut sayılarla karşılaştırıp Pinecone, Weaviate, Qdrant, Milvus ve MongoDB Atlas Vector tarafında üretim karar matrisi sunuyoruz. Mimarinin diğer katmanları için kurumsal yapay zeka entegrasyonu rehberi ve RAG altyapı rehberi tamamlayıcıdır.

Vektör Boyutu Neden Bir Maliyet Krizi Yarattı?

Bir embedding genellikle float32 tipinde, değer başına 4 bayt yer kaplar. 1536 boyutlu bir vektör tek başına 6 KB, 3072 boyutlu OpenAI text-embedding-3-large çıktısı ise 12 KB tutar. 100 milyon doküman ölçeğinde bu, 600 GB – 1,2 TB ham veriye karşılık gelir. Üzerine HNSW gibi yaklaşık en yakın komşu (ANN) indeksleri bağlantı grafı ve seviye yapıları için %50-80 ek yük getirir; yani 100M vektörlü bir koleksiyon 1,8-2,1 TB toplam disk talep eder. AWS OpenSearch Service fiyatlandırmasında bu hacim, sadece r6g.4xlarge.search instance grubu için aylık 4.200 USD’ye karşılık gelir.

Daha kritik mesele sorgu performansıdır: kosinüs benzerliği boyutla doğrusal artar ve 3072 boyutlu bir nokta çarpımı 384 boyutluya kıyasla 8 kat daha fazla CPU döngüsü tüketir. Boyut optimizasyonu yalnızca depolama değil, P95 latency ve eşzamanlı sorgu kapasitesi için de en doğrudan kaldıraçtır.

Embedding Boyutu	Bayt / Vektör	100M Vektör (Ham)	HNSW Toplam	Aylık AWS Maliyeti (≈)	Tipik Kaynak Model
3072	12.288	1,2 TB	2,1 TB	4.800 USD	text-embedding-3-large
1536	6.144	600 GB	1,0 TB	2.400 USD	text-embedding-3-small, ada-002
1024	4.096	400 GB	680 GB	1.640 USD	Cohere Embed v3, Voyage-3
768	3.072	300 GB	510 GB	1.250 USD	BGE-large, mxbai-embed-large
512	2.048	200 GB	340 GB	860 USD	Matryoshka 512 kesiti
384	1.536	150 GB	255 GB	640 USD	all-MiniLM, BGE-small
256	1.024	100 GB	170 GB	430 USD	Matryoshka 256 kesiti

Tablodaki rakamlar yalnızca embedding katmanını kapsar; payload (metadata, chunk metni) maliyeti ayrıdır. Buradaki 3072 → 256 dikey hareket %91 bellek tasarrufu sağlar; ancak naif bir kesim recall@10 metriğinde %15-25 düşüşe yol açar. Asıl mesele bu düşüşü %2 altına çekmektir.

• Bellek baskısı: HNSW indeksleri performans için RAM’de tutulduğundan dikey ölçekleme hızla pahalılaşır.
• Ağ taşıma: Vektör replikasyonu ve cross-region kopyalama, multi-region RAG kurulumlarında ciddi bant genişliği maliyeti yaratır.
• Sorgu CPU yükü: Yüksek boyutlu nokta çarpımı SIMD verimini düşürür; QPS doyum noktası erken gelir.
• Soğuk başlangıç: Büyük indekslerin diskten yüklenmesi tipik olarak 8-30 dakika sürer ve auto-scaling pratikte imkânsız hale gelir.
• Yedekleme ve felaket kurtarma: Snapshot süresi ve geri yükleme RPO/RTO hedeflerini doğrudan etkiler.

PCA ile Doğrusal Boyut İndirgeme

Principal Component Analysis (PCA), varyansı en iyi temsil eden ortogonal eksenleri bularak boyut indirir. Bir RAG senaryosunda 1536 boyuttan 384 boyuta inmek mümkündür; Cohere’in 2025 yayınladığı Embed v3 dimension reduction benchmark sonuçlarına göre MS MARCO veri setinde recall@10 metriği yalnızca %2,8 oranında düşer. PCA’nın temel avantajı eğitim sonrası tek matris çarpımı ile uygulanabilmesi, mevcut embedding modeli ne olursa olsun stack üzerine bir post-process katmanı olarak takılabilmesidir.

İşleyiş özetle şudur: temsili bir örneklem (200K-1M vektör) üzerinde kovaryans matrisi hesaplanır, eigen-decomposition ile en yüksek varyanslı k eksen seçilir ve elde edilen (d × k) projeksiyon matrisi sorgu zamanında uygulanır. Faiss PCAMatrix bu operasyonu doğrudan destekler. Üretimde kritik nokta projeksiyon matrisinin sorgu ve doküman tarafında aynı sürümle tutulmasıdır.

1. Örneklem hazırla: Korpustan tipik dağılımı temsil eden 500.000 vektör seç.
2. Fit: Faiss PCAMatrix(d_in=1536, d_out=384) ile projeksiyon matrisini eğit.
3. Doğrula: Test seti üzerinde recall@10, MRR ve nDCG metriklerini orijinal boyutla karşılaştır.
4. Versiyonla: Matrisi semantic versionlama ile sakla (örn. pca-v3-d384.npy) ve sorgu/index için aynı sürümü zorla.
5. Yeniden fit politikası: Domain dokümanlarının %15’i değiştiğinde matrisi yeniden eğit.

PCA’nın zayıf tarafı varyans temelli olmasıdır; anlamsal olarak önemli fakat varyansı düşük yöndeki bilgileri kaybedebilir. Matryoshka destekli modeller varken nadiren tek başına yeterli; ancak whitening ile birleştirildiğinde veya legacy modellerle çalışırken hâlâ en hızlı kazanımdır.

Quantization Aileleri: Scalar, Product ve Binary

Quantization, float32 değerlerini daha küçük veri tiplerine veya kod kitabı indekslerine dönüştürerek bellek kullanımını azaltır. Üç temel aile vardır. Scalar Quantization (SQ) her boyutu int8 (veya int4) seviyesine düşürür; min-max kalibrasyonu yeterlidir ve doğruluk kaybı %1 altındadır. Product Quantization (PQ) vektörü m alt-vektöre böler, her alt-uzay için k merkezli (genellikle 256) bir kod kitabı öğrenir ve her alt-vektör tek bayta sığar; 1536 boyutlu bir vektör m=96 alt-uzayla 96 bayta iner, yani 64x sıkıştırma sağlar. Binary Quantization (BQ) ise her float değerini 0 veya 1’e indirir ve Hamming mesafesi ile karşılaştırır; 32x sıkıştırma sağlar ama doğru sonuç için iki aşamalı rerank gerektirir.

Quantization Tipi	Sıkıştırma	Tipik Recall Kaybı	Mesafe Metriği	Rerank İhtiyacı	Eğitim Maliyeti
Scalar int8 (SQ8)	4x	%0,4 – 0,8	L2 / Inner Product	Hayır	Min/max kalibrasyon (saniyeler)
Scalar int4 (SQ4)	8x	%1,2 – 2,5	L2 / Inner Product	Önerilir	Min/max + per-segment
Product Quantization (PQ-96×8)	64x	%3 – 6	Asimetrik (LUT)	Zorunlu	k-means alt-uzay (dakikalar)
Optimized PQ (OPQ)	64-96x	%2 – 4	Asimetrik + döndürme	Zorunlu	OPQ rotasyonu + k-means
Binary Quantization (BQ)	32x	%4 – 8 (tek aşama)	Hamming	Zorunlu (2 aşama)	Yok (sign fonksiyonu)
BQ + Float Rerank	32x (etkin ~8x)	%1 – 2	Hamming + L2	Dahili	Yok

Qdrant’ın 2025 benchmark’inde OpenAI text-embedding-3-large üzerinde BQ + float rerank kombinasyonu %97 bellek tasarrufu ile recall@100 metriğinde yalnızca %1,8 kayıp gösterdi. Weaviate 1.25 sürümü PQ’ya ek olarak Rotational Quantization (RQ) sundu; recall@10’da PQ’ya kıyasla 1,5-2 puan iyileşme sağlar. Milvus IVF_PQ, HNSW_SQ8 ve nbits=4 aşırı sıkıştırma seçeneklerini sunar. Detaylı karşılaştırma için Pinecone, Weaviate, Qdrant, Milvus 2026 karşılaştırması yazımıza bakabilirsiniz.

PQ’nun matematiksel özü asimetrik mesafe hesaplamadır: sorgu float kalır, indekslenen vektörler yalnızca kod indeksleri olarak saklanır ve her alt-uzay için bir lookup table (LUT) üretilir. Faiss dokümantasyonu bu yapıyı IndexIVFPQ üzerinde detaylandırır.

Matryoshka Representation Learning: Tek Vektör, Çok Boyut

Matryoshka Representation Learning (MRL), 2022’de Kusupati ve ekibinin yayınladığı “Matryoshka Representation Learning” makalesinde önerilen bir eğitim tekniğidir. Temel fikir basittir: embedding modelinin loss fonksiyonu, farklı boyut kesitlerinin (ör. 64, 128, 256, 512, 768, 1024, 1536, 3072) her birinde aynı anda iyi temsil üretecek şekilde tasarlanır. Sonuçta tek bir 3072 boyutlu vektörün ilk 256 boyutu, bağımsız bir 256 boyutlu embedding gibi semantik mesafe hesaplaması yapabilir. Bu, eğitim zamanında öğrenilen önem sıralamasının vektörün baş kısmına yerleştirilmesidir; iç içe geçmiş matryoshka bebekleri gibi.

Üretim için Matryoshka’nın değeri çift yönlüdür. Birincisi, kesim ücretsizdir: 3072 boyutlu bir vektörü kaydedip sorgu zamanında ilk k boyutu okumak yeterlidir; ek hesap maliyeti yoktur. İkincisi, çok-aşamalı retrieval tek modelle mümkündür: 128 boyutla geniş aday havuzu (top-1000) çekilir, ardından tam boyutlu vektörle top-50 rerank yapılır. OpenAI text-embedding-3 serisi (small/large), Mixedbread mxbai-embed-large-v1, Nomic Embed v1.5 ve Snowflake arctic-embed-l-v2.0 Matryoshka’yı yerel olarak destekler. Cohere Embed v3, Voyage-3 ve BGE-M3 ise eğitim sırasında benzer bir nested embedding hedefi kullanır.

Kesilen Boyut	Bellek Tasarrufu	recall@10	Naif Kesim recall@10	MRR@10	Tipik Kullanım
3072 (tam)	%0	0,874	0,874	0,732	Yüksek hassasiyet rerank
1536	%50	0,870	0,798	0,728	Üretim varsayılan
1024	%67	0,866	0,742	0,720	Çoğu RAG senaryosu
768	%75	0,861	0,683	0,711	Maliyet duyarlı
512	%83	0,852	0,605	0,698	İlk-aşama aday seçimi
256	%92	0,830	0,491	0,672	Yüksek QPS filtreleme
128	%96	0,791	0,374	0,628	Hot-cache / geniş tarama

Tablo, Matryoshka kesiminin naif PCA-vari kesime kıyasla ne kadar fark yarattığını gösterir. 512 boyutta Matryoshka recall@10 değerinin %97’sini korurken, eğitim sırasında bu hedef olmadan üretilmiş bir embedding’in ilk 512 boyutu sadece %69’unu korur. Bu farkın kaynağı, MRL eğitiminin önem sırasını öğrenmiş olmasıdır. OpenAI Cookbook’un boyut kesimi örnekleri ve Pinecone’un Matryoshka rehberi üretim implementasyonunun pratik detaylarını gösterir.

1. Matryoshka destekli bir model seçin (örn. text-embedding-3-large, mxbai-embed-large-v1).
2. Doküman tarafında tam boyutu (1536/3072) saklayın; bu uzun vadeli sigortadır.
3. İndeksleme için ilk aşama düşük boyutlu kesit (256-512) oluşturun ve HNSW + SQ8 üzerine kurun.
4. Sorgu zamanında L2 normalize uygulayın; kesilen vektörler tekrar birim küreye düşmelidir.
5. İlk aşamada top-1000 aday çekin, tam boyutlu vektörle top-50 rerank yapın.
6. Üretim metriklerinde recall@10, MRR ve P95 latency’yi haftalık karşılaştırın; eşik kaymasında modeli yeniden değerlendirin.

Sağlayıcı ve Model Tarafında Matryoshka Desteği

Embedding sağlayıcısı seçiminde 2026’da kritik karar kriteri, modelin Matryoshka eğitimi alıp almadığıdır. Çoğu yeni nesil model API parametresi (dimensions) ile çıkışı doğrudan kesilmiş boyutla döndürür; bu hem ağ bant genişliğini hem de istemci tarafı sıkıştırma maliyetini azaltır. Anthropic, kendi embedding modeli sunmamakla birlikte Voyage AI ile resmî ortaklığı üzerinden voyage-3-large ve voyage-code-3 modellerini önerir; bunlar nested embedding hedefi ile eğitilmiştir.

Sağlayıcı / Model	Tam Boyut	Önerilen Kesimler	MRL Desteği	API dimensions Param.	Fiyat (1M token)
OpenAI text-embedding-3-large	3072	256, 512, 1024, 1536	Yerel	Evet	0,13 USD
OpenAI text-embedding-3-small	1536	256, 512, 768	Yerel	Evet	0,02 USD
Cohere Embed v3	1024	256, 384, 512	Eğitimde nested	Hayır (truncate)	0,10 USD
Voyage AI voyage-3-large	2048	256, 512, 1024	Yerel	Evet	0,18 USD
Mixedbread mxbai-embed-large-v1	1024	64, 128, 256, 512	Yerel (1024’ten 64’e)	Evet (open weights)	Self-host
Nomic Embed v1.5	768	64, 128, 256, 512	Yerel	Evet	Self-host / 0,02 USD
Snowflake arctic-embed-l-v2.0	1024	256, 512	Yerel	Evet	Self-host
BGE-M3	1024	256, 512	Kısmi	Truncate önerilir	Self-host

Türkçe içerik için MIRACL TR değerlendirmelerinde Voyage voyage-3-large ve OpenAI text-embedding-3-large en yüksek skorları üretir. Self-hosted senaryolarda Mixedbread mxbai-embed-large-v1 ve Snowflake arctic-embed-l-v2.0 ciddi maliyet avantajı sağlar. Kalite değerlendirme tarafı için RAG Evaluation Pipeline: Ragas, TruLens ve Türkçe embedding modelleri karşılaştırması tamamlayıcıdır.

Vektör Veritabanı Entegrasyonu: Qdrant, Milvus, Weaviate, pgvector

Boyut optimizasyon stratejisini hayata geçirmek, kullanılan vektör veritabanının yetenekleriyle doğrudan bağlantılıdır. 2026 itibarıyla beş büyük seçenek (Qdrant, Milvus, Weaviate, Pinecone, MongoDB Atlas Vector ve PostgreSQL pgvector) farklı düzeyde quantization ve Matryoshka desteği sunar.

• Qdrant 1.13: Scalar int8, binary quantization, ürün quantization (PQ); BQ + rescore yerleşik. Qdrant quantization rehberi kapsamlı senaryolar verir.
• Milvus 2.5: IVF_PQ, HNSW_SQ8, HNSW_PQ, BIN_FLAT, BIN_IVF_FLAT; Matryoshka için API tarafında boyut parametresi destekler.
• Weaviate 1.27: PQ, BQ, SQ ve Rotational Quantization (RQ); per-class konfigürasyon. Weaviate quantization belgeleri RQ farkını anlatır.
• Pinecone Serverless: Yerel quantization parametresi olmadan platform tarafında otomatik PQ ve binary uygular; dimension seçimi Matryoshka kesimi için doğrudan kullanılır.
• MongoDB Atlas Vector Search: SQ8 ve BQ desteği 2025’te genel kullanıma açıldı; numCandidates parametresi rerank aşaması için kritik.
• pgvector 0.8: halfvec (float16, 2x), bit (32x binary), sparsevec; HNSW indeksi her tipi destekler. PostgreSQL’i tek veri tabanı olarak tutmak isteyen ekipler için en pragmatik seçenek.

Qdrant’ta Matryoshka 512 + binary + rerank konfigürasyonu özetle: size: 512, distance: Cosine, quantization_config.binary.always_ram: true; sorgu tarafında rescore: true ve oversampling: 3.0. Bu yapı 100M vektörde RAM ayak izini 12 GB’a indirir ve P95 latency 18 ms civarında kalır.

Hibrit Üretim Mimarisi ve Maliyet Azaltma Matrisi

Tek bir tekniğe bağlı kalmak nadiren en iyi sonucu verir. IDC’nin 2025 raporuna göre üretim RAG sistemlerinin %58’i hibrit yaklaşım kullanıyor: Matryoshka kesim + scalar/binary quantization + HNSW parametre ayarı. Tipik en iyi yapılandırma şudur: Matryoshka destekli model ile 512 boyuta kesim, üzerine int8 scalar quantization ile ek %75 bellek tasarrufu, son olarak HNSW indeks parametrelerinin (M=16, efConstruction=200) optimize edilmesi. Bu kombinasyon 3072 boyutlu ham vektöre göre yaklaşık 24 kat daha az bellek tüketirken recall@10 kaybını %2’nin altında tutar.

Senaryo	Boyut	Quantization	Bellek	recall@10	P95 Latency	Aylık Maliyet
Baseline ham 3072	3072	float32	1.200 GB	0,874	92 ms	4.800 USD
SQ8 yalnız	3072	int8	300 GB	0,866	61 ms	1.480 USD
MRL 1024 kesim	1024	float32	400 GB	0,866	54 ms	1.640 USD
MRL 512 + SQ8	512	int8	50 GB	0,852	21 ms	320 USD
MRL 512 + BQ + rerank	512	binary + float	40 GB	0,855	24 ms	285 USD
MRL 256 + SQ8	256	int8	25 GB	0,824	14 ms	210 USD
OPQ 96×8 + HNSW	3072→96B	OPQ	10 GB	0,818	11 ms	185 USD

Tablodan iki temel ders çıkar. Birincisi, MRL 512 + SQ8 kombinasyonu fiyat/kalite eğrisinin sweet-spot’udur: baseline’a göre %93 maliyet azalması ve yalnızca %2,5 recall kaybı. İkincisi, daha agresif sıkıştırma (OPQ veya MRL 256 + SQ8) belirli iş yükleri için gerekçelendirilebilir; örneğin ilk-aşama aday seçiminde, ardından tam boyutla rerank yapılıyorsa kalite kaybı toplamda %1 altında kalır. LLM cost optimization yazımızda embedding katmanını LLM caching ve model routing ile birleştiren bütünsel maliyet stratejisini de inceledik.

Üretimde üç yan etki kritiktir. Filter cardinality: yüksek seçicili metadata filtresi varsa rerank maliyeti baskınlaşır. Cold-start: SQ8 indeksi 2-4 dakikada RAM’e yüklenirken float32 baseline 15-25 dakika alır. Cross-region: bant genişliği boyutla doğru orantılı düştüğü için MRL 512 + SQ8 net 8x bant tasarrufu sağlar. Boyut optimizasyonu retrieval kalitesini korumayı gerektirir; kötü aday seçimi grounding’i bozar (LLM hallucination azaltma rehberi).

AI agent senaryolarında ek bir boyut vardır: working memory için 256 + SQ8, uzun vadeli semantic indeks için 1024 + PQ tipik kombinasyondur. Detayları AI Agent Memory: Vector, Episodic, Semantic mimari yazımızda ele aldık.

Sık Sorulan Sorular

Sonuç

Vektör embedding boyut optimizasyonu, 2026 RAG ve semantik arama mimarilerinde maliyet kontrolünün en etkili kaldıracıdır. Tek bir tekniğe değil, üç ailenin (Matryoshka temsil öğrenmesi, scalar/binary quantization, doğru indeks parametreleri) hibrit kombinasyonuna oynamak gerekir. Üretim için sweet-spot çoğu zaman MRL 512 boyut + SQ8 scalar quantization + HNSW (M=16, efConstruction=200) kombinasyonudur; bu konfigürasyon baseline 3072 boyut float32’ye kıyasla %93 maliyet azaltırken recall@10 kaybını %2,5 altında tutar. Karar verirken kalite-maliyet eğrisini A/B testleri ile sürekli ölçmek, embedding sağlayıcı seçiminde Matryoshka desteğini sözleşme kriteri yapmak ve vektör veritabanının native quantization yeteneklerini değerlendirmek üç temel sağlam pratiktir.

Çıkış noktası küçük olsun: önce SQ8 ile %75 bellek tasarrufunu elde edin, ardından Matryoshka kesimi ile ek katmanı açın. Ölçek 50M+ vektöre çıktığında binary + rerank veya OPQ değerlendirmesini yapın. Embedding modeli ve vektör veritabanı seçilirken native quantization ile dimensions API parametresi varlığı, 3 yıllık maliyet eğrinizi belirleyecek iki sözleşmesel maddedir.