Tarayıcıda Yapay Zeka 2026: WebGPU ve Transformers.js ile İstemci Tarafı Çıkarım

Tarayıcıda Yapay Zeka Nedir ve WebGPU ile İstemci Tarafı Çıkarım Nasıl Çalışır

Tarayıcıda yapay zeka, makine öğrenmesi modellerini sunucuya hiç istek göndermeden doğrudan kullanıcının cihazında, tarayıcı içinde çalıştırmaktır (istemci tarafı çıkarım / on-device inference). Bunu mümkün kılan teknoloji ikilisi WebGPU ile Transformers.js’tir: WebGPU, tarayıcıya modern GPU’nun paralel hesaplama gücüne (compute shader) düşük seviyeli erişim verir; Hugging Face’in Transformers.js kütüphanesi ise yüzlerce hazır modeli (metin, görüntü, ses) bu altyapı üzerinde JavaScript ile çalıştırır. Sonuç: çeviri, özetleme, görüntü sınıflandırma ve embedding üretimi gibi görevler, sunucu maliyeti ve gizlilik sızıntısı olmadan tarayıcıda gerçekleşir. Konuyla ilişkili olarak WebAssembly Üretimde 2026: Tarayıcı Ötesi Kullanım Senaryoları rehberimiz detaylı incelemeyi içerir.

Bu paradigmanın 2026’da olgunlaşmasının nedeni, WebGPU‘nun tüm büyük tarayıcılarda artık varsayılan olarak desteklenmesidir. WebGPU; Chrome 113 (2023) ile stabil çıktı, ardından Edge, Firefox ve Safari’de yaygınlaştı. WebGL’in grafik odaklı sınırlamalarının aksine WebGPU, genel amaçlı GPU hesaplaması (GPGPU) için tasarlandığından, sinir ağı çıkarımında WebAssembly’ye kıyasla çok kat daha yüksek hız sağlar; bazı kıyaslamalarda WebGPU hızlandırması WASM’a göre 10 kattan fazla performans farkı gösteriyor. Bu, küçük dil modellerinin (SLM) ve görüntü modellerinin pratik olarak tarayıcıda çalışabileceği eşiği aştı.

İstemci Tarafı Çıkarımın Sunucu Tabanlı Çıkarıma Göre Avantajları

Modeli tarayıcıda çalıştırmanın getirileri, yalnızca teknik değil ekonomik ve hukukidir. Aşağıdaki tablo iki yaklaşımı karşılaştırır.

En güçlü argüman gizliliktir: kullanıcı verisi (yazdığı metin, çektiği fotoğraf) cihazdan hiç çıkmadığında, KVKK ve GDPR kapsamındaki veri işleme yükümlülükleri kökten azalır. Sağlık, hukuk ve finans gibi hassas alanlarda bu, sunucu API’sine göre belirleyici bir tasarım avantajıdır. Veri hiç ağ üzerinden geçmediği için “veri ikamet yeri” (data residency) ve sınır ötesi aktarım kısıtlamaları da konu dışı kalır; bu, çok uluslu uygulamalarda hukuki karmaşıklığı dramatik biçimde azaltır.

İkinci güçlü argüman gecikmedir. Sunucu API’sine yapılan her çağrı, ağ gidiş-dönüşü, kuyruk bekleme süresi ve sunucu işleme zamanını içerir; yoğun anlarda bu, yüzlerce milisaniyeden saniyelere uzayabilir. Tarayıcı içi çıkarımda model bir kez yüklendikten sonra yanıt anında üretilir, ağ tamamen devre dışıdır. Otomatik tamamlama, anlık çeviri veya yazarken öneri gibi gerçek zamanlı etkileşimlerde bu fark, kullanılabilir ile kullanılamaz arasındaki çizgidir.

WebGPU: Tarayıcıda GPU Hesaplamasının Temeli

WebGPU, eski WebGL’in yerini alan modern grafik ve hesaplama API’sidir. Yapay zeka açısından kritik özelliği compute shader desteğidir; bu, matris çarpımı gibi sinir ağı operasyonlarını GPU’nun binlerce çekirdeğinde paralel çalıştırmayı sağlar.

• GPGPU erişimi: WebGL’in aksine WebGPU, grafik dışı genel hesaplama için tasarlandı; tensör işlemleri doğrudan desteklenir.
• Düşük seviyeli kontrol: Bellek tamponları (buffer) ve pipeline’lar açıkça yönetilir; Vulkan/Metal/DirectX 12 üzerine soyutlanmıştır.
• WASM yedeği (fallback): WebGPU desteklenmeyen ortamda Transformers.js, WebAssembly üzerinden (daha yavaş ama çalışır) düşer.

WebGPU’nun genel hesaplama gücü yalnızca yapay zeka için değil; ağ uygulamalarının istemci tarafında ağır iş yapma yeteneğinin genel bir göstergesidir. Bu trend, tarayıcı içi GPU hesaplama ekosisteminin olgunlaştığını doğruluyor. Çıkarım hızlandırma backend’leri arasındaki fark, doğru teknolojiyi seçmek için kritiktir:

Yükselen WebNN (Web Neural Network API) standardı, cihazdaki özel yapay zeka donanımına (NPU) doğrudan erişim hedefliyor; bu olgunlaştığında tarayıcı içi çıkarım, yerel uygulama performansına daha da yaklaşacak. Modern dizüstü ve telefon işlemcilerinin neredeyse tamamı artık özel bir NPU içeriyor; bu donanım, yapay zeka iş yüklerini GPU’dan bile daha verimli ve düşük güç tüketimiyle çalıştırmak için tasarlandı. WebNN, tarayıcının bu NPU’ya soyut bir arayüz üzerinden erişmesini sağlayarak, geliştiricinin donanım detaylarıyla uğraşmadan en hızlı yolu kullanmasına olanak verecek. Bu üç katmanlı hızlandırma stratejisi (NPU varsa WebNN, yoksa WebGPU, o da yoksa WASM) tarayıcı içi yapay zekanın geleceğini tanımlıyor; her cihaz, sahip olduğu en güçlü hesaplama birimini otomatik olarak kullanacak.

Transformers.js: Tarayıcıda Hugging Face Modelleri

Transformers.js, Hugging Face’in popüler Python kütüphanesinin JavaScript karşılığıdır. ONNX Runtime Web üzerine kuruludur ve WebGPU’yu çıkarım hızlandırıcı olarak kullanır. Desteklenen görev yelpazesi geniştir:

Niceleme (quantization), tarayıcı içi çıkarımın anahtarıdır: bir model 32-bit yerine 8-bit veya 4-bit ağırlıklarla saklandığında boyutu kat kat küçülür ve cihaz RAM’ine sığar. Tarayıcıda semantik arama veya RAG kurmak isteyenler için, üretilen embedding’lerin saklanacağı bir vektör veritabanı mimarisi tamamlayıcı parçadır; tarayıcıda üretip sunucuda indeksleyen hibrit kurulumlar yaygınlaşıyor.

Transformers.js’in API’si, kullanım kolaylığı için yüksek seviyeli bir pipeline soyutlaması sunar; geliştirici görev türünü ve model adını belirtir, kütüphane indirme, niceleme seçimi ve WebGPU/WASM yönlendirmesini perde arkasında halleder. Bu, Python tarafındaki Hugging Face deneyimini tarayıcıya birebir taşır. Whisper tabanlı ses-metin dönüşümü, tarayıcıda transkripsiyon yapan toplantı notu araçlarından, çevrimdışı çalışan dikte özelliklerine kadar geniş bir pratik alana sahiptir; ses verisi cihazdan hiç çıkmadığı için gizlilik-hassas senaryolarda özellikle değerlidir. Görüntü modelleri ise fotoğraf etiketleme, içerik moderasyonu ön filtresi ve erişilebilirlik için otomatik alt metin üretimi gibi kullanımlarda öne çıkar.

Gerçek Dünya Kullanım Senaryoları

Tarayıcıda yapay zeka soyut bir vaat değil, üretimde çalışan bir gerçekliktir. En değerli senaryolar:

• Gizlilik-öncelikli özellikler: Tıbbi not özetleme, hukuki belge analizi; veri cihazdan çıkmaz.
• Çevrimdışı PWA’lar: İnternet olmadan çalışan çeviri, transkripsiyon, akıllı form doldurma.
• Maliyet ölçekleme: Milyonlarca kullanıcıya çıkarım sunarken sunucu GPU maliyetini sıfırlamak; hesaplama yükü kullanıcı cihazına dağılır.

Bu yaklaşım, hesaplamayı kullanıcıya yaklaştırma trendinin uç noktasıdır; edge computing sunucuyu kullanıcıya yaklaştırırken, istemci tarafı çıkarım hesaplamayı doğrudan kullanıcı cihazına taşır. Maliyet modeli de kökten değişir: sunucu tabanlı çıkarımda her istek bir GPU saniyesi ve token maliyeti üretirken, istemci tarafı çıkarımda marjinal maliyet sıfırdır. Milyonlarca kullanıcıya hizmet veren bir uygulama için bu fark, aylık on binlerce dolarlık GPU faturasını ortadan kaldırabilir; hesaplama yükü, kullanılmayan kapasitesi zaten var olan kullanıcı cihazlarına dağılır.

Ancak bu modelin sınırı cihaz heterojenliğidir. Üst segment bir dizüstü ile giriş seviyesi bir telefon arasında GPU ve bellek farkı kat kat değişir. Bu yüzden olgun uygulamalar, cihaz yeteneğini tespit edip uygun model boyutunu seçen bir uyarlama (adaptive) katmanı kurar: güçlü cihaza tam model, zayıf cihaza küçük varyant veya sunucu yedeği sunulur.

Performans Optimizasyonu ve Önbellekleme

Tarayıcı içi çıkarımın en büyük dezavantajı modelin ilk indirme maliyetidir. Birkaç yüz MB’lık bir modeli her ziyarette indirmek kabul edilemez. Çözüm katmanlıdır: model ağırlıkları tarayıcı Cache API veya IndexedDB’de saklanır; ikinci ziyarette ağ isteği gitmez. Niceleme ile boyut küçültülür ve WebGPU mevcutsa otomatik seçilir, değilse WASM’a düşülür.

Niceleme seviyesinin seçimi, boyut ile doğruluk arasında bir denge gerektirir. Aşağıdaki tablo, tipik niceleme seçeneklerini ve etkilerini özetler.

Pratikte INT8 ve INT4, tarayıcı içi çıkarımın çalışma atıdır; FP32 modeller cihaz belleğine sığmaz. Karışık niceleme (önemli katmanlar yüksek hassasiyet, gerisi düşük) en iyi denge noktasını verir; çoğu hazır Transformers.js modeli bu varyantlarda yayınlanır.

İndirme deneyimini iyileştirmenin ikinci katmanı, modeli parçalı (chunked) ve akışlı (streaming) yüklemektir. Model ağırlıkları tek bir dev dosya yerine parçalara bölündüğünde, ilk parça inerken bir ilerleme çubuğu gösterilebilir ve kullanıcı bekleme süresini somut olarak algılar. Üçüncü katman önbellek geçerliliğidir: model sürümü bir karma (hash) ile etiketlenir; ağırlıklar değişmedikçe tarayıcı önbelleği kullanır, değiştiğinde yalnızca farkı indirir. Bu üç teknik bir araya geldiğinde, birkaç yüz megabaytlık bir modelin ilk yükleme maliyeti tek seferlik bir olaya dönüşür ve sonraki tüm ziyaretler anında başlar.

Tipik Sorunlar ve Çözümleri

Tarayıcıda yapay zeka kurulumlarında en sık karşılaşılan zorluklar; model boyutu, cihaz heterojenliği ve ana iş parçacığının (main thread) kilitlenmesidir. En kritik sorunlar ve doğrulanmış çözümleri:

• Büyük model indirme gecikmesi: Çözüm: IndexedDB/Cache API ile kalıcı önbellek; niceleme ile boyutu 4-bit’e indir; progresif yükleme göster.
• Ana iş parçacığı donması (UI freeze): Çözüm: çıkarımı Web Worker içinde çalıştır; ağır hesaplama ana thread’i asla bloke etmesin.
• WebGPU desteklenmeyen cihaz: Çözüm: özellik tespiti (feature detection) ile WASM yedeğine otomatik düş; kullanıcıya beklenen yavaşlamayı bildir.
• Cihaz RAM/VRAM yetersizliği: Çözüm: model boyutunu cihaz sınıfına göre seç; düşük segment için daha küçük (tiny) varyant sun.
• İlk çıkarım gecikmesi (warm-up): Çözüm: model yüklendikten sonra arka planda bir kez ısıtma (warm-up) çıkarımı çalıştır; ilk kullanıcı isteği hızlı olsun.
• Tarayıcı uyumsuzluk farkları: Çözüm: ONNX Runtime Web sürümünü sabitle, hedef tarayıcılarda test matrisi kur; davranış farklarını izle.

Sonuç

Tarayıcıda yapay zeka, WebGPU’nun yaygınlaşması ve Transformers.js’in olgunlaşmasıyla 2026’da deneysel olmaktan çıkıp üretim seçeneğine dönüştü. İstemci tarafı çıkarımın üç yıkıcı avantajı vardır: verinin cihazdan hiç çıkmaması (gizlilik ve KVKK/GDPR uyumu), ağ turunun olmaması (anlık gecikme) ve sunucu GPU maliyetinin sıfırlanması. Sınırı cihaz belleği belirler; bu yüzden niceleme ve doğru model boyutu seçimi kritiktir. Büyük LLM’ler hâlâ sunucuya aittir, ancak embedding üretimi, çeviri, özetleme, görüntü sınıflandırma ve transkripsiyon gibi görevler artık tarayıcıda mümkündür. Web Worker’da çalıştırın, agresif önbellekleyin, WASM yedeği bırakın; istemci tarafı yapay zekanın tüm potansiyeli bu mühendislik disiplininde açığa çıkar.

Sıkça Sorulan Sorular