DeepSeek, üretimde kullandığı DeepInfer'i açık kaynak yaptı

Çinli yapay zekâ laboratuvarı DeepSeek, 20 Ekim'de DeepInfer adlı çıkarım çerçevesini GitHub'da açık kaynak olarak yayımladı. Şirket DeepInfer'i "DeepSeek'in büyük ölçekli üretim hizmetlerine güç veren yüksek performanslı çıkarım çerçevesi" olarak tanımlıyor. Lisans Apache 2.0; yani yazılım ticari olarak kullanılabilir, değiştirilebilir ve dağıtılabilir, yeter ki lisans ve atıf bilgileri korunsun.

The Decoder ve The New Stack'in aktardığına göre DeepInfer; optimize edilmiş hesaplama çekirdekleri, modeli birden fazla çipe dağıtma, spekülatif kod çözme ve eşzamansız zamanlama gibi bileşenler içeriyor. Belirteçleri kodlayıp çözen deepseek-recipe bileşeni, DeepSeek'in resmî API'siyle uyumlu çalışıyor. Yazılım şimdilik DeepSeek-V4.1-Flash modelini hedefliyor; Nvidia'nın SM100 nesli GPU'larını ve Huawei'nin Ascend 950 çiplerini destekliyor. Belgelere göre ilk sürümde çevrim dışı çıkarım ve temel sunum özellikleri var; önbellek yönetimi, makineler arası aşama ayrımı ve kopyalar arası yük dengeleme henüz yok.

Bu eksikler, yazılımın şimdilik büyük ölçekli bir hizmetin tamamını değil, tek bir sunucu kümesinde verimli çalıştırmayı hedeflediğini gösteriyor.

The New Stack'e göre Huawei, desteklenen donanım yollarında Nvidia ile eşit yer alıyor. Bu tesadüf değil: DeepSeek geçen hafta 2026 sonuna kadar ön eğitimi de Huawei çiplerinde yapmayı planladığını söylemişti. Eylül sonunda da Ascend için çeşitli altyapı bileşenlerini açık kaynak yapmıştı. ABD'nin ihracat kısıtları Çinli şirketlerin en gelişmiş Nvidia çiplerine erişimini sınırlarken, DeepSeek yerli donanımı kendi yazılım yığınının eşit parçası hâline getiriyor. Aynı gün ABD İç Güvenlik Bakanlığı'nın DeepSeek'i federal sistemlerden çıkaran emri de yayımlandı.

Çıkarım (inference), eğitilmiş bir modelin kullanıcı sorusuna cevap üretmesi; bir yapay zekâ hizmetinin günlük maliyetinin büyük kısmı burada oluşuyor. Spekülatif kod çözme, küçük ve hızlı bir modelin sonraki kelimeleri tahmin etmesi, büyük modelin bunları toplu olarak doğrulaması yöntemi; doğru tahminlerde cevap belirgin şekilde hızlanıyor.

DeepSeek modellerini kendi sunucusunda çalıştırmak isteyen şirketler, artık DeepSeek'in kendi kullandığı yazılıma doğrudan erişebiliyor. Bu, açık modellerle kendi altyapısını kurmak isteyenler için maliyet hesabını değiştirebilir. Şirket, amacının topluluğun "hesaplama maliyetini düşürmesine, enerji kullanımını azaltmasına ve yapay zekâyı daha ulaşılabilir kılmasına" yardım etmek olduğunu söylüyor. Ancak henüz yayımlanmış bağımsız bir performans verisi yok ve V4.1-Flash dışındaki modellerin desteği doğrulanmadı.

Kendi altyapısını kuran şirketler için asıl soru, yazılımın kurulum ve bakım yükünün bulut API'sine ödenen ücretten gerçekten daha düşük olup olmadığı olacak.

DeepSeek, gelecekteki modellerin çıkarım kodunu da aynı çerçeveye ekleyeceğini söylüyor. Bağımsız ölçümler, yazılımın vLLM ve SGLang gibi yaygın açık kaynak alternatiflerle nasıl karşılaştırıldığını gösterecek. OpenAI ve Anthropic henüz yorum yapmadı.

DeepSeek, model ağırlıklarını açık yayımlamakla tanınıyordu; şimdi bu modelleri verimli çalıştıran yazılımı da açıyor. Bu iki adım birlikte, şirketlerin DeepSeek modellerini DeepSeek'e para ödemeden, kendi donanımlarında üretim kalitesinde çalıştırabilmesi anlamına geliyor. Kısa vadede gelir kaybı gibi görünse de, DeepSeek'in yazılımı ve Huawei donanımı etrafında bir ekosistem oluşturması, Çin'in Nvidia'ya bağımlılığını azaltma hedefiyle örtüşüyor.

Yapay zekâyı kendi altyapında çalıştırmayı düşünüyorsan bu haber seçenekleri genişletiyor, ama dikkat gerektiriyor:

• Maliyeti kendi verinle ölç. Bulut API'si ile kendi sunucunu kendi iş yükünle karşılaştır; vaatlere değil, faturaya bak.
• Mevzuatı kontrol et. Kamu ya da ABD'li kurumsal müşterilerin varsa DeepSeek kullanımı yeni yasak nedeniyle sorun olabilir.
• Lisansı oku. Apache 2.0 rahat bir lisans; ama modelin kendi lisansı yazılımdan ayrıdır.