Microsoft, yapay zekâ için Maia 300 çipini tanıttı

Microsoft, 12 Ekim'de kendi tasarladığı üçüncü nesil yapay zekâ hızlandırıcısı Maia 300'ü tanıttı. Şirket, çipin 2027'den itibaren çok gigavatlık bir ölçekte Azure veri merkezlerine kurulacağını ve Copilot dahil Microsoft hizmetlerinin ana çıkarım donanımı olacağını açıkladı. Microsoft, model eğitimi için Nvidia ve AMD ile çalışmayı sürdürüyor; Maia 300'ün hedefi, eğitilmiş modellerin kullanıcılara cevap ürettiği çıkarım aşaması.

Maia 300 tek parça bir çip değil; hesaplama, bellek denetimi ve giriş-çıkış için ayrı yonga parçalarından (chiplet) oluşuyor. Hesaplama parçaları TSMC'nin 2 nanometre sınıfı N2P sürecinde üretiliyor; destek silikonunun bir kısmı daha ucuz 3 nanometre sürecinde. Her çipte sekiz HBM4 bellek yığını var: toplam 288 GB bellek ve saniyede 18 TB bant genişliği. Çip FP4 hassasiyette 13,8 petaflop, FP8'de 6,9 petaflop hesaplama gücü sunuyor ve 950 vat tüketiyor. Bir rafta 96 hızlandırıcı yer alıyor; raf 167 kilovat çekiyor ve toplamda 27,6 TB belleğe ulaşıyor.

Şirkete göre Maia 300, bir önceki nesil Maia 200'e kıyasla raf ölçeğinde yedi kata kadar daha fazla token üretiyor ve vat başına performansı 2,5 kattan fazla artırıyor. Microsoft ayrıca çipin, GPU tabanlı sistemlere göre megavat başına yüzde 40 daha fazla token ürettiğini söylüyor. Bu rakamlar şirketin kendi ölçümleri; bağımsız testler henüz yayımlanmadı. Ağustostaki haberlere göre Microsoft, 2027 için TSMC ile 300 binden fazla Maia 300 üretimi konusunda görüşüyordu.

Çıkarım, eğitilmiş bir modelin soruya cevap üretmesi; modeller bir kez eğitilip milyarlarca kez çalıştırıldığı için yapay zekâ harcamalarının ağırlığı giderek bu tarafa kayıyor. HBM, işlemcinin hemen yanına istiflenen yüksek bant genişlikli bellek; büyük modellerin hızını çoğu zaman hesaplama gücünden çok bellek belirliyor. Token ise modellerin metni işlerken kullandığı küçük parçalar; bir kelime genellikle bir ila iki token ediyor. Yapay zekâ hizmetleri de çoğunlukla token başına fiyatlanıyor.

Büyük bulut şirketlerinin hepsi kendi çipine yöneliyor: Google'ın TPU'su, Amazon'un Trainium'u ve şimdi ölçeği büyüyen Maia. Amaç Nvidia'ya bağımlılığı azaltmak ve en büyük maliyet kalemi haline gelen çıkarımı ucuzlatmak. Microsoft'un Maia'yı ana çıkarım donanımı olarak konumlaması, Copilot ve Azure üzerindeki yapay zekâ hizmetlerinin birim maliyetini doğrudan etkileyecek. Bu rekabet, uzun vadede kullanıcıya daha düşük fiyat ya da aynı fiyata daha güçlü model olarak dönüyor.

Kurulum 2027'de başlayacak. O zamana kadar en çok merak edilen konu, Microsoft'un iddia ettiği verimliliğin bağımsız ölçümlerde doğrulanıp doğrulanmayacağı ve TSMC'nin 2 nanometre kapasitesinin bu talebi karşılayıp karşılayamayacağı.

Microsoft ilk kendi yapay zekâ çipi Maia 100'ü 2023 sonunda duyurmuştu. O nesil sınırlı sayıda iç iş yüküyle denendi. Maia 200 ile şirket daha geniş bir kullanıma geçti; Maia 300 ise ilk kez gigavat ölçeğinde, yani birkaç büyük enerji santralinin üretimine denk bir elektrik tüketimini hedefleyen bir kurulum için tasarlandı. Bu ölçek, Microsoft'un çipi bir deneme olmaktan çıkarıp altyapısının omurgası yapmaya karar verdiğini gösteriyor. Şirket aynı dönemde veri merkezi enerji anlaşmalarını ve sıvı soğutma yatırımlarını da artırıyor.

Çip yarışı doğrudan senin faturana yansıyor. Pratik çıkarımlar:

• Yapay zekâ maliyetini sabit sayma. Token fiyatları her yıl düşüyor; bugün pahalı bulduğun bir otomasyon gelecek yıl kârlı hale gelebilir.
• Uzun süreli sabit sözleşmeden kaçın. Kullanım bazlı fiyatlama, düşen maliyetten otomatik yararlanmanı sağlar.
• Copilot ve benzerlerini dene. Microsoft bu hizmetleri kendi çipiyle ucuzlatmaya çalışıyor; ofis işlerinde yapay zekâ kullanımı yaygınlaşacak.
• Bugün küçük başla, ölç. Hangi işte ne kadar zaman kazandırdığını şimdiden ölçersen, fiyat düştüğünde nereye ölçekleyeceğini bilirsin.