Etched adındaki bir şirketin yeni tanıttığı yapay zeka çip kasaları önemli bir gündem oluşturmuş durumda. Şirketin ana amacı, tamamen inference süreçleri için uygun bir sistem mimarisi yaratmak. Etched ürününü şu aşamada diğer Nvidia rakiplerinden ayıran konu, şirketin komple bir sistem ile geliyor olması ve tedarik ve üretim süreçlerindeki bazı sorunlara hızlı yanıtlar verebildiklerini ifade etmesi. Inference süreçleri için çok daha az sayıda görev tanımı olduğu, bugünün GPU’larının özellikle training gibi süreçler nedeniyle buradaki verimliliğinin kısıtlı kaldığını öne süren şirket, tamamen inference odaklı olunduğunda hem gecikme hem de maliyet olarak Nvidia’yı geride bırakabileceğini iddia ediyor ve testlerinde de daha iyi performans gösterdiğini belirtiyor. Hafıza kullanımı tarafında HBM ve SRAM kullanımına sahip ancak hafızanın birbirine bağlanması tarafında daha optimize ve hızlı bir model kurmuş durumdalar. En kritik unsurlardan bir tanesi ise çip içi voltaj seviyelerini aşağı çekmek. Çip içerisindeki voltaj aşağı çekildiğinde enerji tüketimi aşağı geliyor ve inference için gerekli iş yükleri daha verimli çalışıyor. Buradaki kritik konu Nvidia’nın training için de kullanılan GPU çiplerine, farklı görevlerde farklı voltaj talepleri nedeniyle uymayan bir strateji olması. Buradan maliyet açısından önemli bir avantaj devşiriliyor gibi görünüyor, 800V hedefi aslında dışarıdaki voltaj için konulan bir hedef, bu akıma baktığımızda gelen ve işlenen Voltaj farkı, Vicor gibi şirketleri daha önemli yapacaktır. Çiplerin test süreçlerinde ana silikon gelmeden kullanılan FPGA testlerindeki başarıları sayesinde ise direkt satılabilir duruma gelmeleri 40 gün gibi kısa bir süreye inmiş durumda, özellikle Cerebras gibi şirketlerin yaşadığı en büyük problemlerden bir tanesi buradaki test ve sahaya inme süresiydi. Etched şirketi bize inference tarafında ne kadar farklı mimarilerin gelebileceğini ve spesifik uzmanlığın ne kadar genişleyeceğini gösteriyor. Hardware maliyetleri sadece üretim ile değil, tasarımın spesifikleşmesinden de destek bulacak. Qualcomm, Etched, Cerebras, Google, Amazon şirketlerinin hepsi bu pastadan bir pay kapmak istiyorlar ve kapacaklardır. Etched şirketinin gerçek saha rakamlarını gördükçe daha rahat konuşabiliriz ancak şu anda pek iyi gelişmeler değil. Hardware tarafında da fazla kapasite ve fazla rekabet göreceğiz, sadece biraz zaman gerekli. Diğer konuyu da okuyunca burası daha anlamlı olacak.
Meta, birkaç çeyrektir konuştuğumuz fazla kapasite korkusunu yeniden canlandırdı ve bir Cloud unit kuracağını belirtti. Burada neocloud benzeri bir yapı olacak ve fazla kapasite kiralanacak. Bu, 2 anlama geliyor, birincisi AI talebi sonsuz değil. AI ile yapılabilecek olan şeyler şu anda sonsuza giden bir eğride değil, sektörün içerisinde bazı şirketler fazla kapasite sorunu yaşıyor bazı şirketler ise düşük kapasite ile karşı karşıyalar. SpaceX tarafından bunu görmüştük, şimdi Meta da bu kadar çip ile ne yapacağını bilemiyor. Belli ki Muse Sparks tarafının da ölçeği belli bir düzeyde olacak. İkinci anlamı ise AI capex harcama döngüsünde ilk yavaşlama alınmış olabilir. Hyperscaler şirketlerin sermaye harcamalarının durmaksızın gelişen seyrine bir darbe inecek mi göreceğiz. Belli ki Meta daha iyi bir sermaye getirisi elde edemiyor ve piyasaya kendi çiplerini sürüyor, buradan bir capex indirimi gelmesi ihtimal dahilinde. Neocloudlar başta olmak üzere tüm çip sektörü için kötü bir haber, GPU kiralama maliyetlerinin nasıl bir seyir izleyeceğini göreceğiz. Yazılım sektörü için ise açığa çıkacak olan arz, marjinal maliyet açısından pozitif bir gelişme olacağı için hardware-software dönüşümü izleyebiliriz. Endeks bazında ise hardware oyuncularının ağırlığına baktığımızda düşüş baskısı yaşanabilir.
Utku Oktay Acundeğer
