Geçtiğimiz günlerde Nvidia’nın NVlink denen GPU ölçeklendirme sisteminin protokllerini açacağına dair haberler geliyordu ve Broadcom’un tanıttığı yeni switchler ile beraber Nvidia’nın open source’laşma sürecinden faydalabileceğini düşünüyorduk. Ancak sektörde gördüğümüz son tartışmalar biraz daha enteresan gündemlere işaret eder durumda.
Öncelikle NVlink nedir? NVlink, Nvidia’nın GPU’lar arası bağlantı ve ölçeklenme altyapısını sağlayan hat. 8 adet çip birbiri ile koordine çalıştırmak görece daha kolay bir süreç ancak yeni NVlink hatlarındaki gibi 72 adet GPU çipini beraber çalıştırmak oldukça zorlu bir süreç. Çip içerisinde birbiri ile kontak kuran 2 adet ana hattan bahsedebiliriz, bunlardan birincisi CPU’lar ve GPU’lar arasındaki bağlantıyı kuran PCIe protokolü, diğeri ise GPU’ları ortak çalıştırabilen NVlink benzeri protokoller. Birazdan bu ayrım da önem kazanacak.
Huawei, AMD gibi şirketlerin Nvidia’yı yakalayamamasının aslında ama sebebi Nvidia’nın NVlink benzeri network hatlarını da kullandığı, yazılım desteğini arkasına aldığı ekosistem özelliği. Burada Broadcom’un ürettiği switch ürünleri GPU-GPU kadar küçük ölçekli değil, daha büyük paketleri birleştiren ürünler ve ASICS çipleri GPU-GPU bağlantısını özel protokoller üzerinden closed source olarak kuruyor. Aslında ASICS çiplerin bu kadar spesifik görevlerde başarılı olması ancak görev tanımlarında esnekliğe sahip olamaması biraz da bundan kaynaklanıyor. Bu closed source protokoller nedeniyle başka ASICS paketleri birbirleri ile ölçeklenemiyor.
Bu network hatlarının önemi bahsettiğimiz üzere çok önemli ve Nvidia, NVlink protokolünü paylaşacağını açıklamış olsa da bunu yapmadığını, yalnızca belli başlı şirketlere bu protokolü paylaştığını sektördeki tartışmalardan görebiliyoruz. Buna tepki olarak, UAlink adında yeni bir oluşum kendisini gösterdi. Bu oluşum, ex-Nvidia dünyasının bir NVlink benzeri protocol yaratarak open source şekilde ölçeklenebilmesi misyonuna sahip. Kurucuları arasında Apple, AMD, AWS, Marvel, Astera Labs, Broadcom bulunuyor. Nvidia hariç ürünlerin birbirine bağlanabilmesi ve ölçeklenme konusunda uzman bir şirketin burada tüm UAlink ekibine yardım etmesi, rekabeti çok arttıracaktır.
Ancak geçtiğimiz günlerde yine enteresan bir gelişme oldu ve Broadcom bu protokolden çıktığını açıkladı. Broadcom, buradaki UALink protokolünde NVlinkin karşısına çıkacak olan oyuncuydu. Peki Broadcom neden çıkmış olabilir?
Broadcom, şu anda ex-Nvidia dünyasının tartışmasız lideri konumunda. ASICS çipler, AWS, Azure, Google Cloud gibi şirketlerin alsında Coreweave, Oracle gibi tamamen Nvidia altyapısı satan şirketlere göre en ciddi avantajları. Hem kendilerine özgü software destekleri ile birer platform olmaları, hem de şu aşamada bu Nvidia devlerinin likidite primi denen yeni gelen çip modellerini en erken satışa sunma üzerinden ekstra ücretler almalarına karşı maliyet avantajı oluşturmaları, Cloud şirketlerinin yarattığı başlıca fark. Broadcom eğer burada Nvidia harici ekosistemi open source olarak güçlendirirse kendi pazarından kaybedebilir ve tek Nvidia alternatifi rolünden taviz verebilir. Diğer nedeni ile risk-reward olarak değmeyecek bir süreç olması çünkü bu protokoller çok maliyetli. Bu maliyetleri ödese de ana değeri closed source sistemler olan Broadcom için pek mantıklı olmayabilir. Broadcom, Nvidia’nın karşısına çıkmamayı ve el birliği ile götürdükleri çip sektörüne dokunmamayı seçmiş durumda.
Broadcom’un çekilmesi ile UAlink’teki protokolü Astera Labs veya Marvel üstlenebilir, Astera daha çok konuşuluyor. Astera Labs, yazının başında bahsettiğimiz PCIe yani CPU-GPU bağlantısını kurduğu için zaten ciddi bir know-how sahibi üzerine bir de UAlink süreçlerini yürütürlerse çok önemli bir network ekosistemi haline gelebilirler. Broadcom’un kaybedeceği şeyler var ancak Astera’nın o kadar yok. Marvel de bu alanda öne çıkacak isimlerden olabilir.
UAlink, Nvidia’ya karşı treni kaçırmakta olan şirketlerin ortak kurduğu, Intel ve AMD’nin Nvidia’nın karşısına çıkabilmek için son şansı olabilir. AMD hala önceden sahaya çıkmış Blackwell çiplerinin karşısına çıkacak tasarımlarını tanıtmaya çalışıyor, sahada ancak hafıza avantajı ile H100 çipleri geçebiliyor. ROCm denen yazılım ekosistemleri ise Nvidia’nın çok gerisinde ve tüm geliştirmelere ragmen Nvidia bugün geliştirmeleri bıraksa aradaki farkın ancak 3 senede kapanacağı düşünülüyor. Ekosistemleşme ve sistem üzerinde komple bir ürün yaratmak çok önemli, open source’un önemi ise malum. Muhtemelen bu süreçler kısa orta vadede sonuç vermeyecek ve Nvidia ekosisteminden kimseyi koparamayacak çünkü Nvidia’nın yeni network ürünleri çok ciddi performans artışı sağlıyor olacak. AMD için belki de izlenmesi gereken süreç yeni çıkardıkları çiplerin silikon bazlı performans metriklerinin yaratacağı muhtemel hayal kırıklığından çok burası olmalı. ZT devralmasının çok önemli ve doğru olduğunu daha önce belirtmiştik, UAlink bu stratejiyi toptan değiştirebilir, pek zannetmesek de.
Bilanço açıklamalarında UAlink meselesi muhtemelen popüler bir konu olacaktır.
Utku Oktay Acundeğer
