Alibaba Group, yapay zekâ altyapısında çığır açan bir yeniliğe imza attı. Şirket, Aegaeon adını verdiği yeni hesaplama havuzu sistemiyle büyük dil modeli işlemlerinde Nvidia GPU gereksinimini yüzde 82 oranında düşürdü. Yenilik, Güney Kore’nin Seul kentinde düzenlenen 31. İşletim Sistemleri İlkeleri Sempozyumu’nda tanıtıldı.
Aegaeon Sistemi GPU Kullanımını Büyük Oranda Azalttı
Alibaba Cloud’un model pazarında üç ay süren denemelerde Aegaeon sistemi, 1.192 Nvidia H20 biriminin kullanımını yalnızca 213’e indirdi. Sistem, 72 milyar parametreye kadar sahip onlarca modeli aynı anda çalıştırarak verimlilikte yeni bir standart oluşturdu. Denemeler sonucunda tek bir GPU, aynı anda yedi farklı büyük dil modeline hizmet verebilir hâle geldi. Model geçiş sürelerinde ise yüzde 97’lik bir hızlanma sağlandı.
Alibaba Cloud ve Pekin Üniversitesi’nden araştırmacılar, sistemin bulut tabanlı yapay zekâ operasyonlarındaki kaynak israfına doğrudan çözüm sunduğunu belirtti. Araştırmaya göre, Alibaba Cloud pazarında GPU’ların yüzde 17,7’si toplam işlemlerin yalnızca yüzde 1,35’ini gerçekleştiriyordu.
Aegaeon, model işlemleri sırasında kaynakları otomatik olarak yeniden dağıtarak GPU’ların görevler arasında geçiş yapmasını sağlıyor. Alibaba Cloud Teknoloji Direktörü Zhou Jingren liderliğinde geliştirilen sistem, model çalıştırma esnasında token düzeyinde otomatik ölçekleme yaparak kaynak kullanımını en üst düzeye çıkarıyor. Zhou Jingren, Aegaeon’un sadece donanım verimliliğini artırmakla kalmadığını, aynı zamanda yapay zekâ uygulamalarının daha geniş ölçekte sunulmasına da katkı sağladığını ifade etti.
Alibaba’nın geliştirdiği yeni sistem, ABD ile Çin arasındaki teknoloji geriliminin yoğunlaştığı dönemde stratejik bir adım olarak değerlendiriliyor. Nvidia CEO’su Jensen Huang, Çin pazarındaki gelişmiş yapay zekâ çiplerinde şirketin payının yüzde 95’ten sıfıra indiğini açıklamıştı. Çin yönetimi, yerli teknolojiye yönelerek Alibaba ve ByteDance gibi şirketleri yerli donanım çözümlerine yatırım yapmaya teşvik ediyor.
Alibaba, Aegaeon sistemini artık resmen Bailian model pazarında kullanıyor. Şirketin Qwen dil modellerini kurumsal müşterilere sunan bu platform, Çin’in yapay zekâ alanındaki bağımsızlık stratejisinde önemli bir konuma sahip.
Alibaba, Aegaeon sistemiyle yapay zekâ altyapısında hem enerji hem donanım açısından büyük bir verimlilik sağladı. Nvidia GPU’larına olan bağımlılığın azalması, şirketin küresel rekabet gücünü artırırken Çin’in teknoloji alanındaki stratejik hedeflerine de katkı sunuyor.
