Huawei, hiper ölçekli veri merkezlerinde yapay zeka çıkarımını hızlandırmak için OceanStor M900 Bağlam Bellek Depolama çözümünü tanıttı

HUAWEI CONNECT 2026 etkinliğinde, Huawei Yönetim Kurulu Başkan Yardımcısı ve Dönüşümlü Yönetim Kurulu Başkanı David Wang, açılış konuşması sırasında OceanStor M900 Bağlam Bellek Depolama sistemini resmi olarak tanıttı.

PRNewswire / ŞANGHAY (İGFA) - Hiper ölçekli veri merkezlerinde yapay zeka çıkarım işlemleri için tasarlanan bu ürün, SuperPoD'lara PB ölçeğinde kapasite ve TB/s düzeyinde performans sunan tamamen paylaşımlı bir bellek alanı sağlar. Bu, yapay zeka altyapısında hesaplama odaklı bir modelden, hesaplama, ağ ve depolama arasında derin bir işbirliğine doğru bir dönüşümü ifade ediyor. Bu da SuperPoD'ların hesaplama gücünü tam olarak ortaya çıkarmaya yardımcı olacaktır.

2026 yılında, yapay zekanın teknolojik atılımlardan büyük ölçekli uygulamaya geçişi hız kazanmıştır. Yapay zeka uygulamaları, sohbet robotlarından karmaşık görevleri kendi başına yerine getirebilen sistemlere doğru gelişmiştir. Bu ajanlar, kritik sektörlerde yaygın olarak benimsenmekte olup, ajan tabanlı yapay zeka çağının başlangıcını işaret ediyor.

Büyük modellerin parametre sayısı 10 trilyon ölçeğine ulaştıkça, SuperPoD'lar yapay zeka altyapısı için en uygun seçenek haline gelmektedir. Yaygın olarak kullanılan büyük modeller, halihazırda bir milyon token'ı aşan bağlam pencerelerini desteklemektedir; çok aşamalı çıkarım ve karmaşık görevler artık norm haline gelmiştir ve çıkarım sırasında üretilen KV önbellek verilerinin hacmi artmaya devam etmektedir. Bu eğilimler, yonga içi bellek ve DRAM'ın kapasite ve maliyet etkinliği açısından sınırlarını aşmasına neden olmuştur. Çip içi bellek, DRAM ve SSD'leri birbiriyle uyumlu hale getirerek devasa kapasiteli, tamamen paylaşımlı bir bellek alanı oluşturmak üzere çok katmanlı bir depolama sistemi kurmak, sektörde genel bir mutabakat haline gelmiştir.

Huawei, ultra uzun bağlamlı ve çok turlu çıkarım işlemlerinde ortaya çıkan bellek kapasitesi darboğazlarını aşmak amacıyla OceanStor M900 Bağlam Bellek Depolama çözümünü piyasaya sundu. OceanStor M900, UnifiedBus ağını kullanarak tek adımlı bağlantılara sahip, PB ölçeğinde, küresel çok katmanlı bir KV önbelleği oluşturur. Bu, SuperPoD'ların hesaplama gücü potansiyelini tam anlamıyla ortaya çıkarır ve hiper ölçekli veri merkezlerinde yapay zeka çıkarımını hızlandırır. OceanStor M900 Bağlam Bellek Depolama Sisteminin üç temel özelliği vardır:

KAPASİTE SINIRLARINI AŞARAK BÜYÜK ÖLÇEKLİ YAPAY ZEKAYI DEVASA BELLEK İLE GÜÇLENDİRMEK

Yüksek hızlı UnifiedBus bağlantı ağı sayesinde KV önbelleği, kademeli depolama ile küresel havuz oluşturma ve paylaşım sağlar. SuperPoD'ların KV önbelleği, yonga içi bellek ve DRAM'den SSD'lere genişletilerek tek bir kümenin 64 PB kapasite sunmasını sağlıyor. NPU başına kullanılabilir KV önbellek kapasitesi gigabaytlardan terabaytlara yükseltildi; bu sayede daha fazla bağlamın depolanması, paylaşılması ve yeniden kullanılması mümkün hale geldi. Bu, KV önbellek isabet oranını önemli ölçüde artırır.

HESAPLAMA GÜCÜNÜ TAM OLARAK ORTAYA ÇIKARMAK İÇİN ÇIKARIM PERFORMANSINI ARTIRMA

OceanStor M900, CPU, ağ denetleyici birimi ve NAND denetleyici birimini tek bir çatı altında birleştiren sektörün ilk mimarisidir. SuperPoD'un NPU'sundan SSD'lere tek adımlı bağlantı sağlanabilmesi için yerel KV semantiği sunar. Bu sayede protokol dönüştürme ve CPU aracılığıyla iletim gerekliliği ortadan kalkar; erişim gecikmesi milisaniyelerden 60 mikrosaniyeye düşürülür, yani %90 oranında azalır. Tek bir küme, benzer çözümlere kıyasla 1,5 kat daha yüksek olan 40 TB/s toplam erişim bant genişliği sunar. Tipik yapay zeka programlama senaryolarında bu mimari, çıkarım kümesinin token işleme kapasitesini iki katına çıkarır ve ilk tokenin elde edilme süresini yarıya indirir; böylece hesaplama gücünü verimliliğe dönüştürür.

TOKEN MALİYETLERİNİ DÜŞÜREREK EKONOMİK VE BÜYÜK ÖLÇEKLİ A I BENİMSEMESİNİ SAĞLAMAK

OceanStor M900, sektörün ilk KV duyarlı uyarlanabilir depolama teknolojisini kullanır; bu teknoloji, veri değerine göre KV önbellek yaşam döngülerini tahmin eder ve verileri depolama ortamları arasında akıllı bir şekilde dağıtır. Bu teknoloji, günde 24 adede kadar sürücü yazma işlemi (DWPD) kapasitesi sunarak SSD'nin dayanıklılığını 16 kat artırıyor ve üç yıl boyunca istikrarlı çalışma sağlıyor. Medya değiştirme ve işletme ve bakım maliyetlerini azaltarak, büyük ölçekli yapay zeka çıkarım altyapısının uzun vadeli maliyetlerini düşürür ve yapay zekanın daha hızlı benimsenmesini sağlar.

Yapay zeka, her türlü sektördeki büyük ölçekli üretim sistemlerine yaygınlaştıkça, yapay zeka altyapısı hesaplama odaklı bir modelden, hesaplama-ağ-depolama arasında daha sıkı bir işbirliğine doğru evrim geçiriyor. Bağlam belleği depolaması, hiper ölçekli çıkarım KV önbelleklerinin kapasitesini ve erişim verimliliğini sürekli olarak artırmak için hayati önem taşıyacaktır.