Yapay zekâ uygulamalarının yaygınlaşmasıyla birlikte GPU kaynaklarının verimli kullanımı veri merkezleri için kritik bir konu hâline gelirken, NVIDIA paylaşımlı GPU altyapılarında birden fazla kullanıcıya ait Kubernetes kümelerinin güvenli şekilde çalıştırılmasına yönelik yeni bir mimariyi tanıttı.

Şirketin geliştirici blogunda paylaşılan teknik çalışmada, aynı fiziksel GPU altyapısının farklı kullanıcılar veya ekipler tarafından kullanılmasına rağmen iş yüklerinin birbirinden izole edilmesini sağlayan yöntemler ele alındı. Böylece hem kaynak kullanımının artırılması hem de güvenlik ve performanstan ödün verilmemesi hedefleniyor.

NVIDIA, bu yapıda Kubernetes’in çok kiracılı (multi-tenant) yapısıyla GPU paylaşım teknolojilerini bir araya getiriyor. Donanım seviyesinde izolasyon sağlayan Multi-Instance GPU (MIG), NVIDIA GPU Operator ve Kubernetes yönetim araçları birlikte kullanılarak farklı kullanıcıların aynı fiziksel GPU üzerinde bağımsız çalışma ortamlarına sahip olması mümkün oluyor.

Bu yaklaşımın özellikle kurumsal yapay zekâ platformları, bulut hizmet sağlayıcıları ve büyük ölçekli veri merkezleri için önem taşıdığı belirtiliyor. GPU kaynaklarının daha yüksek verimle kullanılmasının yanı sıra, altyapı maliyetlerinin düşürülmesi ve yeni yapay zekâ iş yüklerinin daha hızlı devreye alınması da hedefleniyor.

NVIDIA’ya göre paylaşımlı GPU mimarileri, yapay zekâ yatırımlarının hız kazandığı dönemde altyapı kaynaklarının daha etkin kullanılmasına katkı sağlayacak ve çok kullanıcılı Kubernetes ortamlarında güvenlik ile performans arasında denge kurulmasına yardımcı olacak.