İşNet’in yeni platformu Gao Kaptan, Kubernetes ortamları, GPU kaynakları ve yapay zekâ modellerinin tek noktadan yönetilmesini sağlıyor. Self-servis yapı sayesinde kurumlar ihtiyaç duydukları altyapıya dakikalar içinde erişebilirken, kullandıkça öde modeliyle kaynak kullanımı ve maliyetler de takip edilebiliyor.

Yapay zekâ uygulamalarının yaygınlaşmasıyla birlikte Kubernetes tabanlı iş yükleri, GPU kapasitesi, depolama ve maliyet yönetiminin birlikte ele alınması, kurumların bulut altyapılarında merkezi yönetim ihtiyacını artırıyor. İşNet, bu ihtiyaca yönelik geliştirdiği Gao Kaptan platformunu kullanıma sundu.

İşNet’in İstanbul’daki uluslararası Tier IV sertifikalı veri merkezi altyapısı üzerinde çalışan Gao Kaptan, Kubernetes operasyonları, GPU kaynakları ve platformda sunulan dil modelleriyle yapay zekâ iş yüklerinin tek bir platformdan yönetilmesine olanak tanıyor.

Platform üzerinden geliştiriciler ve BT ekipleri, Kubernetes tabanlı uygulamalarını kısa sürede devreye alabiliyor. CPU, RAM ve GPU kaynakları ihtiyaca göre kullanılabilirken, iş yüklerine bağlı olarak ölçeklendirme yapılabiliyor. Kullanılmayan kaynakların uyku moduna alınabilmesi de kaynak kullanımının optimize edilmesine yardımcı oluyor.

İşNet Proje Yönetimi ve Yazılım Geliştirme Grup Müdürü Şeyda Polat, yapay zekâ ve bulut projeleri büyüdükçe Kubernetes ortamları, GPU kapasitesi ve altyapı maliyetlerinin yönetiminin daha önemli hale geldiğini belirtti.

Polat, Gao Kaptan’ı geliştiricilerin ve BT ekiplerinin ileri düzey Kubernetes uzmanlığına ihtiyaç duymadan uygulamalarını devreye alabilecekleri, yapay zekâ modelleri ve GPU kaynaklarına hızlı şekilde erişebilecekleri bir platform olarak geliştirdiklerini söyledi. Platformla operasyonel süreçlerin sadeleştirilmesi ve geliştirme ekiplerinin yenilikçi projelere daha fazla zaman ayırabilmesi hedefleniyor.

Altyapıya self-servis erişim

Gao Kaptan’ın self-servis yapısı, kurumların satış veya onay süreçlerini beklemeden platforma erişebilmesine imkân tanıyor. Kullanıcılar web üzerinden hesap oluşturarak bakiye yükleyebiliyor ve GPU kaynakları ile yapay zekâ modellerini kullanmaya başlayabiliyor. Bu yapı, geliştirme ortamlarının daha kısa sürede oluşturulmasına ve projelerin test aşamasına hızlı şekilde geçirilmesine olanak sağlıyor.

Kubernetes yönetimi tek noktadan yapılabiliyor

Platform üzerinden konteyner ve pod oluşturma, yönetme, durdurma ve yeniden çalıştırma işlemleri gerçekleştirilebiliyor. Canlı log takibi, tanılama araçları ve web terminali sayesinde uygulamaların çalışma durumu platform üzerinden izlenebiliyor. Port yönlendirme ve kalıcı URL özellikleriyle servislere internet üzerinden erişim sağlanırken, API desteği de Gao Kaptan’ın mevcut uygulama ve sistemlere entegre edilmesine imkân veriyor.

Depolama ve yedekleme araçları

Gao Kaptan üzerinden kalıcı depolama alanları oluşturulup boyutlandırılabiliyor. Otomatik senkronizasyon, snapshot alma, zamanlanmış yedekleme ve tek komutla geri yükleme özellikleriyle verilerin korunması ve gerektiğinde hızlı şekilde geri yüklenmesi sağlanıyor.

Yapay zekâ modelleri ve GPU kaynakları

Platform, açık kaynaklı yapay zekâ modellerinin kullanılmasına ve mevcut uygulamalara entegre edilmesine de imkân tanıyor. OpenAI ile uyumlu API desteği sayesinde uygulamalar, kapsamlı kod değişikliklerine gerek kalmadan farklı büyük dil modelleriyle çalışabiliyor. NVIDIA GPU kaynakları iş yüklerine göre atanırken, MIG desteğiyle yüksek kapasiteli GPU kaynakları farklı iş yükleri arasında izole şekilde paylaşılabiliyor. Yapay zekâ modelleri düşük gecikmeli ve ölçeklenebilir çıkarım altyapısında çalıştırılabiliyor.

Platformda yer alan yapay zekâ asistanı ise kaynak ve uygulama yönetimi gibi işlemlerin daha kolay yürütülmesine yardımcı oluyor.

Kullandıkça öde modeli

Gao Kaptan’da LLMaaS hizmetleri kullanılan token sayısına, GPU hizmetleri ise saatlik kullanım süresine göre ücretlendiriliyor. Kullanıcılar yalnızca kullandıkları kapasite için ödeme yaparken bakiye, kullanım geçmişi, maliyet ve faturalama bilgilerini tek ekrandan görebiliyor. Gao Kaptan, Kubernetes yönetiminden GPU ve yapay zeka kaynaklarına erişime kadar farklı altyapı ihtiyaçlarını tek platformda bir araya getirerek kurumların uygulama geliştirme süreçlerini hızlandırmayı ve kaynak kullanımını daha görünür hale getirmeyi amaçlıyor.