ICT Media
Google Cloud, yapay zekâ altyapısına yönelik geliştirdiği sekizinci nesil Tensor Processing Unit (TPU) ailesini tanıttı. Yeni nesil, iki farklı çipten oluşuyor: eğitim süreçleri için geliştirilen TPU 8t ve çıkarım (inference) işlemlerine odaklanan TPU 8i.
Şirket, yapay zekâ sistemlerinin giderek daha karmaşık hale gelmesiyle birlikte tek tip donanım yaklaşımının yetersiz kaldığını belirtiyor. Bu nedenle TPU 8t ve 8i, farklı kullanım senaryolarına göre ayrı ayrı tasarlandı. TPU 8t, büyük ölçekli yapay zeka modellerinin eğitimi için geliştirildi. Yüksek hesaplama gücü ve geniş ölçeklenebilirlik sunan bu çip, binlerce işlem biriminin birlikte çalışabildiği sistemler içinde kullanılabiliyor. Yeni nesil mimari, önceki nesle kıyasla çok daha yüksek performans sunarak model eğitim sürelerini kısaltmayı hedefliyor.
TPU 8i ise gerçek zamanlı yapay zeka uygulamaları ve özellikle “ajan tabanlı” sistemler için optimize edildi. Bu çipte daha büyük yerleşik bellek ve düşük gecikme süresi ön plana çıkıyor. Böylece modellerin kısa süreli verileri doğrudan çip üzerinde tutabilmesi ve daha hızlı yanıt üretmesi mümkün hale geliyor. Yeni TPU’lar, Google’ın kendi geliştirdiği Arm tabanlı Axion işlemcilerle birlikte çalışıyor. Donanım ve yazılımın birlikte tasarlandığı bu yapı, yapay zekâ iş yüklerinde daha verimli bir performans sunmayı amaçlıyor.
Ayrıca şirket, çiplerin yalnızca tekil performansına değil, veri merkezleri arasındaki bağlantıya da odaklanıyor. Yeni ağ mimarileri sayesinde binlerce TPU’nun tek bir sistem gibi çalışabilmesi ve gecikmenin azaltılması hedefleniyor. Enerji verimliliği de öne çıkan başlıklardan biri. Yeni nesil TPU’ların, önceki nesle göre watt başına performansı önemli ölçüde artırdığı ve büyük ölçekli yapay zekâ sistemlerinin enerji maliyetlerini düşürmeyi amaçladığı belirtiliyor.
TPU 8t ve TPU 8i ile birlikte Google, yapay zekâ altyapısında eğitim ve çıkarım süreçlerini donanım seviyesinde ayıran bir yaklaşımı benimsiyor. Bu yaklaşım, özellikle büyük dil modelleri ve otonom yapay zekâ sistemlerinin yaygınlaşmasıyla birlikte altyapı ihtiyaçlarının daha da çeşitlendiğine işaret ediyor.
