Veri merkezleri daha yoğun ve enerji tüketen sistemlere doğru ilerlerken, altyapı üzerindeki baskı artıyor. Yeni nesil 19 inçlik sunucu raflarının güç talepleri 120 kilovatı aşmış durumda. Özellikle büyük yapay zeka modellerinin artan ihtiyaçları, bu eğilimi daha da hızlandırıyor.
Fujitsu araştırmacılarına göre, yapay zeka sistemlerindeki parametre sayısı her üç yılda bir yaklaşık 32 kat artıyor. Nvidia gibi çip tasarımcıları, bu modelleri desteklemek için GPU’lar arasında saniyede 1,8 terabayt veri aktarımı sağlayan yüksek hızlı bağlantılar kullanıyor. Bu sayede sekiz veya daha fazla GPU, tek bir cihaz gibi çalışabiliyor.
Ancak bu hızda veri taşımak, bakır kablolarda sinyalin korunabileceği mesafeyi ciddi şekilde sınırlıyor. Mevcut teknolojiyle bakır kablolar üzerinden maksimum bir veya iki metreye ulaşılabiliyor. Daha uzun mesafeler için optik bağlantılar kullanılıyor. Ancak optik sistemler şu an hem verimsiz hem de yeterince hızlı değil.
2024’te düzenlenen GTC konferansında Nvidia CEO’su Jensen Huang, 72 GPU’dan oluşan NVL72 raf sistemlerini birbirine bağlamak için bakır yerine optik kullanılması durumunda sistemin 20 kilovat daha fazla enerji gerektireceğini belirtmişti.
