Endüstrideki ilk 1,15 milyar nöronlu nöromorfik sistem olan Hala Point, daha verimli ve ölçeklenebilir yapay zekâya giden yolun taşlarını döşüyor.
Intel, dünyanın en büyük nöromorfik sistemini kurduğunu açıkladı. İlk olarak Sandia National Laboratories’te (Sandia Ulusal Laboratuvarları) konuşlandırılan ve Intel’in Loihi 2 işlemcisini kullanan Hala Point kod adlı bu büyük ölçekli nöromorfik sistem, geleceğin beyinden ilham alan yapay zekâ araştırmalarını desteklemeyi amaçlıyor ve günümüz yapay zekâsının verimliliği ve sürdürülebilirliğiyle ilgili zorlukların üstesinden geliyor. Hala Point, Intel’in ilk nesil büyük ölçekli araştırma sistemi olan Pohoiki Springs’i, 10 kattan fazla nöron kapasitesi ve 12 kata kadar daha yüksek performansa ulaşmak üzere mimari iyileştirmelerle geliştiriyor.
Intel Nöromorfik Bilişim Laboratuvarı Direktörü Mike Davies, “Günümüzün yapay zekâ modellerinin bilişim maliyetleri sürdürülebilir olmayan bir hızla artıyor. Endüstrinin, ölçeklendirme kapasitesine sahip, bütünüyle yeni yaklaşımlara ihtiyacı var. Tam da bu yüzden, derin öğrenme verimliliğini beyinden ilham alan yeni öğrenme ve optimizasyon yetenekleriyle bir arada sunan Hala Point’i geliştirdik. Hala Point ile yapılan araştırmaların, büyük ölçekli yapay zekâ teknolojisinin verimliliğini ve uyarlanabilirliğini geliştireceğini umut ediyoruz” dedi.
ala Point, ana akım yapay zekâ iş yüklerinde en ileri hesaplama verimliliklerini sergileyen ilk büyük ölçekli nöromorfik sistem olarak öne çıkıyor. Karakterizasyon, konvansiyonel derin sinir ağlarını çalıştırırken watt başına saniyede 15 trilyon 8 bit işlemi (TOPS/W) aşan bir verimliliğe sahip olan Hala Point’in, saniyede 20 katrilyona kadar işlemi yahut 20 petaops’u destekleyebileceğini gösteriyor. Dolayısıyla, Hala Point grafik işlem birimleri (GPU) ve merkezi işlem birimleri (CPU) üzerine inşa edilen mimarilerin ulaştığı seviyelerle rekabet ediyor ve bu seviyeleri aşıyor. Benzersiz yetenekleri sayesinde, bilimsel problemlerin ve mühendislik problemlerinin çözümü, lojistik, akıllı şehir altyapı yönetimi, büyük dil modelleri (LLM’ler) ve akıllı ajanlar (AI agent) gibi yapay zekâ uygulamaları için gelecekte gerçek zamanlı sürekli öğrenmeyi mümkün kılabilir.
Sandia National Laboratories’teki araştırmacılar Hala Point’i beyin ölçeğinde ileri bilişim araştırmaları için kullanmayı planlıyor. Kuruluş; cihaz fiziği, bilgisayar mimarisi, bilgisayar bilimi ve bilişim alanlarındaki bilimsel hesaplama sorunlarını çözmeye odaklanacak.
Hala Point şu anda, gelecekteki ticari sistemlerin yeteneklerini geliştirecek bir araştırma prototipini temsil ediyor. Intel, bu gibi derslerin LLM’lerin yeni verilerden sürekli olarak öğrenebilmesi gibi pratik ilerlemelere yol açacağını öngörüyor. Söz konusu ilerlemeler ise, yaygın yapay zekâ dağıtımlarının sürdürülemez eğitim yükünü önemli ölçüde azaltmayı vaat ediyor.
Derin öğrenme modellerini trilyonlarca parametreye ölçeklendirmeye yönelik son trendler, yapay zekâda ürkütücü sürdürülebilirlik zorluklarını ortaya çıkarırken, donanım mimarisinin en düşük seviyelerinde inovasyon ihtiyacını da vurguladı. Nöromorfik bilişim, veri hareketini minimuma indirmek için bellek ve hesaplamayı son derece granüler paralellik ile entegre eden sinirbilim içgörülerinden yararlanan bütünüyle yeni bir yaklaşımdır. Bu ay gerçekleşen International Conference on Acoustics, Speech, and Signal Processing’de (Uluslararası Akustik, Konuşma ve Sinyal İşleme Konferansı – ICASSP) yayınlanan sonuçlara göre Loihi 2, ortaya çıkan küçük ölçekli uç iş yüklerinin verimliliğinde, hızında ve uyarlanabilirliğinde büyüklük sırasına göre kazanımlar olduğunu gösterdi1.
Selefi Pohoiki Springs üzerinde yapılan çok sayıda iyileştirmeyle geliştiren Hala Point, özellikle video, konuşma ve kablosuz iletişim gibi gerçek zamanlı iş yüklerini işleyen ana akım konvansiyonel derin öğrenme modellerine nöromorfik performans ve verimlilik kazanımları getiriyor. Sözgelimi Ericsson Research, bu yılki Mobile World Congress’te (Mobil Dünya Kongresi) vurgulandığı üzere, telekom altyapı verimliliğini optimize etmek için Loihi 2’den yararlanıyor.
Hala Point Hakkında: Hala Point’in temelini teşkil eden Loihi 2 nöromorfik işlemciler, enerji tüketimi ve performansta büyüklük sırasına göre kazanımlar elde etmek amacıyla zaman uyumsuz, olay tabanlı iğnecikli sinir ağları (SNN’ler), entegre bellek ve hesaplamanın yanı sıra, aralıklı ve sürekli değişen bağlantılar gibi ilhamını beyinden alan bilişim ilkelerini uygular. Bellek üzerinden iletişim kurmak yerine, doğrudan birbirleriyle iletişim kuran nöronlar, genel güç tüketimini azaltır.
Hala Point, Intel 4 işlem düğümünde üretilen 1.152 Loihi 2 işlemciyi mikrodalga fırın büyüklüğünde altı raflı bir veri merkezi kasasında paketliyor. 140.544 nöromorfik işlem çekirdeği üzerine dağıtılmış 1,15 milyar nöron ve 128 milyar sinapsı destekleyen bu sistem, maksimum 2.600 watt güç tüketiyor. Buna ilave olarak, yardımcı hesaplamalar için 2.300’den fazla gömülü x86 işlemci içeriyor.
İşleme, bellek ve iletişim kanallarını büyük ölçüde paralelleştirilmiş bir yapıya entegre eden Hala Point, saniyede toplam 16 petabayt (PB/s) bellek bant genişliği, 3,5 PB/s çekirdekler arası iletişim bant genişliği ve saniyede 5 terabayt (TB/s) çipler arası iletişim bant genişliği sağlıyor. Sistem saniyede 380 trilyondan fazla 8-bit sinaps ve 240 trilyonu aşkın nöron işlemi gerçekleştirebiliyor.
İlhamını biyolojiden alan iğnecikli sinir ağı (SNN) modellerine uygulanan sistem, 1,15 milyar nöronluk tam kapasitesini bir insan beyninden 20 kat daha hızlı ve daha düşük kapasiteleri 200 kata kadar daha hızlı çalıştırabilir. Hala Point sinirbilim modellemesi için tasarlanmamış olmakla birlikte, nöron kapasitesi kabaca bir baykuş beyni yahut bir kapuçin maymununun korteksine eşdeğerdir.
Loihi tabanlı sistemler, geleneksel CPU ve GPU mimarilerinden 50 kat daha yüksek hızlarda 100 kat daha az enerji kullanarak yapay zekâ çıkarımı yapabilir ve optimizasyon problemlerini çözebilir1. Hala Point üzerinde elde edilen ilk sonuçlar, sistemin 10:1’e kadar seyrek bağlantı ve olay odaklı etkinlikten yararlanarak, GPU’lar için yaygın bir optimizasyon olan ve kameralardan gelen video gibi gerçek zamanlı olarak gelen verilerin işlenmesini önemli ölçüde geciktiren girdi verilerinin yığınlar halinde toplanmasını gerektirmeksizin, 15 TOPS/W2 kadar yüksek derin sinir ağı verimliliklerine ulaşabileceğini kanıtlıyor. Halen araştırma aşamasında olmakla birlikte, sürekli öğrenme yeteneğine sahip geleceğin nöromorfik LLM’leri, sürekli büyüyen veri kümeleriyle periyodik olarak yeniden eğitme ihtiyacını ortadan kaldırarak gigawatt-saatlerce enerji tasarrufu sağlayabilir.
Sırada Ne Var: Hala Point’in Sandia National Labs’a verilmesi, Intel’in araştırma işbirlikçileriyle paylaşmayı planladığı yeni bir büyük ölçekli nöromorfik araştırma sistemleri ailesinin ilk dağıtımını temsil ediyor. İleride yapılacak geliştirmeler sayesinde, nöromorfik bilişim uygulamaları, yapay zekâ yeteneklerinin gerçek dünyada, gerçek zamanlı dağıtımını sınırlayan güç ve gecikme kısıtlamalarının üstesinden gelebilecek.
Intel, dünyanın dört bir yanındaki önde gelen akademik gruplar, devlet laboratuvarları, araştırma kurumları ve şirketleri de içeren 200’ü aşkın Intel Nöromorfik Araştırma Topluluğu (INRC) üyesinden oluşan bir ekosistemle birlikte, beyinden ilham alan yapay zekânın sınırlarını zorlamak ve bu teknolojiyi önümüzdeki yıllarda araştırma prototiplerinden endüstri lideri ticari ürünlere dönüştürmek amacıyla çalışmalar yürütüyor.
