Neural Magic’in üretken yapay zekâ performans mühendisliği ve model optimizasyon algoritmaları, Red Hat AI’yı geliştirerek üretim yapay zekasını daha erişilebilir ve ulaşılabilir hale getirmeye yardımcı olacak.
Red Hat, üretken yapay zekâ (gen AI) çıkarım iş yüklerini hızlandıran yazılım ve algoritmalarda öncü olan Neural Magic’i satın alma işlemini tamamladığını duyurdu. Neural Magic ile Red Hat, çıkarım performansı mühendisliği ve model optimizasyonu alanındaki uzmanlığını artırarak, şirketin hibrit bulutta ihtiyaç duyulan her yerde benzersiz müşteri kullanım durumlarıyla doğrudan eşleşen yüksek performanslı yapay zeka iş yükleri vizyonunu ilerletmeye yardımcı oluyor.
Günümüzün gen yapay zeka kullanım durumlarının temelini oluşturan büyük dil modelleri (LLM’ler) yenilikçi olmakla birlikte, çoğu kuruluşun etkili bir şekilde kullanması için genellikle çok pahalı ve yoğun kaynak gerektiriyor. Bu zorlukların üstesinden gelmek için Red Hat, bilgi işlem mimarileri ve dağıtım ortamları genelinde açık inovasyonla yönlendirilen daha küçük, optimize edilmiş ve açık kaynak lisanslı modelleri, yapay zeka stratejilerinin gelecekteki başarısının anahtarı olarak görüyor.
Neural Magic’in optimize edilmiş ve verimli yapay zeka modellerini gerçeğe dönüştürme konusundaki taahhüdü, Red Hat’in bu yapay zeka vizyonunu gerçekleştirme yeteneğini daha da güçlendiriyor. Neural Magic, ayrıca UC Berkeley tarafından açık model sunumu için geliştirilen açık kaynaklı bir proje olan vLLM’nin önde gelen katkı sağlayıcılarından biri olduğu için bu gelişme kurumların yapay zekâ iş yüklerini oluşturma ve devreye alma yöntemlerinde daha fazla seçenek ve erişilebilirlik sunulmasına katkı sağlayacak.
Hibrit buluta hazır üretken yapay zekanın geleceği
Neural Magic’in teknoloji ve performans mühendisliği uzmanlığı ile Red Hat, yapay zekanın dönüştürücü gücüne erişimi daha da demokratikleştirmek için açık kaynak inovasyonunu kullanarak geniş ölçekli kurumsal yapay zekanın zorluklarını aşmayı hedefliyor:
- Kurumsal veri merkezlerinde, çoklu bulutlarda ve uçta olmak üzere hibrit bulutta ihtiyaç duyulan her yerde ve her yerde çalışabilen, 1B’den 100’lerce milyar parametre ölçeğine kadar açık kaynak lisanslı modeller.
- Kurumların LLM’leri kendi özel verilerine ve kullanım durumlarına göre daha güçlü bir güvenlik ayak iziyle daha kolay özelleştirmelerini sağlayan ince ayar yetenekleri;
- Daha fazla operasyonel ve altyapı verimliliği ile sonuçlanan çıkarım performansı mühendisliği uzmanlığı ve
- İş ortağı ve açık kaynak ekosistemi ile LLM’ler ve araçlardan sertifikalı sunucu donanımına ve temel çip mimarilerine kadar daha geniş seçeneklere olanak tanıyan destek yapıları.
Müşterilerin geniş seçeneklere sahip olması, birkaç yıl önce bulut yerlisi veya konteynerli uygulamalarda olduğu gibi bugün de üretken yapay zeka için çok önemli: Doğru ortam (bulut, sunucu, uç, vb.), hızlandırılmış bilgi işlem ve çıkarım sunucusu, başarılı gen yapay zeka stratejileri için kritik önem taşıyor. Red Hat, Neural Magic’in satın alınmasıyla bu vaadi daha da destekleyerek, yapay zeka da dahil olmak üzere hibrit bulut genelinde müşteri seçimine olan bağlılığını sürdürüyor.
Red Hat AI: Yapay Zeka için açık kaynaklı bir omurga
Neural Magic’in uzmanlığı ve yetenekleri, Red Hat’in üretken YZ platform portföyü olan Red Hat AI’ye entegre edilecek. Hibrit bulut göz önünde bulundurularak tasarlanan Red Hat AI şunları kapsıyor:
Red Hat Enterprise Linux AI (RHEL AI): Linux sunucu dağıtımlarında kurumsal uygulamalarda IBM Granite ailesine ait açık kaynak lisanslı büyük dil modellerini (LLM’ler) daha sorunsuz bir şekilde geliştirmek, test etmek ve çalıştırmak için bir temel model platformu.
Red Hat OpenShift AI: Makine öğrenimi modellerini hızlı bir şekilde geliştirmek, eğitmek, sunmak ve izlemek için araçlar sunan bir yapay zeka platformu. Bu platform, şirket içi, genel bulut veya uç noktadaki dağıtılmış Kubernetes ortamlarıyla uyumlu olarak çalışıyor.
InstructLab: Red Hat ve IBM tarafından oluşturulan, açık kaynak lisanslı Granite LLM’lerin InstructLab’ın ince ayar teknolojisi ile iş birliği içinde geliştirilmesini sağlayarak gen AI’nin geleceğini şekillendirme imkânı sunan kullanıcı dostu bir açık kaynak yapay zeka topluluk projesi.
vLLM, LLM Compressor, önceden optimize edilmiş modeller ve daha fazlası, Red Hat AI’ye entegre edilecek ve bu da Neural Magic’i Red Hat’in yapay zeka platformu tekliflerinin ayrılmaz bir parçası haline getirecek.
Red Hat Başkan ve CEO’su Matt Hicks konuyu şöyle değerlendirdi:
“Verimlilik, optimizasyon ve seçenekler, geleneksel kurumsal BT söz konusu olduğunda benzersiz kavramlar değildir ve üretken YZ’nin de farklı olmaması gerektiğini düşünüyoruz. Neural Magic’in üretken YZ performans mühendisliği ve optimizasyonundaki uzmanlığını Red Hat AI’ye ekleyerek, iş yüklerinin nerede çalıştığından nasıl ayarlandığına ve eğitildiğine kadar müşterilerin benzersiz ihtiyaçlarına cevap veren bir üretken yapay zekaya olan bağlılığımızı daha da güçlendiriyoruz.”
Neural Magic CEO’su Brian Stevens ise “Neural Magic’in açık kaynaklı yapay zeka konusundaki araştırma ve teknik katkıları, en son teknoloji büyük dil modellerinin ölçeklenerek dağıtılması için gereken altyapıyı önemli ölçüde azalttı. Red Hat, YZ’nin Geleceği’nin Açık Olması gerektiği vizyonumuzu paylaşıyor. Birlikte, işletmelerin üretken YZ’nin değerini tüm sıkıntılardan kaçınarak yakalamalarına yardımcı olmayı dört gözle bekliyoruz” dedi.
