İkinci Nesil EPYC İşlemciler: AMD Sunucular İçin Yazdığı Destanın İkinci Cildini Yayınladı

Moscone Center’in devasa kongre salonlarında onlarca yıl süren Intel hükümdarlığı, San Fransisko Güzel Sanatlar Sarayı’nın avlusunda son buldu. AMD’nin ikinci nesil EPYC sunucu işlemcilerinin tanıtıldığı, Enterprise Next olarak San Fransisko’da yerinde izlediğimiz AMD EPYC Horizon etkinliğine dair detaylı izlenimlerimizi sizlerle paylaşıyoruz.

Enterprise Next olarak 7 Ağustos 2019’da San Fransisko’da düzenlenen, AMD’nin 2ikinci nesil EPYC işlemcilerini tanıtacağı AMD Horizon basın toplantısının davetlisiydik. AMD’nin sunuculara özel tasarladığı ve pek çok yeniliği beraberinde getiren yeni işlemcilere dair detayları toplantının hemen sonrasında sizlerle paylaşmıştık. Bu yazıda etkinliğin üzerinden adım adım geçerek, bu yeni teknolojinin beraberinde neler getirdiğini ve üzerimizde bıraktığı izlenimlere yer vereceğiz.

7 Ağustos sabahı, günün ilk toplantısı Palace Hotel’in konferans salonunda AMD Teknoloji ve Mühendislikten Sorumlu Başkan Yardımcısı Mark Papermaster’in sunumuyla başladı. “2017 yılında veri merkezlerinde çığır açmak üzere sunuculara özel ilk EPYC işlemcilerimizi duyurmuştuk” dedi Papermaster. “Yeni işlemcilerimizle daha fazla çekirdek, daha fazla bellek ve daha avantajlı sahip olma maliyeti vaat ediyorduk. Ama bu bizim için sadece teknolojik bir yeniliğin duyurusu değil, aynı zamanda uzun bir yolculuğun başlangıcıydı. Bu yolculuğun ikinci adımını sizlerle paylaşmak için buradayız.”

İkinci nesil EPYC işlemciler, dünyanın 7 nanometre üretim teknolojisine sahip ilk yüksek performanslı x86 işlemcileri olmasıyla öne çıkıyor. Aslında bu bile kendi başına daha küçük alanda daha fazla performans, daha az enerji tüketimi ve daha ideal termal verimliliği beraberinde getiriyor. Ama AMD mühendisleri sadece en son üretim teknolojisini işlemcilerine aktarmakla kalmamış. İşlemcinin çoklu çekirdek etkinliğini artırmak ve giriş çıkış birimleri arasındaki koordinasyonu hızlandırmak için tasarımda pek çok yapısal değişikliğe gitmişler. Tek bir işlemciye 64 çekirdek sığdırmış, soket başına 4 TB belleği sunucuların emrine vermişler.

Papermaster bu noktada “Biz endüstride küçük kardeş olabiliriz, ama yaptığımız işe tutkuyla bağlıyız” gibi bir şey söyledi. Böyle söyleyince de Doyle Dane Bernbach’ın 1962’de Avis için yaptığı ünlü “We Try Harder” reklam kampanyası geldi aklıma. “Eğer ikinciyseniz daha çok çalışmak, daha iyi hizmet vermek için daha geçerli bir sebebiniz vardır” diyordu Bernbach.

Reklamlarındaki değişimden korkmayın mesajı da biraz bunu destekler nitelikte.

Neymiş Bu Yapısal Reformlar?

Papermaster’in ardından yeni işlemcinin mimarisini kurgulayan isimlerden AMD mühendisleri Mike Clark ve Kevin Lepak söz aldı. Tabii ki bir mühendisten bekleyebileceğiniz türde sunumlardı. Her birinin yanına tamam işaret koyulmuş X2APIC, CLWB, UMIP, WBNOINVD, RDPRU ve benzeri bol miktarda kısaltma, kalabalık bir şehrin üstten görünümünü andıran işlemci blokları, çok yazı az görsel eşliğinde işlemciyi tasarlarken ortaya koydukları yapısal reformlardan bahsettiler.

AMD EPYC Mimarisinin arkasında yer alan silikon bükücüler: Mike Clark ve Kevin Lepak

Sunumlarından yakalayabildiğim bazı ilginç detayları madde madde paylaşayım:

  • İşlemci çekirdeklerinin 7nm teknolojisiyle üretilmesi 14nm’ye kıyasla iki kat fazla transistör yoğunluğunu, eş güçte 1,25 kat daha yüksek saat frekansı ve eş performansta yüzde 50 güç tasarrufunu beraberinde getirmiş. Yetmemiş, Infinity Architecture dedikleri bir mimariyle tüm bunları kendi aralarında optimize etmişler. Dallanma öngörüsü artmış, tamsayı (integer) performansı yükselmiş, kayar nokta (floating point) performansı iki kat artmış, bellek erişim süresi azalmış.
  • İşlemcilerde çekirdekler 7nm olsa da merkezde yer alan giriş çıkış (I/O) ünitesi halan 14nm. “Biz aslında bunu da 7nm yapmayı düşündük ama gördük ki I/O ünitesini oluşturan bileşenler ölçeklemeyle pek iyi geçinemiyor” dediler. Üstelik kocaman I/O ünitesini 7nm’ye taşımak maliyeti önemli ölçüde artıracakmış. Attıkları taşın ürküttükleri kurbağaya değmeyeceğini anlayınca I/O ünitesini öyle bırakmışlar.
  • İkinci nesil EPYC işlemciler ilk nesil soketlerle uyumlu. Tabii en iyi performansı yine kendi koşullarında veriyor. İşlemciyi ilk nesle uyumlu platforma yerleştirdiğinizde 10.7 GT/s (GigaTransfer/Saniye) performans elde ederken, kalk da yerine yat deyip kendi platformuna yerleştirirseniz 128 şeritli PCIe 4 yollarının etkisiyle performansı 18 GT/s’e çıkıyor.
  • Güvenlik için işlemciye 32 bit ARM Cortex A5 tabanlı ayrı bir çekirdek entegre etmişler. Kendine özgü güvenli işletim sistemi ve kernel bulunduran bu işlemci, bellek şifreleme anahtarlarını bizzat yönetiyor. x86 tarafı buna hiçbir şekilde karışmıyor. Böylece işlemci fiziksel bellek saldırılarına karşı direnç oluşturuyor.
  • İşlemci ayrıca Secure Encrypted Virtualization (SEV) özelliğiyle aynı platformdaki sanal makineleri birbirlerine karşı koruma altına alıyor ve hipervizörleri misafir sanal makinelerden uzak tutuyor.

Bu Kadar Gücü Kim Nerede Kullanacak?

Bireysel sistemlerde performans artışının etkisini oyunlar ve ağır iş yükü gerektiren uygulamalar haricinde pek hissetmiyor olabilirsiniz. Oysa sunucular sürekli değişen iş yüklerinin altından, üstelik fiziksel olarak kısıtlı bir alanda kalkmaya çalışıyorlar.

Kadın gücü: Sağda AMD CEO’su Lisa Su, solda Twitter altyapısını ayakta tutan mühendislerden Jen Fraser.

Neden? Çünkü sunuculara ev sahipliği yapacak bir veri merkezi kurgulayacaksanız belli koşulları karşılamanız gerekiyor. İklimlendirme sistemleri, yangın ve depreme karşı alınacak önlemler, fiziksel güvenlik, yedekli enerji altyapısı ve daha pek çok şey. Bunlar da bir kez kurduktan sonra hadi deyince genişleyebilen şeyler değil. Günün sonunda belli fiziksel sınırlar içinde, daha yoğun hizmet vermek zorunda olduğunuz bir ortamda buluyorsunuz kendinizi.

İş öyle bir noktaya gidiyor ki, transistörün etrafını saran soğuk hava ve içinden geçen elektronun maliyeti neredeyse donanımın üzerine çıkacak.

“Indiana Üniversitesindeki herkes elimize kağıt kalem alıp saniyede bir hesap yapsaydık, yeni işlemcinin 1 saniyede aldığı sonucu ortaya koymak için 27 yıl çalışmamız gerekirdi.”

İşte bu yüzden daha az alanda daha yüksek performans sunan ve daha az enerji harcayan sistemler endüstrinin geleceği açısından çok önemli. Yüksek performanslı bilgi işlem, hiper ölçeklenebilir bulut hizmetleri ve sanallaştırma, makine öğrenmesi, büyük veri analizi ve yazılımla kurgulanan altyapılar gibi kavramların ortaya koyduğu ihtiyaçlar, veri merkezlerini daha fazla performans, daha fazla ölçeklenebilirlik, daha fazla güvenlik ve daha yüksek finansal verimlilik baskısıyla karşı karşıya bırakıyor. Etrafımızdaki her şeyi dokunmatik ekrana dönüştürecek, 5G ve nesnelerin interneti derken diyerek 50 milyar cihazı internete bağlayacak bir gelecek hayal ediyorsak veri merkezlerini hazır tutmamız lazım.

Bu nedenle AMD CEO’su Dr. Lisa Su, San Fransisko Güzel Sanatlar Sarayı’nda konuşmak için sahneye çıktığında “Çağdaş veri merkezleri yeni ilhamlara ihtiyaç duyuyor” diye başladı söze. “2017’de bunun için bir söz vermiştik, şimdi verdiğimiz sözü tutmaya devam ediyoruz.”

Su, AMD’nin EPYC ile veri merkezlerini dönüştürme yolculuğunun bundan 5 yıl önce başladığını anlattı. “5 yıl önce bunu başarmak için pek çok unsura odaklanmamız ve bunları en iyi şekilde bir araya getirmemiz gerektiğini gördük” dedi Su. “Hedefimiz tüm fiyat seviyelerinde en iyi performansı, sahip olma maliyetini ve operasyonel verimliliği sunmaktı. Ama bunları tek bir adımda, tek bir nesilde yapamayacağımızın farkındaydık. Adım adım, öğrenerek ilerlememiz gerekiyordu.”

Bundan 5 yıl önce endüstrinin ve teknolojinin gideceği yöne dair bir öngörü oluşturmuş ve bu yolda devam etmişler. Mevcut koşullarda teknolojinin 5 yıl sonra nereye varacağını görmek zor bir iş. Ama tahminleri tutmuş. Ekosistem de destek verince, dünyanın (şimdilik) en yüksek performanslı x86 işlemcisini ortaya koymuşlar. Lafla da bırakmamış, tam 80 farklı dünya rekoru kırmışlar. Düz aritmetikten kayar noktaya, SSD’lere veri aktarımından aynı anda barındırılabilen sanal makine sayısına kadar deneyim alanı gibi bir yerde tek tek sergilediler.

Öyle kıl payı rekorlar da değil.

Sunucularda Performans Eğrisi Yeniden Şekillendi

Bu aynı zamanda işlemci performans eğrisinin doğrusal bir düzlemden kopması anlamına geliyor ki bizi en çok heyecanlandıran da bu oldu (link). Normalde herkes bir basamak yükselmelerini beklerken neredeyse 4 basamak birden sıçramışlar. Rakiplerinin birkaç ay önce duyurduğu üst uç ürünün iki katı performans ortaya koymuşlar. Oyunun kuralını değiştirmişler.

Sunularda bazı karşılaştırmalara da yer verdiler. 8, 16, 32 ve 64 çekirdek sürümleri bulunan yeni nesil EPYC işlemci daha 32 çekirdekte Intel Xeon Platinum serisini geride bırakıyor. Çift soketli üst uç Xeon Platinum sistemin performansı, tek soket 64 çekirdekli yeni nesil EPYC’e yetişemiyor.

AMD’nin ikinci nesil EPYC işlemcileri benchmarklarda Intel Xeon Platinum performansını 32 çekirdekle geride bırakırken, çift soketli Xeon Platinum sistem 64 çekirdekli AMD işlemcinin tek soketteki performansına yetişemiyor.

Gerçek dünyadan bir örnek isterseniz Indiana Üniversitesi profesörü çıktı ve şunu dedi: “Öğrenciler dahil üniversitedeki herkes elimize kağıt kalem alıp saniyede bir hesap yapsaydık, bu işlemcinin 1 saniyede aldığı sonucu ortaya koymak için 27 yıl aralıksız çalışmamız gerekirdi.”

Peki ya fiyatlar? En üst model olan AMD EPYC 7742 64 çekirdek işlemcinin fiyatı 6 bin 950 dolar iken, onun yarısı civarı performans gösteren üst uç Intel Xeon Platinum 8280M’in fiyatı 13 bin 12 dolara karşılık geliyor. İşletme maliyeti avantajını da işin içine katarsanız bu işlemcilerle harcadığınız dolar başına 4 kat verim alırsınız dediler.

Sabah otel odasında televizyonu açtığımda Tummy Tuck diye bir şeyin reklamı vardı. Sözde termal kremi göbeğinize sürüp üstüne korse geçirip 10 dakika bekliyormuşsunuz, bunu 1 ay boyunca yaparsanız göbek eriyip gidiyormuş. Hani AMD’nin vaat ettiği şey de neredeyse o ayarda.

Ama bu gerçek.

Rekabetin Kuralları Baştan Yazılıyor

Lansmandan çıkarken düşündüm. Intel birkaç yıl öncesine kadar her yıl San Francisco’daki Moscone Center’da Intel Developer Forum etkinliği düzenler, yeniliklerini burada anlatırdı. Moscone Center’in devasa kongre salonlarında onlarca yıl süren hükümdarlık, o gün San Fransisko Güzel Sanatlar Sarayı’nın avlusunda son buldu.

“Moscone Center’in devasa kongre salonlarında onlarca yıl süren Intel hükümdarlığı, San Fransisko Güzel Sanatlar Sarayı’nın avlusunda son buldu.”

Bu arada son bir not daha paylaşayım. AMD, yeni işlemcilerini tanıtırken laf arasında bir sonraki nesil olan Milan adlı işlemcinin tasarım süreçlerinin tamamlandığından da bahsetti. Bunu aslında bu bir biz yolculuk ve biz de arkasındayız mesajını desteklemek için söylediler, yine de aklıma takıldı. Sordum, bu açıklama Osborne etkisi yaratmaz mı? Yani bugünden yeni bir şeyin beklentisini yaratmak, müşterilerin mevcut ürünü sipariş etmek yerine yeni modeli beklemesine neden olmaz mı?

Verilen cevap bu konuda bir endişeleri olmadığı yönündeydi. “Bir yonganın tasarımının hazır olması demek işin ancak yarısının bittiği anlamına gelir” dediler. “Kaldı ki mevcut rekabet ortamında performansa siz yatırım yapmazsanız rakibiniz yapar ve geride kalırsınız. Bu yüzden Milan vaadimizin ikinci nesil EPYC’lerle ilgili bir talep sıkıntısı yaratacağını düşünmüyoruz.”

Bu vesileyle işlemci güncellemelerinin yaygın işletim sistemlerinin destek bitimi gibi tarihlerle uyumlu olacak şekilde planlandığını öğrendim. Hazır yazılıma el atmışken şu donanıma da bir bakıver mantığı. İlginç bir detaymış.

Peki ya Intel?

Tüm bunlar olurken Intel sanırım coğrafi etiketlemeyle Twitter akışlarımız arasına “bildiğimiz ve güvendiğimiz platform” vaadiyle yeni duyuracağı 56 çekirdekli işlemcilerin reklamını sıkıştırmakla meşguldü. Sonrasında bir de basın bülteni yayınladılar.

Bakalım bu rekabetin ucu nereye varacak. Merakla bekliyoruz…

Sizin de bu konuda söyleyecekleriniz mi var?