Yeni işbirliği kapsamındaki açık kaynak projesi; yapay zeka politika gereksinimleri ile güvenli bir şekilde dağıtılan yapay zeka sistemleri arasındaki boşluğu kapatmak üzere Red Hat, Alquimia AI, Brave Software, EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü’nü bir araya getiriyor.
Red Hat, bugün yapay zeka yönetişim politikalarının ürüne hazır, güvenli şekilde dağıtılan yapay zeka sistemlerine dönüşme sürecini otomatikleştirmeyi amaçlayan açık kaynak topluluk projesi asago’nun kurulduğunu duyuruyor. asago; otomatik, denetlenebilir ve izlenebilir bir iş akışı oluşturmak amacıyla mühendislik ve uyumluluk ekiplerinin parçalı adımlarını, araçlarını ve gereksinimlerini birbirine bağlıyor. Proje; aylar veya yıllar yerine günler içinde inovasyonu besleyen daha güvenli ve üretime hazır yapay zeka sistemlerinin sunulmasına yardımcı olmayı amaçlıyor.
asago nedir?
Yapay Zeka Güvenliği ve Yönetişim Orkestrasyonu anlamına gelen AI Safety And Governance Orchestration sözcüklerinin baş harflerinden oluşan asago karmaşık kurumsal ve düzenleyici yapay zeka yönetişim politikalarını somut operasyonel kontrollere dönüştürmek için standartlaştırılmış bir açık kaynak platformu ve otomatik iş akışı kullanmayı planlıyor. Açık Güvenli Yapay Zeka İttifakı’nın (Open Secure AI Alliance) üyeleri olarak Red Hat ve NVIDIA’nın yürüttüğü çalışmaların üzerine inşa edilen proje, geliştirici esnekliğini dört ana aşamada operatör yönetişimiyle uyumlu hale getiriyor:
- Risk haritalandırma: Çerçeve, yüklenen yapay zeka yönetişim politikalarını otomatik olarak okuyup yorumlayarak bir kurumun spesifik gereksinimlerini IBM AI Risk Atlas aracılığıyla NIST AI RMF, OWASP LLM Top 10, AB Yapay Zeka Yasası (EU AI Act) gibi yerleşik Yapay Zeka Risk çerçevelerine, ontolojilerine ve standartlarına doğrudan haritalandırıyor; böylece politika dilini uygulanabilir risk profillerine dönüştürüyor.
- Risk değerlendirmesi: asago, yalnızca genel kıyaslamalara dayanmak yerine zararlı davranışları araştırarak, tespit edilen risklere özel otomatik güvenlik testleri için kullanım senaryolarına özgü senaryolar üretiyor ve yürütüyor.
- Risk azaltma: Proje daha sonra, testlere dayalı güvenlik bariyerleri dahil olmak üzere risk azaltma yöntemleri önererek incelemeye hazır net bir gerekçe ve denetim izi oluşturuyor.
- Üretim ortamına dağıtım: asago ardından önerilen kontrolleri, hibrit bulut ve Kubernetes dahil olmak üzere platformlar genelinde dağıtıma hazır konfigürasyonlara dönüştürerek orkestre ediyor ve manuel altyapı kodlaması ihtiyacını ortadan kaldırıyor.
Bu adımların her biri, tekil politika maddelerini doğrudan testlere ve çalışma zamanı kontrollerine bağlayarak kesintisiz bir denetim izi üretecek şekilde inşa ediliyor; böylece denetçilerin her bir eylemin tam olarak hangi riski ele aldığını görmelerine olanak tanınıyor. Bu durum, yapay zeka güvenliğini daha öngörülebilir ve yönetilen bir kurumsal altyapı hizmetine dönüştürmeye yardımcı oluyor.
asago neden önemli?
Soyut politika yönergelerini işlevsel yazılım konfigürasyonlarına dönüştürmek, yapay zeka inovasyonunu yavaşlatırken insan kaynaklı iletişim eksiklikleri ve yanlış anlaşılmalardan doğan riskleri de artırıyor. Uyumluluk yetkilileri titiz risk değerlendirmelerine ve doğrulanabilir kanıtlara ihtiyaç duyarken, platform mühendisleri standart DevOps ve GitOps iş akışları içinde sürdürülebilecek yapılandırılmış konfigürasyonlara ihtiyaç duyuyor. AB Yapay Zeka Yasası (EU AI Act) gibi geniş kapsamlı düzenlemeler yürürlüğe girdikçe kurumlar, ne aylarca süren manuel incelemelerle inovasyonu durdurma ne de uygun güvenlik bariyerlerinden yoksun, izlenmeyen gölge yapay zeka uygulamaları oluşturma riskini göze alabiliyor.
asago; uyumluluk ekiplerinin, veri bilimcilerinin ve altyapı yöneticilerinin üzerinde birleşebileceği tek ve açık bir standart sunarak bu uyuşmazlığı çözmeyi hedefliyor. Her paydaşı birinci sınıf kullanıcı olarak ele alan platform, manuel dönüştürmelerin yarattığı tutarsızlıklara yol açmadan otonom yapay zeka ajanları ve kurumsal büyük dil modelleri (LLM’ler) için güvenlik kontrolleri oluşturuyor.
