Red Hat, Yapay Zeka Güvenliği ve Yönetişimini Otomatikleştiren asago Projesini Duyurdu
Red Hat, yapay zeka yönetişim politikalarının ürüne hazır ve güvenli şekilde dağıtılan yapay zeka sistemlerine dönüştürülmesini otomatikleştirmeyi amaçlayan açık kaynak topluluk projesi asago‘yu duyurdu.
Yeni işbirliği kapsamında Red Hat; Alquimia AI, Brave Software, EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü ile bir araya geliyor.
Projenin temel amacı, yapay zeka politika gereksinimleri ile güvenli şekilde dağıtılan yapay zeka sistemleri arasındaki boşluğu kapatmak.
asago nedir?
Yapay Zeka Güvenliği ve Yönetişim Orkestrasyonu anlamına gelen AI Safety And Governance Orchestration ifadesinin baş harflerinden oluşan asago, karmaşık kurumsal ve düzenleyici yapay zeka yönetişim politikalarını somut operasyonel kontrollere dönüştürmek için standartlaştırılmış bir açık kaynak platformu ve otomatik iş akışı kullanmayı planlıyor.
Red Hat’e göre asago; mühendislik ve uyumluluk ekiplerinin parçalı adımlarını, araçlarını ve gereksinimlerini birbirine bağlayarak otomatik, denetlenebilir ve izlenebilir bir iş akışı oluşturuyor.
Bu yaklaşım sayesinde daha güvenli ve üretime hazır yapay zeka sistemlerinin aylar veya yıllar yerine günler içinde sunulmasına yardımcı olunması hedefleniyor.
asago dört aşamalı bir yapı sunuyor
Proje, geliştirici esnekliğini operatör yönetişimiyle uyumlu hale getirmek üzere dört ana aşamadan oluşuyor.
1. Risk haritalandırma
asago, yüklenen yapay zeka yönetişim politikalarını otomatik olarak okuyup yorumluyor. Kurumların gereksinimleri IBM AI Risk Atlas aracılığıyla NIST AI RMF, OWASP LLM Top 10 ve AB Yapay Zeka Yasası (EU AI Act) gibi yerleşik yapay zeka risk çerçevelerine, ontolojilerine ve standartlarına haritalandırılıyor.
Böylece politika dili uygulanabilir risk profillerine dönüştürülüyor.
2. Risk değerlendirmesi
asago yalnızca genel kıyaslamalara dayanmak yerine zararlı davranışları araştırıyor. Tespit edilen risklere özel otomatik güvenlik testleri için kullanım senaryolarına özgü senaryolar oluşturuluyor ve yürütülüyor.
3. Risk azaltma
Proje, gerçekleştirilen testlere dayalı güvenlik bariyerleri dahil olmak üzere risk azaltma yöntemleri öneriyor. Böylece incelemeye hazır net bir gerekçe ve denetim izi oluşturulması hedefleniyor.
4. Üretim ortamına dağıtım
Önerilen kontroller daha sonra hibrit bulut ve Kubernetes dahil olmak üzere farklı platformlarda dağıtıma hazır konfigürasyonlara dönüştürülerek orkestre ediliyor.
Bu süreç, manuel altyapı kodlaması ihtiyacını ortadan kaldırmayı amaçlıyor.
Yapay zeka güvenliği için kesintisiz denetim izi
asago’nun dört aşamasının her biri, tekil politika maddelerini doğrudan testlere ve çalışma zamanı kontrollerine bağlayacak şekilde tasarlanıyor.
Bu yapı sayesinde denetçilerin her bir eylemin hangi riski ele aldığını görmesine olanak sağlayan kesintisiz bir denetim izi oluşturulması hedefleniyor.
Red Hat’e göre bu yaklaşım, yapay zeka güvenliğinin daha öngörülebilir ve yönetilen bir kurumsal altyapı hizmetine dönüştürülmesine yardımcı olabilir.
asago neden önemli?
Soyut politika yönergelerini işlevsel yazılım konfigürasyonlarına dönüştürmek, yapay zeka inovasyonunu yavaşlatırken insan kaynaklı iletişim eksiklikleri ve yanlış anlaşılmalardan kaynaklanan riskleri de artırabiliyor.
Uyumluluk yetkilileri titiz risk değerlendirmelerine ve doğrulanabilir kanıtlara ihtiyaç duyarken, platform mühendisleri standart DevOps ve GitOps iş akışları içinde sürdürülebilecek yapılandırılmış konfigürasyonlara ihtiyaç duyuyor.
AB Yapay Zeka Yasası (EU AI Act) gibi geniş kapsamlı düzenlemelerin yürürlüğe girmesiyle kurumların önündeki temel sorunlardan biri de inovasyon ile güvenlik ve uyumluluk arasındaki dengeyi sağlamak oluyor.
asago, uyumluluk ekiplerinin, veri bilimcilerinin ve altyapı yöneticilerinin üzerinde birleşebileceği tek ve açık bir standart sunarak bu uyuşmazlığı çözmeyi hedefliyor.
Red Hat yetkililerinden asago değerlendirmesi
Red Hat Yapay Zeka Mühendisliğinden Sorumlu Başkan Yardımcısı Steven Huels şunları söyledi:
“Kurumlar deneysel yapay zeka pilot çalışmalarından uzun süreli çalışan otonom ajanlara geçiş yaparken, net operasyonel güvenlik bariyerleri oluşturmak kritik bir altyapı gereksinimi haline geliyor,” diyen Red Hat Yapay Zeka Mühendisliğinden Sorumlu Başkan Yardımcısı Steven Huels şöyle devam etti: “Lightwell gibi girişimler aracılığıyla açık kaynak tedarik zincirini yapay zeka kaynaklı güvenlik açıklarından korumak için çalışıyoruz. asago, bu çabayı tamamlıyor ve kurumsal politika tanımları ile canlı üretim ajanları arasındaki bağlantıyı otomatikleştirerek kurumsal yapay zeka için bir sonraki mantıklı adımı atıyor. Bu durum, kurumlara güvenilir yapay zekayı hibrit bulut genelinde ölçeklendirmek için ihtiyaç duydukları uçtan uca operasyonel güveni sağlıyor.”
Red Hat Yapay Zeka Güvenliği ve Model Değerlendirme Mimarı Stuart Battersby ise şöyle konuştu:
“asago projesi; teknoloji sektöründen, akademiden ve kamudan paydaşları bir araya getiren gerçek anlamda iş birlikli bir açık kaynak girişimidir. Yapay zeka güvenliği bakış açılarının maksimum düzeyde kapsanmasını sağlamak amacıyla, özellikle küresel ölçekteki farklı hukuki düzenlemelerden daha fazla iş ortağını topluluk odaklı bu çabaya katılmaya davet ediyoruz”
asago’nun öne çıkan özellikleri
- Politika karmaşıklığını aşan otomasyon: Manuel yorumlamaları ve özel betikleri entegre bir orkestrasyon iş akışıyla değiştirerek dağıtım süresini aylardan günlere indirmeyi hedefliyor.
- Tek bir denetim izi: Politika yetkililerine, BİT Yöneticilerine (CIO), yapay zeka geliştiricilerine, platform mühendislerine ve harici denetçilere tek ve birleşik bir izleme arayüzü sunuyor.
- Açık kaynak ve topluluk yönetişimi: Daha geniş yapay zeka güvenliği ekosisteminde açık iş birliğini teşvik etmek amacıyla Apache Lisansı 2.0 kapsamında yayınlandı.
- Altyapıdan bağımsız dağıtım: Kubernetes, Terraform ve Ansible için bildirimsel konfigürasyonlar üreterek kurumların birden fazla bulutta ve yerleşik ortamlarda tutarlı güvenlik duruşlarını korumasına olanak tanıyor.
Red Hat ve teknoloji dünyasından geniş işbirliği
asago projesi; yapay zeka güvenliği araştırmaları, kurumsal yazılım mühendisliği, saldırgan makine öğrenimi ve mevzuata uyum alanlarındaki farklı uzmanlıkları bir araya getiriyor.
Projenin paydaşları arasında Red Hat, Brave Software, EvalEval koalisyonu, IBM Research, Avusturya Disiplinlerarası Dönüşüm Üniversitesi, Microsoft, MIT Lincoln Laboratuvarı, Kuzey Karolina Eyalet Üniversitesi, NVIDIA ve The Alan Turing Enstitüsü bulunuyor.
Red Hat iş ortakları asago hakkında ne diyor?
Alquimia AI İcra Kurulu Başkanı (CEO) Sebastián Cao şunları söyledi:
“Alquimia olarak aracı (agentic) platformumuzu net bir inanç üzerine inşa ettik: Yapay zeka çıkarımı; uyum süreçlerine sonradan eklenen bir detay değil, tasarım gereği kontrol edilebilir, açıklanabilir ve egemen olmalıdır,” diyen Alquimia AI İcra Kurulu Başkanı (CEO) Sebastián Cao sözlerini şöyle sürdürdü: “Asago bu inancı açık bir standarda dönüştürerek her kuruma, politikadan üretime hazır ve fiilen denetlenebilen bir yönetişime giden yolu açıyor. Bu, tam da sektörün ihtiyaç duyduğu türden bir altyapı. Nitekim gaussia.ai aracılığıyla, yapay zeka sistemlerinin gerçek dünyada tam olarak nasıl davrandığını ölçmeye yönelik açık ve bilimsel temellere dayanan metriklere katkıda bulunmamızın nedeni de budur. Asago gibi açık yönetişim çerçeveleri, yalnızca tedarikçilerin değil tüm toplulukların, pratikte güvenilir yapay zekanın nasıl göründüğü konusunda uzlaşmasını mümkün kılıyor.”
Brave Software İcra Kurulu Başkanı (CEO) ve Kurucu Ortağı Brendan Eich ise şu değerlendirmede bulundu:
“Daha güvenli bir Web herkesin yararına olduğundan, yapay zeka güvenliği alanını ileriye taşımaya yardımcı olmak adına asago Topluluğu’na katılmaktan heyecan duyuyoruz. Brave her zaman açık kaynaklı olmuştur; yapay zeka araçlarının temelini gizlilik ve güvenliğin oluşturmasını sağlamak için asago ile iş birliği yapmayı sabırsızlıkla bekliyoruz. 120 milyondan fazla kullanıcı Brave ile geziniyor ve arama yapıyor; kullanıcıyı merkeze alan yaklaşımımızın, güçlü yapay zeka koruma bariyerleri konusundaki çıtayı yükseltmeye katkıda bulunacağını umuyoruz.”
IBM Research Yapay Zeka Platformu Başkan Yardımcısı Priya Nagpurkar ise şöyle konuştu:
“Gerçek dünya ortamlarında güven duyulabilmesi için yapay zekanın ölçülebilir testlere ve operasyonel kontrollere ihtiyacı var. IBM olarak, yönetişim çerçeveleri ile canlıya alınan yapay zeka sistemleri arasındaki boşluğu kapatmaya yardımcı olmak üzere uzmanlığımızı asago topluluğu aracılığıyla sunuyoruz,” açıklamasında bulunan IBM Research Yapay Zeka Platformu Başkan Yardımcısı Priya Nagpurkar şunları ekledi: “Bu adım, müşterilerimizin açık kaynak zafiyetlerini güvence altına almasına yardımcı olduğumuz Project Lightwell kapsamındaki geniş çaplı çalışmalarımızı tamamlıyor. Sanayiyi, akademiyi ve açık kaynak topluluklarını bir araya getiren asago, kurumsal yapay zeka benimsenmesi için daha şeffaf ve hesap verebilir bir temel oluşturulmasına katkıda bulunabilir.”
IT:U İnsan Hakları ve Teknoloji Profesörü Dr. Ben Wagner de şu değerlendirmeyi yaptı:
“Güvenilir yapay zeka geliştirmek iyi niyetlerden fazlasını gerektirir; uygulanabilir, doğrulanabilir ve sürdürülebilir bir şekilde yönetilebilir bir yönetişim şarttır,” değerlendirmesinde bulunan IT:U İnsan Hakları ve Teknoloji Profesörü Dr. Ben Wagner şöyle devam etti: “asago, üst düzey politikaları pratik mühendislik iş akışlarına dönüştürmeye yardımcı olmak amacıyla tasarlandı. IT:U olarak yapay zekanın hem teknik hem de organizasyonel yönetişimi konusunda güçlü bir birikime sahibiz; bu nedenle asago’ya katkıda bulunma fırsatı yakaladığımız için minnettarız. Bu projenin, kurumların güvenle inovasyon yapmasını sağlarken sorumlu yapay zeka geliştirmeyi pratik bir gerçeklik haline getirmesini umuyoruz.”
Microsoft Sorumlu Yapay Zeka Ürün Direktörü (CPO) Sarah Bird ise şöyle konuştu:
“Yapay zeka güvenliği ve emniyetine dair en zorlu zorlukların birçoğu henüz çözülebilmiş değil ve tek bir kurumun tüm bunlarla tek başına mücadele etmesi mümkün değil. Açık ve geniş çapta benimsenen standartlar, ekosistem genelinde daha tutarlı bir yönetişim oluşturulmasına yardımcı olabilirken, topluluğun ortak yaratıcılığı en önemli sorunlardaki ilerlemeyi hızlandırabilir. asago Topluluğu’na katılmaktan ve güvenli, emniyetli ve insanların güvenine layık yapay zekalar inşa etmeye yardımcı olmak üzere diğer paydaşlarla birlikte çalışmaktan heyecan duyuyoruz.”
MIT Lincoln Laboratuvarı Yapay Zeka ve Siber Güvenlik Baş Bilim İnsanı Diane Staheli ise şu ifadeleri kullandı:
“Açık kaynaklı iş birliği, tüm ekosistem genelinde yapay zeka emniyetini ve güvenliğini ilerletmenin temelidir. “asago girişimi, yönetişim gereksinimleri ile operasyonel gerçeklik arasındaki kritik boşluğu kapatmak için disiplinler arası araştırmaları bünyesine katacaktır. Yapay zeka emniyeti ve güvenliği araçlarını geniş kitleler için erişilebilir kılmaya yönelik bu çabaya katkıda bulunmaktan heyecan duyuyoruz.”
North Carolina State Üniversitesi Mühendislik Fakültesi Vekil Dekanı Veena Misra da projeye ilişkin değerlendirmesinde şunları söyledi:
“Yapay zeka sistemlerinin emniyetli ve güvenli olmasını sağlamak, bir politika sorunu olduğu kadar bir mühendislik sorunudur ve tek bir şirket, laboratuvar veya üniversite bunu tek başına çözemez,” değerlendirmesinde bulunan North Carolina State Üniversitesi Mühendislik Fakültesi Vekil Dekanı Veena Misra şunları söyledi: “NC State Mühendislik Fakültesi, ilk günden itibaren emniyetli ve üretime hazır yapay zeka sistemleri kurmaya hazır mezun olan mühendislerinin yanı sıra, yapay zeka güvenliği alanındaki derin araştırma gücünü de asago topluluğuna kazandırıyor. Bu tür ortaklıklar, insan kaynağımızı ve programlarımızı doğrudan sektörün bir sonraki ihtiyacına bağlama yöntemimizdir.”
NVIDIA Yazılım Güvenliği Başkan Yardımcısı Daniel Rohrer ise şu açıklamayı yaptı:
“Open Secure AI Alliance (Açık Güvenli YZ İttifakı); açık modellerin, açık test ortamlarının ve açık araçların yapay zeka savunması için en güçlü temel olduğu ilkesi üzerine kuruldu — asago ise bu ilkeyi pratiğe döküyor,” diyen NVIDIA Yazılım Güvenliği Başkan Yardımcısı Daniel Rohrer şunları ekledi: “Yapay zeka yönetişim politikasının üretime hazır kontrollere ve denetim izlerine dönüştürülmesini otomatikleştiren asago projesi; Red Hat, NVIDIA ve ekosistemimizin açık kaynaklı araçlarla temsilci (agent) güvenliğini nasıl güçlendirdiğini kanıtlıyor.”
The Alan Turing Enstitüsü Baş Bilim İnsanı ve UCL Profesörü Jason McEwen de projeye ilişkin görüşlerini şöyle aktardı:
“Yapay zekayı ölçeklenebilir şekilde güvenli ve yönetilebilir kılmayı tek bir kurum başaramaz; bunun için açık araçlara, farklı uzmanlıklara ve tarafsız bir yönetişime ihtiyaç vardır,” açıklamasını yapan The Alan Turing Enstitüsü Baş Bilim İnsanı ve UCL Profesörü Jason McEwen sözlerini şöyle tamamladı: “asago’nun topluluk odaklı modelini cazip kılan tam olarak bu; bu yapı, Alan Turing Enstitüsü Temel Araştırmalar bünyesindeki Güvenilir ve Güvenceli Yapay Zeka çalışmalarımızla doğrudan bağlantılı. Kurucu ortak olarak katılmaktan ve geniş toplulukla birlikte projenin yönünü şekillendirmeye yardımcı olmaktan memnuniyet duyuyoruz.”
asago ne zaman kullanılabilecek?
asago projesi şu anda proje kurulum aşamasında bulunuyor.
Geliştiriciler, akademik araştırmacılar ve kurumsal ilk benimseyenler GitHub üzerinden kod deposunu inceleyebilir ve proje yönetişimine katılabiliyor.
Daha fazla bilgi edinmek ve iş birliği talebinde bulunmak için asago.ai adresinin ziyaret edilebileceği, ayrıca topluluk grubu formunun doldurulabileceği belirtiliyor.
