New York, Yapay Zekâ Modellerini Bağımsız Olarak Test Edecek
ABD’nin New York eyaleti, yapay zekâ teknolojilerinin güvenliğini denetlemek için önemli bir adım attı. Eyalet yönetimi, teknoloji şirketlerinin kendi yapay zekâ sistemleri hakkında açıkladığı güvenlik bilgileriyle yetinmek yerine, modelleri bağımsız araştırmacılara test ettirecek. Yeni girişimle yapay zekânın güvenlik açıklarının, potansiyel risklerinin ve çalışma sınırlarının bilimsel yöntemlerle incelenmesi hedefleniyor.
New York Valisi Kathy Hochul, 10 Kasım 2026 tarihinde New York Center for AI Responsibility and Research (NYCAIRR) adlı yeni araştırma merkezini resmen hayata geçirdi. Binghamton Üniversitesi bünyesinde faaliyet gösterecek merkez, gelişmiş yapay zekâ modellerinin bağımsız şekilde değerlendirilmesine odaklanacak.
80’den Fazla Araştırmacı Yapay Zekâ Modellerini İnceleyecek
New York’un yeni yapay zekâ güvenliği girişimi, eyalet genelindeki üniversitelerden ve araştırma kurumlarından 80’den fazla bilim insanını bir araya getirecek.
Araştırma merkezi, çalışmalarında eyaletin 500 milyon dolarlık kamu-özel sektör ortaklığıyla oluşturduğu Empire AI altyapısının hesaplama gücünden yararlanacak.
Cornell Tech’ten Greg Morrisett ve Columbia Üniversitesi’nden Jeannette Wing, merkezin geçici eş direktörleri olarak görev yapacak.
Araştırmacıların temel çalışma alanları arasında şu başlıklar bulunacak:
-
Gelişmiş yapay zekâ modellerinin güvenlik testleri.
-
Yapay zekâ sistemlerindeki güvenlik açıklarının belirlenmesi.
-
Modellerin amaçlandığı şekilde çalışıp çalışmadığının incelenmesi.
-
Yapay zekâ sistemlerinin potansiyel risklerinin değerlendirilmesi.
-
Gizlilik, donanım güvenliği ve sistemlerin şeffaflığının araştırılması.
-
Yapay zekânın bilimsel keşiflerde ve tıp alanında güvenli kullanımı.
Merkezin hazırlayacağı bilimsel değerlendirmeler, kamu yöneticilerinin yapay zekâ politikalarına ilişkin kararlarında da kullanılacak.
New York, Yapay Zekâ Şirketlerinin Açıklamalarıyla Yetinmeyecek
Yeni girişimin en önemli özelliği, yapay zekâ şirketlerinin kendi ürünleri hakkında paylaştığı güvenlik açıklamalarından bağımsız değerlendirmeler yapılmasını sağlaması olacak.
New York Valisi Kathy Hochul, şirketlerin kendi yapay zekâ sistemlerinin güvenliği konusunda yaptığı açıklamaların tek başına yeterli olmadığını belirterek bağımsız bilimsel incelemelerin önemine dikkat çekti.
Bu yaklaşım, özellikle giderek daha güçlü hâle gelen yapay zekâ modellerinin gerçek kullanım koşullarında nasıl davrandığının anlaşılması açısından önem taşıyor.
Ancak programın bazı sınırlamaları da bulunuyor. Araştırmacılar, şirketlerin kamuoyuyla paylaştığı bilgiler ve açıkladığı sistemler üzerinden inceleme yapabilecek. Henüz kamuya açıklanmamış modellerin değerlendirilmesi ise mevcut programın kapsamındaki önemli kısıtlamalardan biri olarak öne çıkıyor.
RAISE Yasası Yapay Zekâ Şirketlerine Yeni Yükümlülükler Getiriyor
New York’un bağımsız test girişimi, eyaletin daha önce kabul ettiği RAISE Act düzenlemesiyle de destekleniyor.
Söz konusu düzenleme, büyük yapay zekâ geliştiricilerinin güvenlik ve şeffaflık konusunda daha fazla sorumluluk üstlenmesini amaçlıyor.
Yasa kapsamında büyük ölçekli yapay zekâ geliştiricilerinin 1 Ocak 2027 tarihine kadar New York eyaletine kayıt yaptırması gerekiyor.
Ocak 2027 itibarıyla şirketler için öne çıkan yükümlülükler şöyle:
-
Güvenlik çerçevelerinin internet sitelerinde yayımlanması.
-
Yapay zekâ modellerine ilişkin şeffaflık raporlarının paylaşılması.
-
Kritik güvenlik olaylarının yetkililere bildirilmesi.
-
Büyük ölçekli geliştiricilerin kayıt ve denetim süreçlerine katılması.
Özellikle kritik güvenlik olaylarının 72 saat içerisinde bildirilmesi zorunluluğu dikkat çekiyor.
New York yönetimi ayrıca RAISE Act kapsamında şirketlerin kayıt işlemlerini gerçekleştirebileceği çevrim içi başvuru portalını da kullanıma açtı.
Yapay Zekâ Güvenliğinde Yeni Bir Dönem Başlayabilir
New York’un başlattığı bağımsız test programı, yapay zekâ sektöründe şirketlerin kendi güvenlik değerlendirmelerini yapmasının ötesine geçilmesi açısından önemli bir gelişme.
Özellikle sağlık, bilimsel araştırmalar ve kritik altyapılar gibi hata payının düşük olması gereken alanlarda yapay zekâ sistemlerinin bağımsız olarak değerlendirilmesi, teknolojinin güvenilirliğini artırabilir.
Önümüzdeki dönemde NYCAIRR tarafından gerçekleştirilecek çalışmaların, yapay zekâ şirketlerinin güvenlik standartlarını nasıl etkilediği ve diğer ABD eyaletleri için örnek oluşturup oluşturmayacağı yakından takip edilecek.
