Nvidia öncülüğünde bir hafta önce kurulan Open Secure AI Alliance (OSAA), kısa sürede 120'den fazla şirkete ulaşarak ilk somut adımını attı. İttifak, Shared AI Findings Exchange (SAFE) adını verdiği çalışma grubunu oluşturdu ve siber güvenlik dünyasının buluşma noktası olan Black Hat konferansı sırasında geliştirdiği önerileri açık görüşe sundu. Las Vegas'ta bu hafta düzenlenen konferansta bir araya gelen üyelerin hazırladığı önerilerin yönetimi ise ittifak üyesi Linux Foundation tarafından üstleniliyor.
Bir Haftalık İttifak 120 Şirketi Aştı: OSAA ve SAFE Yapılanması
OSAA, henüz bir haftalık bir oluşum olmasına rağmen hızla büyüdü. Nvidia tarafından spearhead edilen ve bir endüstri grubu olarak konumlanan ittifak, şimdiden 120'den fazla şirketi bünyesine kattı. İttifakın ilk icraatı, ismiyle dikkat çeken SAFE çalışma grubunu hayata geçirmek oldu. Shared AI Findings Exchange olarak açılan SAFE, ittifakın siber güvenlik alanındaki bulguları paylaşmaya odaklanan kolu olarak işlev görüyor.
Grubun Las Vegas'taki Black Hat konferansı esnasında bir araya gelerek öneriler geliştirmesi ve bu önerileri vakit kaybetmeden açık yorum sürecine açması, oluşumun çalışma hızını gösteriyor. Kaynakta yer alan bilgiye göre önerilerin yönetimi ve açık görüş sürecinin koordinasyonu Linux Foundation tarafından yürütülüyor. Linux Foundation da OSAA'nın üyeleri arasında yer alıyor.
Black Hat'te Hazırlanan İlk Öneriler Neleri Kapsıyor?
Sunulan ilk kılavuz ve öneriler, kaynak metinde ifade edildiği üzere şimdilik çığır açıcı nitelikte değil. Ancak AI siber güvenliği için temel bir çerçeveyi oluşturmayı hedefliyor. Öneriler, AI siber güvenlik olaylarının nasıl gizli bir şekilde raporlanacağı, etkilenen tarafların nasıl uyarılacağı ve ardından tüm paydaşların ders çıkarabilmesi için suçlama içermeyen bir analiz sürecinin nasıl yürütüleceği gibi alanlara odaklanıyor.
Bu yaklaşım, olayların gizlilik içinde bildirilmesini ve ardından toplu öğrenmeye imkan tanıyan bir analiz modelini benimsiyor. İttifak, bu ilk adımla AI sistemlerine yönelik siber olaylarda ortak bir dil ve süreç oluşturmayı amaçlıyor.
Açık Kaynak Katalogu: Garak, Cedar ve Diğer Katkılar
OSAA üyeleri aynı zamanda, faydalı olabilecek açık kaynak teknolojilerinin parçalarını da katkıda bulunuyor ve katalogluyor. Bu katkıların, zamanla endüstri organizasyonlarının tipik evrimine paralel olarak, bir işletmenin AI ajanlarını güvence altına alması veya Hugging Face'e sızan OpenAI modelinde olduğu gibi başıboş AI saldırganlarına karşı savunma yapması için açık kaynaklı bir araca dönüşebileceği belirtiliyor. Hugging Face'in de bu grubun üyelerinden biri olduğu kaydediliyor.
Kaynakta örnek olarak verilen katkılar arasında Nvidia'nın sunduğu tüm açık model ailesi ve Garak adlı açık kaynaklı LLM güvenlik açığı tarayıcısı yer alıyor. Okta'nın ajan kimliği teknolojisi üzerinde çalıştığı, Red Hat'in ajan yönetişimi alanında faaliyet gösterdiği aktarılıyor. Amazon ise hem Strands Agents adlı açık ajan oluşturma aracını hem de Cedar adlı yetkilendirme dilini katkıda bulunanlar arasında. Kaynakta bunların dışında çok daha fazla örneğin bulunduğu da vurgulanıyor.
Listede Kimler Var, Kimler Yok?
İttifakın üye listesi birçok büyük ismi içeriyor. Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa, OSAA'ya katılan büyük şirketler arasında sayılıyor. Buna karşın bazı dikkat çekici eksikler de bulunuyor. Anthropic, OpenAI ve Google şu ana kadar ittifakta yer almıyor.
İlginç olan nokta ise hem OpenAI hem de Google'ın, bu grubun doğmasına neden olan orijinal açık mektubu imzalamış olması. Geçen hafta yayımlanan ve Beyaz Saray'a açık kaynak AI çabalarını destekleme, engellememe çağrısı yapan mektup, Nvidia tarafından savunulmuş ve 200'den fazla teknoloji şirketi tarafından imzalanmıştı. Anthropic'in mektuba ve endüstri grubuna yönelik mesafeli duruşu sürpriz olarak nitelendirilmezken, hem OpenAI hem de Google'ın kendi açık ağırlıklı modellerini yayımladığı ve Google'ın genel olarak açık kaynağın büyük bir destekçisi olarak bilindiği hatırlatılıyor. Grubun ivme kazanmasıyla bu şirketlerin katılıp katılmayacağı ise zamanla görülecek.
Trump Yönetimi Tartışması ve Açık Mektubun Arka Planı
İttifakın bu kadar hızlı hareket etmesinin arka planında, yalnızca birkaç hafta önce ortaya çıkan bir gelişme yer alıyor. Trump yönetiminin Çin açık ağırlıklı modellerini yasaklamayı düşündüğüne dair haberlerin ortaya çıkması, sektörde endişeye yol açmış ve bu endişe açık mektubun kaleme alınmasına neden olmuştu.
ABD'de Çin açık ağırlıklı modellerine ilişkin nihai karar ne olursa olsun, bu ağır siklet grubun hızlı eyleminin ABD açık AI ekosistemi için iyi bir şey olduğu değerlendirmesi yapılıyor. Ekosistemdeki bazı isimler, ABD'li açık ağırlıklı AI laboratuvarı Arcee'nin kurucu ortağı ve baş teknoloji sorumlusu gibi, Çin AI laboratuvarlarının ABD'ye yönelik oluşturduğu tehdidi - gerçek ya da varsayılan - aşmanın en iyi yolunun bu olduğunu savunuyor. İttifakın mektubunda yer alan "Açıklık, AI güvenliği ve emniyeti için en önemli yollardan biri olabilir" ifadesi, grubun söylemini pratiğe dökmeye hazır olduğunu gösteriyor. Kaynak metin, grubun çabalarını ve teknolojilerini sözlerinin arkasında duracak şekilde hemen ortaya koymaya hazır göründüğünü aktarıyor.
Sıkça Sorulan Sorular
Open Secure AI Alliance (OSAA) nedir ve kim öncülük ediyor?
OSAA, Nvidia öncülüğünde kurulan ve bir haftada 120'den fazla şirkete ulaşan bir endüstri grubudur. Grup, açık ve güvenli AI ekosistemini desteklemeyi amaçlıyor.
SAFE çalışma grubu nedir ve ne yapıyor?
SAFE, Shared AI Findings Exchange'in kısaltmasıdır ve OSAA bünyesinde oluşturulan bir çalışma grubudur. Grup, AI siber güvenlik bulgularını paylaşmaya odaklanıyor ve ilk önerilerini Black Hat konferansı sırasında geliştirerek açık görüşe sundu. Önerilerin yönetimi Linux Foundation tarafından yürütülüyor.
OSAA'nın sunduğu ilk öneriler neleri içeriyor?
Kaynakta yer alan bilgiye göre öneriler, AI siber güvenlik olaylarının gizli şekilde nasıl raporlanacağı, etkilenenlerin nasıl uyarılacağı ve suçlama içermeyen bir analizle tüm paydaşların nasıl ders çıkaracağı gibi alanları kapsıyor.
OSAA'ya hangi şirketler üye, hangileri üye değil?
Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi büyük isimler OSAA üyesidir. Hugging Face de üyeler arasındadır. Anthropic, OpenAI ve Google ise ittifakta yer almayan dikkat çekici şirketler olarak belirtiliyor, ancak OpenAI ve Google orijinal açık mektubu imzalamıştı.
OSAA'nın kurulmasına zemin hazırlayan açık mektup neydi?
Geçen hafta yayımlanan, Nvidia tarafından savunulan ve 200'den fazla teknoloji şirketi tarafından imzalanan mektup, Beyaz Saray'a açık kaynak AI çabalarını destekleme çağrısı yapıyordu. Mektup, Trump yönetiminin Çin açık ağırlıklı modellerini yasaklamayı düşündüğüne dair haberlerin yarattığı endişe üzerine kaleme alınmıştı.
