Nvidia öncülüğünde kurulan Open Secure AI Alliance (OSAA), kuruluşundan yalnızca bir hafta sonra ilk somut çıktılarını ortaya koydu. Bir haftalık geçmişine rağmen 120'den fazla şirkete ulaşan endüstri grubu, Shared AI Findings Exchange (SAFE) adını verdiği çalışma grubunu oluşturdu ve siber güvenlik dünyasının kalbi olarak nitelendirilen Black Hat konferansı sırasında hazırladığı teklifleri açık görüşe sundu. Bu hafta Las Vegas'ta düzenlenen konferansta geliştirilen tekliflerin yönetimi, grubun üyelerinden biri olan Linux Foundation tarafından üstleniliyor.
Grubun hızlı ilerlemesi, yapay zeka ekosisteminde açık kaynak güvenliğine yönelik beklentileri artırırken, tekliflerin içeriği ve üyelerin açık kaynak katkıları da netleşmeye başladı. OSAA'nın bu hızı, yapay zeka hızında hareket ettiği şeklinde yorumlanıyor.
SAFE Çalışma Grubu ve Black Hat'te Hazırlanan Teklifler
OSAA bünyesinde oluşturulan SAFE, grubun ilk çalışma grubu olarak öne çıkıyor. Linux Foundation tarafından yönetilen teklifler, şu aşamada çığır açıcı düzenlemeler içermese de yapay zeka siber güvenliği için temel bir çerçeve sunmayı hedefliyor.
Teklifler, yapay zeka siber güvenlik olaylarının gizli bir şekilde nasıl raporlanacağı, etkilenen tarafların nasıl uyarılacağı ve ardından tüm ekosistemin ders çıkarabilmesi için suçlama içermeyen bir analiz sürecinin nasıl yürütüleceği gibi alanları kapsıyor. Bu yaklaşım, olaylardan ortak öğrenme sağlamayı ve benzer zafiyetlerin tekrarlanmasını önlemeyi amaçlıyor.
Tekliflerin Black Hat konferansı sırasında, üyelerin bir araya gelmesiyle geliştirilmesi dikkat çekiyor. Siber güvenlik dünyasının buluşma noktası olarak tanımlanan konferans, grubun ilk fikir birliğini oluşturması için zemin sağlamış oldu. Hazırlanan taslaklar şu anda açık yorum sürecinde bulunuyor.
Linux Foundation Rolü ve Açık Kaynak Katkılarının Kataloglanması
Tekliflerin yönetimi Linux Foundation tarafından yürütülüyor. Vakıf, aynı zamanda OSAA'nın üyeleri arasında yer alıyor. Bu yapı, tekliflerin açık ve katılımcı bir süreçle olgunlaştırılmasını hedefliyor.
OSAA üyeleri aynı zamanda ellerindeki açık kaynak teknolojilerinin faydalı olabilecek parçalarını da katkıda bulunuyor ve katalogluyor. Bu katkılar, zamanla kurumsal ölçekte yapay zeka ajanlarını güvence altına almak veya Hugging Face'e sızan OpenAI modeli örneğinde olduğu gibi başıboş yapay zeka saldırganlarına karşı savunma sağlamak için kullanılabilecek açık kaynaklı bir araca dönüşebilir. Hugging Face'in de grubun üyelerinden biri olduğu belirtiliyor.
Şirketlerden Gelen Açık Kaynak Teknoloji Örnekleri
Üyelerin katalogladığı teknolojiler arasında birçok somut örnek bulunuyor. Nvidia, tüm bir açık model ailesinin yanı sıra Garak adlı açık kaynaklı bir büyük dil modeli (LLM) güvenlik açığı tarayıcısı sunduğunu belirtiyor.
Diğer üyelerin katkıları da şöyle sıralanıyor:
Okta, ajan kimliği teknolojisi üzerinde çalışıyor.
Red Hat, ajan yönetişimi alanında çalışmalar yürütüyor.
Amazon, Strands Agents adlı açık ajan oluşturma aracını ve Cedar adlı yetkilendirme dilini katkıda bulundu.
Kaynakta bu örneklerin dışında da çok sayıda katkı bulunduğu ifade ediliyor. Bu parçaların bir araya gelmesiyle, işletmelerin kendi yapay zeka ajanlarını koruması için bütüncül bir açık kaynak çözümü oluşturulması hedefleniyor.
Gruba Katılan Devler ve Dikkat Çeken Eksikler
OSAA, kısa sürede çok sayıda büyük ismi bünyesine kattı. Grupta Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi dev şirketler yer alıyor. Üye sayısının 120'yi aşması, girişimin endüstride geniş bir karşılık bulduğunu gösteriyor.
Buna karşın bazı önemli eksikler de bulunuyor. Anthropic, OpenAI ve Google şu ana kadar gruba katılmadı. İlginç olan nokta ise hem OpenAI hem de Google'ın, bu grubun doğmasına neden olan orijinal açık mektubu imzalamış olması. Geçen hafta yayımlanan mektup, Beyaz Saray'a açık kaynak yapay zeka çabalarını engellememe ve destekleme çağrısında bulunuyordu.
Mektuba Nvidia öncülük etti ve 200'den fazla teknoloji şirketi tarafından imzalandı. Anthropic'in hem mektuba hem de endüstri grubuna yönelik mesafeli duruşu sürpriz olarak görülmezken, hem OpenAI hem de Google'ın kendi açık ağırlıklı modellerini yayımlamış olması ve Google'ın genel olarak açık kaynağın büyük bir destekçisi olarak bilinmesi, bu şirketlerin yokluğunu daha dikkat çekici hale getiriyor. Grubun ivme kazanmasıyla bu şirketlerin katılıp katılmayacağı izlenecek.
Beyaz Saray'a Çağrı ve Çin Açık Ağırlık Modelleri Tartışması
OSAA'nın kuruluşuna giden süreç, Trump yönetiminin Çin açık ağırlık modellerini yasaklamayı değerlendirdiğine dair haberlerin ortaya çıkmasından yalnızca birkaç hafta sonrasına dayanıyor. Bu haber, endüstride endişeye yol açmış ve sonuç olarak Beyaz Saray'a hitaben yazılan açık mektubun ortaya çıkmasına neden olmuştu.
ABD'de Çin açık ağırlık modellerine ilişkin nihai karar ne olursa olsun, bu ağır toplardan oluşan grubun hızlı hareketi, ABD açık yapay zeka ekosistemi için olumlu bir gelişme olarak değerlendiriliyor. Ekosistemdeki bazı isimler, ABD'li açık ağırlık yapay zeka laboratuvarı Arcee'nin kurucu ortağı ve teknoloji direktörü gibi, Çin yapay zeka laboratuvarlarının ABD'ye yönelik oluşturduğu tehdidi - gerçek ya da varsayılan - aşmanın en iyi yolunun bu olduğunu savunuyor.
Endüstri grubunun mektubunda yer alan "Açıklık, yapay zeka güvenliği ve emniyeti için en önemli yollardan biri olabilir" ifadesi, grubun yaklaşımını özetliyor. OSAA'nın bir hafta içinde teklif sunması ve teknolojilerini ortaya koyması, bu sözü hemen eyleme ve teknolojiye dönüştürmeye hazır olduklarını gösteriyor.
Sıkça Sorulan Sorular
Open Secure AI Alliance (OSAA) nedir ve kim öncülük ediyor?
OSAA, Nvidia öncülüğünde kurulan bir haftalık bir endüstri grubudur. Kuruluşundan kısa süre sonra 120'den fazla şirkete ulaşmıştır ve Shared AI Findings Exchange (SAFE) adlı çalışma grubunu oluşturmuştur.
SAFE çalışma grubu neyi amaçlıyor ve teklifleri neyi kapsıyor?
SAFE, OSAA'nın ilk çalışma grubudur. Teklifleri, yapay zeka siber güvenlik olaylarının gizli raporlanması, etkilenenlerin uyarılması ve suçlama içermeyen analizlerle ortak öğrenme sağlanması gibi alanları kapsıyor. Teklifler şu an için çığır açıcı olarak nitelendirilmiyor.
Teklifler nerede geliştirildi ve kim yönetiyor?
Teklifler bu hafta Las Vegas'ta düzenlenen Black Hat konferansı sırasında üyelerin bir araya gelmesiyle geliştirildi. Teklifler açık görüşe sunuldu ve grubun üyesi olan Linux Foundation tarafından yönetiliyor.
Hangi şirketler OSAA üyesi, hangileri henüz katılmadı?
Grupta Adobe, BlackRock, Cisco, Intel, Microsoft, Visa ve Hugging Face gibi 120'den fazla şirket bulunuyor. Nvidia, Okta, Red Hat ve Amazon gibi üyeler açık kaynak katkıları sağlıyor. Anthropic, OpenAI ve Google ise henüz gruba katılmadı.
OSAA'nın kurulmasına giden açık mektup neyi talep ediyordu?
Geçen hafta yayımlanan ve Nvidia öncülüğünde 200'den fazla teknoloji şirketi tarafından imzalanan mektup, Beyaz Saray'a açık kaynak yapay zeka çabalarını engellememe ve destekleme çağrısında bulunuyordu. Mektup, Trump yönetiminin Çin açık ağırlık modellerini yasaklamayı değerlendirdiği haberlerinin ardından endüstride oluşan endişe üzerine kaleme alındı.
