Nvidia öncülüğündeki Open Secure AI Alliance (OSAA), kuruluşundan bir hafta sonra 120'den fazla şirkete ulaşarak Shared AI Findings Exchange (SAFE) adlı çalışma grubunu kurdu ve ilk tekliflerini açık yoruma sundu. Teklifler, siber güvenlik dünyasının buluşma noktası olan ve bu hafta Las Vegas'ta düzenlenen Black Hat konferansında geliştirildi ve ittifak üyesi olan Linux Foundation tarafından yönetiliyor.
OSAA ve SAFE: Bir Haftada Gelen İlk Teklifler
Yalnızca bir haftalık bir geçmişe sahip olan OSAA, kısa sürede sevimli bir kısaltmaya sahip olan SAFE çalışma grubunu oluşturdu. Grup, tekliflerini açık yorum için sunmaya başladı. Bu tekliflerin yönetimi Linux Foundation tarafından üstleniliyor.
Kaynakta yer alan bilgilere göre teklifler şimdilik çığır açıcı nitelikte değil. Teklifler, AI siber güvenlik olaylarının gizli bir şekilde nasıl raporlanacağı, etkilenenlerin nasıl uyarılacağı ve ardından herkesin ders çıkarabilmesi için suçlamadan uzak bir analiz yapılmasına odaklanıyor.
Çalışmalar, üyelerin Black Hat konferansında bir araya geldiği sırada geliştirildi. Konferans, siber güvenlik dünyasının merkezi olarak tanımlanıyor ve bu hafta Las Vegas'ta gerçekleştiriliyor.
Açık Kaynak Kataloğu ve Şirketlerin Katkıları
OSAA üyeleri aynı zamanda açık kaynak teknolojilerinin faydalı olabilecek parçalarını da katkıda bulunarak katalogluyor. Bu tür endüstri organizasyonlarında olduğu gibi, bu çabaların zamanla bir işletmenin AI ajanlarını güvenceye alması veya başıboş AI saldırganlarına karşı savunma yapması için açık kaynaklı bir araca dönüşmesi bekleniyor.
Kaynakta bu duruma örnek olarak Hugging Face'e sızan OpenAI modeli gösteriliyor. Hugging Face'in de bu grubun bir üyesi olduğu belirtiliyor.
Şirketlerin katkılarından verilen örnekler şöyle sıralanıyor:
Nvidia, tüm bir açık model ailesinin yanı sıra Garak adlı açık kaynaklı bir LLM güvenlik açığı tarayıcısı sunduğunu belirtti.
Okta, ajan kimliği teknolojisi üzerinde çalışıyor.
Red Hat, ajan yönetişimi üzerinde çalışıyor.
Amazon, hem Strands Agents adlı açık bir ajan oluşturma aracını hem de Cedar adlı bir yetkilendirme dilini katkıda bulundu.
Kaynakta bunların dışında çok daha fazla örnek bulunduğu da ifade ediliyor.
İttifakta Kimler Var, Kimler Yok
Grup şu anda Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi büyük isimleri içeriyor. Ancak bazı dikkat çekici eksikler de bulunuyor. Anthropic, OpenAI ve Google şu an için grupta yer almıyor.
İlginç bir şekilde hem OpenAI hem de Google, bu grubun ortaya çıkmasını sağlayan orijinal açık mektubu imzalamıştı. Mektup geçen hafta yayımlanmış ve Beyaz Saray'a açık kaynak AI çabalarını engellememesi, aksine desteklemesi çağrısında bulunmuştu.
Mektuba Nvidia öncülük etti ve 200'den fazla teknoloji şirketi tarafından imzalandı. Anthropic'in mektuba ve bugüne kadarki endüstri grubuna mesafeli durması sürpriz olarak görülmezken, hem OpenAI hem de Google kendi açık ağırlıklı modellerini yayımladı. Google'ın genel olarak açık kaynağın büyük bir destekçisi olarak bilindiği de kaynakta aktarılıyor.
Grubun ivme kazanmasıyla bu şirketlerin katılıp katılmayacağı ilerleyen dönemde görülecek.
Beyaz Saray Mektubundan Black Hat'e Uzanan Hızlı Süreç
Grup AI hızında faaliyet gösteriyor. Trump yönetiminin Çin açık ağırlıklı modellerini yasaklamayı düşündüğüne dair haberlerin ortaya çıkmasının üzerinden yalnızca birkaç hafta geçti. Bu haber, sektörde rahatsızlığa neden olmuş ve açık mektubun ortaya çıkmasıyla sonuçlanmıştı.
ABD'de Çin açık ağırlıklı modelleriyle ilgili nihai olarak ne olursa olsun, bu ağır sıklet grubun hızlı hareketi ABD açık AI ekosistemi için iyi bir şey olarak görülüyor.
Ekosistemdeki bazı isimler, ABD merkezli açık ağırlıklı AI laboratuvarı Arcee'nin kurucu ortağı ve baş teknoloji sorumlusu gibi, bunun Çin AI laboratuvarlarının ABD'ye yönelik oluşturduğu tehdidi - gerçek ya da hayali - aşmanın en iyi yolu olduğunu söylüyor. Endüstri grubunun mektubunda yer alan "Açıklık, AI güvenliği ve emniyeti için en önemli yollardan biri olabilir" ifadesi de kaynakta aktarılıyor. Grubun, sözünü hemen eyleme ve teknolojiye dökmeye hazır göründüğü belirtiliyor.
Sıkça Sorulan Sorular
Open Secure AI Alliance (OSAA) nedir ve kim öncülük ediyor?
OSAA, Nvidia'nın öncülük ettiği bir endüstri grubudur. Kaynakta bir haftalık olduğu ve 120'den fazla şirkete ulaştığı belirtiliyor.
SAFE nedir ve neyi amaçlıyor?
SAFE, Shared AI Findings Exchange'in kısaltmasıdır ve OSAA tarafından oluşturulan bir çalışma grubudur. AI siber güvenlik olaylarının gizli raporlanması, etkilenenlerin uyarılması ve suçlamadan uzak analiz yapılması gibi alanlarda teklifler sunuyor.
Teklifler nerede geliştirildi ve kim yönetiyor?
Teklifler bu hafta Las Vegas'ta düzenlenen Black Hat konferansında üyeler bir araya gelirken geliştirildi. Teklifler açık yorum için sunuluyor ve grubun üyesi olan Linux Foundation tarafından yönetiliyor.
Gruba hangi şirketler üye, hangileri üye değil?
Kaynakta üyeler arasında Adobe, BlackRock, Cisco, Intel, Microsoft, Visa ve Hugging Face sayılıyor. Anthropic, OpenAI ve Google'ın ise grupta yer almadığı belirtiliyor, ancak OpenAI ve Google'ın grubu doğuran açık mektubu imzaladığı aktarılıyor.
OSAA'nın ortaya çıkmasına neden olan açık mektup neyi içeriyordu?
Mektup geçen hafta yayımlandı, Nvidia öncülük etti ve 200'den fazla teknoloji şirketi tarafından imzalandı. Beyaz Saray'a açık kaynak AI çabalarını engellememesi ve desteklemesi çağrısı yapıldı. Mektubun arka planında Trump yönetiminin Çin açık ağırlıklı modellerini yasaklamayı düşündüğüne dair haberlerin neden olduğu rahatsızlık yer alıyor.
