Dünyanın önde gelen yapay zeka şirketlerinin üst yöneticileri, teknolojinin hızla büyüyen kapasitesinin uluslararası güvenlik üzerindeki olası etkilerini doğrudan Birleşmiş Milletler Güvenlik Konseyi'nin (BMGK) gündemine taşıdı. New York'ta 23 Eylül'de gerçekleştirilen "Yapay Zeka ve Uluslararası Güvenlik" başlıklı toplantı, BMGK'nin eylül ayı dönem başkanlığını yürüten Fransa tarafından düzenlendi. OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve Hugging Face CEO'su Clément Delangue, yapay zekanın insan kontrolünden çıkması, biyolojik silah geliştirmede araç olarak kullanılması ve siber saldırılardaki rolü gibi kritik başlıkları konseyin önüne getirdi.
Üç ismin konuşmalarında öne çıkan ortak tema ise netti: Giderek daha güçlü ve otonom hale gelen yapay zeka sistemlerinin yönetimi yalnızca teknoloji şirketlerine bırakılamaz; bu alanda uluslararası standartlara ve küresel iş birliğine ihtiyaç var.
Sam Altman: "Bir Yol Ayrımındayız"
OpenAI CEO'su Sam Altman, yapay zeka modellerindeki hızlı ilerlemenin teknolojinin sunabileceği faydaları daha somut hale getirdiğini, ancak aynı anda riskleri de daha acil bir boyuta taşıdığını söyledi. Altman'a göre dünya, yapay zekanın geleceği açısından gerçek bir tercih noktasına gelmiş durumda. Teknoloji, yeni bir yaratıcılık ve keşif döneminin kapısını aralayabileceği gibi büyük toplumsal dönüşümlere ve düzensizliğe de zemin hazırlayabilir.
Altman'ın konuşmasında en fazla yer verdiği konu, gelecekte ortaya çıkabilecek kontrol kaybı riskiydi. Yapay zeka sistemlerinin giderek daha yetenekli ve otonom hale gelmesinin yalnızca ekonomiyi değil, küresel güç dengelerini de köklü biçimde değiştirebileceğini vurgulayan Altman, yapay zeka geliştirme sürecinin kendi kendine otomatikleşmesi durumunda teknolojik ilerlemenin hızının ciddi ölçüde artabileceğine dikkat çekti. Sistemlerin kendi gelişim süreçlerinde daha fazla rol üstlenmeye başlamasının son derece dikkatli yönetilmesi gerektiğini de sözlerine ekledi.
Altman ayrıca şirketlerin potansiyel faydalar uğruna kontrol edilemeyecek riskler almaması gerektiğini savundu ve insan denetiminde tutulabileceğinden emin olunmayan modeller söz konusu olduğunda ihtiyatlı davranılması çağrısında bulundu.
Kararlar Yalnızca Teknoloji Laboratuvarlarında Alınamaz
Altman'ın BMGK'deki konuşmasının belki de en çarpıcı bölümü, yapay zekayı kimin yöneteceği sorusuna verdiği yanıttı. Yapay zekanın demokratik bir teknoloji olması isteniyorsa en kritik kararların yalnızca San Francisco'daki teknoloji laboratuvarlarında alınmaması gerektiğini açıkça ifade eden Altman, bu kararların demokratik süreçler ve halka karşı hesap verebilir hükümetler tarafından şekillendirilmesi gerektiğini savundu. Küresel ölçekte ortak hareket edilmesi gerektiğini vurgulayan Altman, dünyanın yapay zekanın geleceği açısından "bir yol ayrımında" bulunduğunu bir kez daha dile getirdi.
Amodei'nin Tanımladığı İki Temel Risk
Anthropic CEO'su Dario Amodei toplantıya çevrim içi katılarak yapay zekanın oluşturduğu tehditleri iki ana kategoriye ayırdı. Birinci risk, güçlü yapay zeka sistemlerinin insanlar tarafından kötü amaçlarla kullanılması. Amodei bu başlık altında özellikle biyolojik tehditlere dikkat çekti: Gelişmiş modellerin kötü niyetli kişiler tarafından biyolojik silah geliştirmek amacıyla kullanılabileceği senaryosunu somut bir tehdit olarak gündeme getirdi.
İkinci ve Amodei'nin daha temel bulduğu risk ise kontrol kaybı. Yapay zeka modellerinin yeteneklerinin, onları geliştiren insanların kontrol kapasitesinin önüne geçmesi ihtimalinin küresel ölçekte ele alınması gerektiğini vurgulayan Amodei, bu risklerin herhangi bir şirketi ya da ülkeyi aşan bir nitelik taşıdığını belirtti. Yapay zekanın kötü yönetilmesi halinde "insanlığın bütünü için risk" oluşturabileceğine inandığını açıklayan Amodei, Reuters'ın aktardığına göre yapay zekanın yarattığı riskleri günümüzün en önemli küresel güvenlik sorunlarından biri olarak tanımladı.
Amodei, yapay zeka güvenliğinin tek bir şirketin kendi önlemleriyle çözülebilecek bir sorun olmadığını vurgulayarak sektör genelinde ve devletler arasında iş birliği çağrısında bulundu.
Biyolojik Silahlar İçin Uluslararası Yasak Önerisi
Amodei, tüm yapay zeka alanını kapsayacak geniş çaplı bir uluslararası anlaşmanın başlangıçta zor olabileceğini kabul ederek daha dar konularda uzlaşı sağlanmasını önerdi. Öncelik listesinin başına yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanmasını koydu.
Anthropic CEO'su aynı zamanda devletlerin en gelişmiş yapay zeka modellerinin hangi kapasitelere sahip olduğunu anlayabilmesi için uluslararası değerlendirme ve doğrulama mekanizmaları kurulması gerektiğini savundu. Bu mekanizmaların ülkelerin verdikleri taahhütlere uyup uymadığının denetlenmesini de mümkün kılması gerektiğini belirten Amodei, gelişmiş modellerin risklerini ölçmek amacıyla ortak test ve güvenlik standartları oluşturulmasını talep etti.
Hugging Face'in Siber Saldırı Deneyimi ve Delangue'ın Uyarıları
Toplantının bir diğer öne çıkan başlığı yapay zeka destekli siber saldırılar oldu. Hugging Face CEO'su Clément Delangue, şirketinin bizzat yaşadığı yapay zeka ajanı kaynaklı siber güvenlik olayından çıkarılan dersleri BMGK üyelerine aktardı. Delangue, yapay zekanın siber güvenlik alanında saldırganların kapasitesini artırabileceğini, ancak aynı teknolojinin savunma amacıyla da kullanılabildiğini vurguladı. Hugging Face'in söz konusu saldırı sırasında yapay zeka sistemlerinden savunma amaçlı yararlandığını belirten Delangue, aynı teknolojinin bugün başka siber tehditlere karşı şirketin savunmasını güçlendirmek için kullanılmaya devam ettiğini anlattı.
Delangue, küresel ölçekte daha güçlü izleme, şeffaflık ve olay bildirim standartları oluşturulması gerektiğini savundu. Ayrıca yapay zeka kapasitesinin ve kontrolünün az sayıda şirket veya ülkenin elinde yoğunlaşmasının başlı başına bir güvenlik sorunu yaratabileceğini belirterek güçlü yapay zeka araçlarına erişimin daha geniş bir tabana yayılması gerektiğini söyledi.
Küresel Kurallar Yarışı: Teknoloji mi Önce Gelecek, Düzenleme mi?
BMGK toplantısı, yapay zeka güvenliği ve küresel düzenleme tartışmalarının artık teknoloji şirketlerinin iç politikalarından çıkıp uluslararası güvenlik meselesine dönüştüğünü açıkça ortaya koydu. Konsey toplantısının gündem notunda da en gelişmiş yapay zeka modellerinde uyumsuzluk ve kontrol kaybı ihtimalinin oluşturabileceği sistemik risklere dikkat çekildi.
Altman, Amodei ve Delangue farklı çözüm önerileri sunmuş olsa da konuşmalarındaki ortak payda değişmedi: Yapay zekanın geleceği yalnızca birkaç şirketin kendi güvenlik politikalarıyla yönetilemez. Bu gerçeklik, BMGK'deki tartışmanın merkezine giderek daha ağır basan bir soruyu yerleştirdi: Yapay zeka insan kapasitesini aşacak kadar güçlenmeden önce, onu yönetecek küresel kurallar oluşturulabilecek mi?
Sıkça Sorulan Sorular
BMGK'de yapay zeka toplantısı ne zaman ve nerede yapıldı?
"Yapay Zeka ve Uluslararası Güvenlik" başlıklı toplantı, 23 Eylül'de New York'ta gerçekleştirildi. Toplantı, BMGK'nin eylül ayı dönem başkanlığını yürüten Fransa tarafından düzenlendi.
Dario Amodei'nin tanımladığı iki temel yapay zeka riski nedir?
Anthropic CEO'su Dario Amodei, yapay zekanın yarattığı tehditleri iki kategoriye ayırdı: Birincisi, güçlü yapay zeka sistemlerinin insanlar tarafından kötü amaçlarla —özellikle biyolojik silah geliştirmek amacıyla— kullanılması. İkincisi ise yapay zeka modellerinin yeteneklerinin, onları geliştiren insanların kontrol kapasitesinin önüne geçmesi, yani kontrol kaybı.
Sam Altman yapay zekanın yönetimi konusunda ne önerdi?
Altman, yapay zekanın demokratik bir teknoloji olması isteniyorsa en kritik kararların yalnızca San Francisco'daki teknoloji laboratuvarlarında alınmaması gerektiğini söyledi. Bu kararların demokratik süreçler ve halka karşı hesap verebilir hükümetler tarafından şekillendirilmesi gerektiğini savundu.
Hugging Face hangi siber güvenlik deneyimini BMGK'ye aktardı?
Hugging Face CEO'su Clément Delangue, şirketinin bizzat yaşadığı yapay zeka ajanı kaynaklı bir siber güvenlik olayından çıkarılan dersleri konsey üyelerine anlattı. Delangue, saldırı sırasında savunma amacıyla da yapay zeka sistemlerinden yararlandıklarını ve aynı teknolojinin bugün başka siber tehditlere karşı şirketin savunmasını güçlendirmek için kullanıldığını belirtti.
Amodei biyolojik silahlar konusunda ne önerdi?
Amodei, tüm yapay zeka alanını kapsayan geniş çaplı bir uluslararası anlaşmanın başlangıçta zor olabileceğini belirterek öncelikle daha dar konularda uzlaşı sağlanmasını önerdi. Bu kapsamda yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanmasını ve en gelişmiş modellerin kapasitelerini ölçmek için uluslararası değerlendirme, doğrulama ile ortak test standartları kurulmasını talep etti.
