ABD'de yapay zekâ düzenlemesi tartışmaları yeni bir boyut kazandı. Vermont Senatörü Bernie Sanders ile Teksas Temsilcisi Greg Casar, 23 Eylül'de Ban Artificial Superintelligence Act (Yapay Süper Zekayı Yasaklama Yasası) adlı 19 sayfalık tasarıyı Kongre'ye resmen sundu. Tasarı, yapay süper zekanın geliştirilmesini ve kullanıma sunulmasını doğrudan yasaklamayı hedefliyor; bunun ötesinde federal güvenlik ve denetim mekanizması oluşturulana dek daha geniş kapsamlı ileri yapay zekâ geliştirme çalışmalarının da geçici olarak durdurulmasını öngörüyor.
İhlalcilere 20 Yıl Hapis, Şirketlere Zorunlu Fesih
Tasarının en çarpıcı maddelerinden birini yaptırımlar oluşturuyor. Öngörülen yasakları ya da geçici durdurma kararlarını ihlal eden veya bunların etrafından dolaşmaya çalışan bireyler 20 yıla kadar hapis cezasıyla karşı karşıya kalabilecek. Sanders'ın ofisi, bu azami cezanın yasa dışı nükleer silah geliştirilmesine ilişkin mevcut bazı yaptırımlarla benzer düzeyde olduğunu belirtiyor.
Şirketler içinse tablo daha da ağır. Tasarıda "corporate death penalty" olarak tanımlanan bir yaptırım mekanizması yer alıyor; bu mekanizma, kurumların zorunlu olarak feshedilmesine kadar gidebilecek sonuçlar doğurabilir. Dolayısıyla tasarı, hem bireyleri hem de kurumsal yapıları doğrudan hedef alan çift katmanlı bir yaptırım çerçevesi ortaya koyuyor.
Kabine Düzeyinde Yapay Zeka Bakanlığı Kuruluyor
Tasarı yalnızca yasaklarla sınırlı kalmıyor. Düzenleme, ABD federal yönetimi bünyesinde kabine düzeyinde yeni bir Yapay Zeka Bakanlığı (Department of Artificial Intelligence) kurulmasını da öngörüyor. Bu kurumun gelişmiş yapay zekâ modellerini yaşam döngülerinin farklı aşamalarında izlemesi, tehlikeli kabiliyetleri denetlemesi ve güvenlik standartlarının uygulanmasını sağlaması planlanıyor.
Bakanlığın görev alanı oldukça geniş tutuluyor. Kapatma komutlarını devre dışı bırakma veya izinsiz siber saldırılar gerçekleştirme gibi tehlikeli yeteneklerin sistemlerden çıkarılmasını denetlemek de kurumun sorumlulukları arasında yer alıyor. Tasarıya göre gerektiğinde yapay süper zeka sistemlerinin imhası da bu bakanlık tarafından denetlenebilecek.
Tasarı 'Yapay Süper Zekayı' Nasıl Tanımlıyor?
Düzenlemenin kritik noktalarından biri, hangi sistemlerin yasak kapsamına gireceği. Tasarı, yapay süper zekayı insanın bilişsel performans ve yeteneklerini çoğu alanda aşan ya da insanlığı ciddi biçimde etkisizleştirebilecek veya yok edebilecek kapasiteye sahip sistemler olarak tanımlıyor. Federal hükümeti devre dışı bırakabilecek ölçekteki kabiliyetler de bu tanımın kapsamına giriyor.
Düzenleme ayrıca yapay zekânın kendi araştırma ve geliştirme sürecini otomatikleştirmesi ya da büyük ölçüde hızlandırması gibi kabiliyetleri de risk çerçevesinde ele alıyor. Tasarıyı hazırlayanların üzerinde özellikle durduğu risklerden biri, gelişmiş modellerin giderek daha güçlü yapay zekâ sistemlerinin geliştirilmesini hızlandırabilmesi. Yapay zekâ güvenliği literatüründe uzun süredir tartışılan özyinelemeli kendini geliştirme senaryolarıyla örtüşen bu endişe, teknolojik ilerlemenin insan denetiminin yetişemeyeceği bir hıza ulaşabileceği varsayımına dayanıyor. Ancak bu senaryoların gerçekleşebilirliği konusunda yapay zekâ araştırmacıları arasında henüz bir görüş birliği bulunmuyor.
Sanders ve Casar Tasarıyı Nasıl Savunuyor?
Sanders, düzenlemeyi açıklarken yapay zekânın insan kontrolünü aşması ihtimalinin görmezden gelinemeyeceğini savundu. Senatör, "Bir uçuruma doğru yarışıyorsanız gazdan ayağınızı çekmekle yetinmezsiniz. Frene basarsınız" ifadelerini kullandı. Sanders'a göre gelişmiş yapay zekânın güvenli biçimde geliştirilebilmesi için gönüllü şirket standartları yeterli değil; bağlayıcı kurallar şart.
Temsilci Casar ise tasarının yalnızca süper zekâyı değil, biyokimyasal silah geliştirme veya insanların yerine yeni yapay zekâ sistemleri geliştirebilme gibi tehlikeli kabiliyetleri de hedeflediğini vurguladı. Tasarı kabul edilirse Washington'ın hedefi yalnızca ABD'deki şirketleri denetlemekle sınırlı kalmayacak; düzenleme, ABD'nin yapay süper zekanın dünya genelinde geliştirilmesini önlemeye yönelik uluslararası anlaşmalar için girişimde bulunmasını da öngörüyor. Bu çerçevede müttefiklerle koordinasyon, uluslararası düzenlemeler ve gerektiğinde ihracat kontrollerinin devreye alınması gündeme gelebilecek.
Yapay Zekâ Dünyasından İtirazlar
Sanders-Casar girişimi, yapay zekâ güvenliği konusunda daha sert önlemler talep eden çevrelerden destek görürken eleştirileri de beraberinde getirdi. Yapay zekâ araştırmacısı Gary Marcus, geçici bir duraklama ve özel bir federal yapay zekâ kurumunun tartışılabileceğini kabul etti; ancak süper insan düzeyindeki yapay zekâ araştırmalarının kalıcı ve tek taraflı biçimde yasaklanmasının fazla geniş kapsamlı olduğunu savundu. Marcus ayrıca teknik eşiklerin nasıl ölçüleceği konusunda ciddi sorunlar yaşanabileceğine dikkat çekti.
Tasarıya yönelik itirazların odağında yalnızca yasağın kendisi değil, kapsamı ve uygulanabilirliği yer alıyor. Washington'daki tartışmanın merkezinde artık "yapay zekâ düzenlenmeli mi?" sorusu değil, hangi yeteneklerin tehlikeli sayılacağı ve devletin teknolojik gelişmeye hangi noktada müdahale edeceği soruları bulunuyor. Tasarı henüz yasalaşmış bir düzenleme değil; Kongre'ye sunulmuş bir yasa önerisi olma niteliğini koruyor. Bu nedenle öngörülen 20 yıllık hapis cezası da şu an yürürlükte olan bir yaptırım değil. Bununla birlikte, daha önce veri güvenliği, telif hakları ve algoritmik ayrımcılık etrafında şekillenen yapay zekâ tartışmalarının artık insan zekâsını aşabilecek sistemlerin doğrudan yasaklanması boyutuna taşınmış olması, Washington'daki gündemin ne denli köklü bir dönüşüm geçirdiğini ortaya koyuyor.
Sıkça Sorulan Sorular
Ban Artificial Superintelligence Act nedir ve kim tarafından sunuldu?
Ban Artificial Superintelligence Act (Yapay Süper Zekayı Yasaklama Yasası), Vermont Senatörü Bernie Sanders ile Teksas Temsilcisi Greg Casar tarafından 23 Eylül'de ABD Kongresi'ne sunulan 19 sayfalık bir yasa tasarısıdır. Tasarı, yapay süper zekanın geliştirilmesini ve kullanıma sunulmasını yasaklamayı ve federal denetim mekanizması kurulana dek ileri yapay zekâ geliştirme çalışmalarını geçici olarak durdurmayı amaçlıyor.
Tasarı ihlal edilirse ne tür yaptırımlar uygulanacak?
Tasarıdaki yasakları veya geçici durdurma kararlarını ihlal eden bireyler 20 yıla kadar hapis cezasıyla karşılaşabilecek. Şirketler içinse "corporate death penalty" olarak tanımlanan ve kurumun zorunlu olarak feshedilmesine kadar gidebilecek yaptırımlar öngörülüyor. Sanders'ın ofisi, bireyler için öngörülen azami cezanın yasa dışı nükleer silah geliştirmeye ilişkin mevcut bazı cezalarla benzer düzeyde olduğunu belirtiyor.
Tasarının öngördüğü Yapay Zeka Bakanlığı ne yapacak?
Tasarı, ABD federal yönetimi içinde kabine düzeyinde bir Yapay Zeka Bakanlığı (Department of Artificial Intelligence) kurulmasını öngörüyor. Bu kurumun gelişmiş yapay zekâ modellerini yaşam döngülerinin farklı aşamalarında izlemesi, tehlikeli kabiliyetleri denetlemesi, güvenlik standartlarını uygulatması ve gerektiğinde yapay süper zeka sistemlerinin imhasını denetlemesi planlanıyor.
Tasarı 'yapay süper zekayı' nasıl tanımlıyor?
Tasarıya göre yapay süper zeka; insanın bilişsel performans ve yeteneklerini çoğu alanda aşan ya da insanlığı ciddi biçimde etkisizleştirebilecek veya yok edebilecek kapasitedeki sistemleri kapsıyor. Federal hükümeti devre dışı bırakabilecek ölçekteki kabiliyetler ve yapay zekânın kendi araştırma-geliştirme sürecini otomatikleştirmesi ya da büyük ölçüde hızlandırması da bu tanımın içinde değerlendiriliyor.
Yapay zekâ araştırmacıları tasarıya nasıl yaklaşıyor?
Yapay zekâ araştırmacısı Gary Marcus, geçici bir duraklama ve özel bir federal yapay zekâ kurumunun tartışılabileceğini belirtirken süper insan düzeyindeki araştırmaların kalıcı ve tek taraflı biçimde yasaklanmasını fazla geniş kapsamlı bulduğunu açıkladı. Marcus ayrıca teknik eşiklerin nasıl ölçüleceği konusunda ciddi sorunlar yaşanabileceğine dikkat çekti. Tasarıya karşı çıkan bazı uzmanlar da gelecekte ortaya çıkabilecek varsayımsal risklere fazla ağırlık verildiğini savunuyor.
