ABD'de bu bahar, silahlı bir operasyon için havalanmış askerî uçaklar havadayken yetkililer kaygı verici bir gerçekle karşılaştı: Çin'e ait bir gemiye yönelik operasyonu yönlendiren istihbaratın bir yapay zekâ sohbet botu tarafından halüsinasyon olarak üretildiği anlaşıldı. CNN'in cuma günü yayımladığı habere göre operasyon son anda iptal edildi ve Çin ile olası bir çatışma kıl payı önlendi.
Yaşananlar, askerî yetkililer ve dış uzmanlar arasında büyüyen bir endişeye işaret ediyor: Karar vericiler yapay zekâya daha fazla yaslandıkça, bu sistemlerin ürettiği hatalar sorgulanmadan önce komuta zincirinde yukarı doğru ilerleyebiliyor. Söz konusu istihbarat raporu, İran ile savaş sürerken dolaşıma girmiş ve geminin bir nükleer silah programına ait bileşenler taşıdığını öne sürmüştü.
Hatalı istihbarat komuta zincirine nasıl girdi
Habere göre yanlış istihbarat, açık kaynak verilerini gizli sinyal istihbaratıyla sentezlemek için bir yapay zekâ sohbet botuna başvuran bir Özel Harekât Komutanlığı analistinden çıktı. Sohbet botu, geminin yük manifestosunu yanlış tanımladı. Analist ardından aynı aracı ikinci kez kullanarak hatalı bulguları resmî görünümlü bir özete dönüştürdü. Bu özet komuta kanalları boyunca dolaşıma girdi.
Böylece bir yapay zekâ halüsinasyonu, resmî bir belge görünümüne bürünerek karar alma sürecine sızdı ve silahlı bir operasyonun eşiğine kadar taşındı. Uçaklar havadayken fark edilen hata, operasyonun iptal edilmesiyle sonuçlandı.
Operasyonun arka planı: İran ile savaş ve nükleer iddiası
Haberde aktarılan bilgilere göre rapor, İran ile savaşın sürdüğü bir dönemde dolaşıma girdi. Belgede, söz konusu geminin bir nükleer silah programına ait bileşenler taşıdığı iddia ediliyordu. Bu iddia, açık kaynak verileri ile gizli sinyal istihbaratının yapay zekâ yardımıyla birleştirilmesi sonucu ortaya çıkmıştı.
Ancak zincirin en kritik halkasında bir hata vardı: Yapay zekâ, geminin yük manifestosunu yanlış yorumladı ve bu hatalı çıkarım, analistin ikinci kullanımıyla resmî görünümlü bir özete dönüşerek karar vericilerin önüne ulaştı.
Pentagon'un yapay zekâ yarışı
Yaşanan bu olay, ABD ordusunun karar alma süreçlerini hızlandırmak ve Çin karşısındaki üstünlüğünü korumak için yapay zekâyı entegre etme yarışına girdiği bir dönemde ortaya çıktı. Pentagon, yapay zekânın hedefleme zincirini (kill chain) hızlandırarak komutanların doğru zamanda yanıt verebilmesini sağladığını ve bunun önemli bir avantaj sunduğunu belirtiyor.
Ancak yapay zekâyı cazip kılan aynı hız, yeterli insan denetimi olmadığında halüsinasyonların da önünü açabiliyor. Bu olay, söz konusu riskin yalnızca teorik bir tartışma olmadığını gösteriyor.
Uzmanlardan uyarı: güvence şart
GovAI'de araştırmacı ve ABD Ordusu'nda görev yapmış bir subay olan Jake Steckler, TechCrunch'a yazılı olarak verdiği yanıtta konuyu değerlendirdi. Steckler, "Askerî personelin büyük dil modellerinin doğasında bulunan belirsizliği anlaması önemlidir" dedi.
Steckler, bu farkındalığın özellikle güç kullanımına yol açabilecek kararlar için kritik olduğunu vurguladı: "Ancak hedefleme, istihbarat analizi veya operasyonel planlama gibi güç kullanımına yol açabilecek her karar için bu özellikle kritiktir. Bu kararların yaşam ve ölüm sonuçları vardır."
Yine de Steckler, yaşanan olayın yapay zekâdan kaçınmak için değil, ona daha fazla güvence mekanizması eklemek için bir çağrı olması gerektiğini söyledi. "Bu araçlar doğru bağlamlarda ve doğru güvenceler yerindeyken faydalı olabilir" diyen Steckler, "Ancak her şeyin önüne kabul hızını koymak, büyük olasılıkla askerî personelin bu sistemlere olan güvenini kaybetmesine yol açacak olaylara neden olur; bu da nihayetinde kabulü yalnızca yavaşlatır" değerlendirmesini yaptı.
Sıkça Sorulan Sorular
Operasyon neden son anda iptal edildi?
Operasyonu yönlendiren istihbaratın bir yapay zekâ sohbet botu tarafından halüsinasyon olarak üretildiği anlaşıldı. Uçaklar havadayken fark edilen bu hata üzerine operasyon son anda iptal edildi ve Çin ile olası bir çatışma önlendi.
Hatalı istihbaratı kim hazırladı?
Habere göre yanlış istihbarat, açık kaynak verilerini gizli sinyal istihbaratıyla sentezlemek için bir yapay zekâ sohbet botuna başvuran bir Özel Harekât Komutanlığı analistinden çıktı.
Sohbet botu hangi hatayı yaptı?
Sohbet botu, söz konusu geminin yük manifestosunu yanlış tanımladı. Analist daha sonra aynı aracı ikinci kez kullanarak hatalı bulguları resmî görünümlü bir özete dönüştürdü ve bu özet komuta kanallarına dağıtıldı.
Rapor hangi dönemde dolaşıma girdi ve ne iddia ediyordu?
İstihbarat raporu, İran ile savaş sürerken dolaşıma girdi. Raporda, geminin bir nükleer silah programına ait bileşenler taşıdığı iddia ediliyordu.
Uzmanlar olaydan nasıl bir sonuç çıkarıyor?
GovAI araştırmacısı ve ABD Ordusu'nda görev yapmış subay Jake Steckler, olayın yapay zekâdan kaçınmak için değil, ona daha fazla güvence eklemek için bir çağrı olması gerektiğini söylüyor. Steckler, kabul hızını her şeyin önüne koymanın askerî personelin sistemlere olan güvenini kaybetmesine yol açabileceği, bunun da nihayetinde kabulü yavaşlatacağı uyarısında bulunuyor.
