Brezilya'da 36 yaşındaki bir çiftçi, yaklaşık iki ay boyunca ChatGPT ile yaptığı yazışmalar nedeniyle tutuklandı. Polis, bu mesajlarda sekiz yaşındaki oğlunu öldürme, farklı kişi ve mekânlara saldırı düzenleme ve ardından intihar etme planlarının bulunduğunu belirtiyor. Dava, yapay zeka sohbet robotlarının potansiyel tehditleri tespit etmesi ve yetkilileri bilgilendirmesi konusundaki tartışmaları yeniden alevlendirdi.
OpenAI FBI'ı Bilgilendirdi, FBI Brezilya'yı Uyardı
Bu türden bilinen nadir vakalardan birini oluşturan davada, ChatGPT'nin üreticisi OpenAI, kullanıcının mesajlarını FBI'a iletti. FBI da Brezilya yetkililerini haberdar etti. Brezilya Adalet Bakanlığı siber suçlar biriminin dosyayı eyalet polis departmanına iletmesinden üç gün sonra, 19 Haziran'da kırsal São Gabriel da Palha'da tutuklanan çiftçinin adı, oğlunun kimliğini korumak amacıyla BBC tarafından açıklanmadı.
BBC News Brasil'in incelediği mesajlarda çarpıcı ifadeler göze çarpıyordu: "Ona beni ve oğlumu öldürmesi için 50 bin dolar teklif ettim ama işin içinde bir çocuk olduğu için kabul etmedi." Bir başka mesajda ise "İnsanları öldürme arzusunun nereden geldiğini öğrenmek istedim. Başka bir insanın acı çekmesini görmek hoşuma gidiyor" yazıyordu. Polis ayrıca şüphelinin ChatGPT ile okullara, kiliselere ve polise yönelik saldırılar hakkında da görüştüğüne inanıyor. Mesajların birinde şu ifadeler yer alıyordu: "Bir uyuşturucu satış noktasına gidip dört suçluyu öldürürsem, şehirde ünlü olurum. Sonrasında da bir iki polisi öldürsem huzur içinde ölebilirdim." Başka bir mesajda ise "Bir ateşli silah alıp polise ateş etmeyi düşünüyorum, böylece tepki verip beni öldürsünler. Bu benim için güzel ve iyi olacak" deniyordu.
Evde Bulunan Eşyalar ve Soruşturmanın Kapsamı
Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, vakaya öncelik verdiklerini belirterek babanın ayın 20'sine kadar oğlunu öldürmeyi planladığı iddiasının belirleyici olduğunu söyledi. Andrade'ye göre şüphelinin nafaka ödemeleri dışında oğluyla neredeyse hiç teması yoktu; araştırmacılar bu ödemelerden kaynaklanan öfkenin iddia edilen komplonun ardındaki nedenlerden biri olabileceğine inanıyor.
Şüphelinin konutunda yapılan aramalarda içinde tanımlanamayan maddeler bulunan dört şişe ve düğümlenmiş bir ip ele geçirildi. Yetkililer, bu bulguların intihar niyetine işaret edebileceğini ifade etti. Soruşturmacılar ayrıca şüphelinin risin de dahil olduğu zehirli maddeler üzerine araştırma yaptığını ve ChatGPT'nin güvenlik önlemlerini aşmak amacıyla sorularını yeniden formüle ettiğini öne sürüyor. Andrade, "Platformun bize ilettiği her şey, polis olay yerine geldiğinde doğrulandı" dedi.
Soruşturmacılar şu an şüphelinin cep telefonunu inceliyor ve ele geçirilen eşyalar üzerindeki adli tahlil sonuçlarını bekliyor. Bu bulgular, şüphelinin ChatGPT'de bahsettiği gibi bir kiralık katille gerçekten iletişime geçip geçmediğini ve planı hayata geçirmeye yönelik somut adımlar atıp atmadığını ortaya koyabilecek.
54 Gün Gözaltı, Henüz Suçlama Yok
Adam oğluna zarar vermek istediğini reddediyor. 54 gün gözaltında kaldıktan sonra soruşturmadaki gecikmeler gerekçesiyle 13 Ağustos'ta serbest bırakıldı. Henüz resmi bir suçlama yöneltilmedi; ancak polis soruşturması sürüyor. Çiftçi hakkında elektronik izleme ve oğluyla ya da çocuğun annesiyle iletişime geçme yasağı gibi koruyucu tedbirler uygulanacak.
Savunma avukatı Pedro Paulo Pessi ise müvekkilinin bir sohbet robotuna "saçma sapan şeyler söylediğini" ve herhangi bir suç işlemediğini vurguladı. "Yapay zeka ile konuşmak ve saçma sapan şeyler söylemek suç olursa, herkes hapse girer" diyen Pessi, Brezilya ceza hukukunda bir suçun normalde ancak işleme aşamasında işlenmiş sayıldığına dikkat çekti. Savunma tarafı, böyle bir eylemin gerçekleştirilmediğini savunuyor.
Kanıt Sorunu: ChatGPT'nin Yanıtları Paylaşılmadı
Araştırmacılar, OpenAI'nin kullanıcının bilgilerini ve gönderdiği mesajları sağladığını, ancak ChatGPT'nin yanıtlarını paylaşmadığını belirtiyor. Andrade bu konuda "Verilen yanıtları almadık" dedi. Ceza avukatı Maíra Fernandes, bu durumun ciddi bir delil sorunu yarattığını söylüyor: "Küçük bir bölüm olamaz, düzenlenmiş bir versiyon da olamaz. Konuşmanın tamamı olmalı." Fernandes'e göre tüm konuşmanın görülmesi, chatbot'un yalnızca tepki mi verdiğini yoksa tartışmayı aktif olarak mı şekillendirdiğini anlamak açısından kritik önem taşıyor.
BBC News Brasil'e açıklama yapan OpenAI ise ChatGPT'nin yanıtlarının neden paylaşılmadığına dair bir açıklama yapmaktan kaçındı; şirket yalnızca "başkalarına zarar verme konusunda güvenilir ve yakın bir risk" tespit ettiğinde kolluk kuvvetlerini bilgilendirebileceğini belirtti. Espírito Santo polisinden Andrade, çiftçinin durumunun eyaletin aldığı ilk yapay zeka kaynaklı uyarı olduğunu ve Brezilya'da bu türden üçüncü vaka olduğunu aktardı. ABD medyasına göre OpenAI, ağustos ayında eski kız arkadaşına tecavüz edip öldürme planlarını paylaşan 25 yaşındaki bir Florida sakini hakkında da FBI'ı bilgilendirmişti.
Uzmanlar: Aşırı Gözetimden de Kaçınılmalı
Profesör ve dijital hukuk uzmanı Patricia Peck, davanın yapay zekanın rolünde köklü bir dönüşümü yansıttığını söylüyor: Yapay zeka artık yalnızca içerik üretme aracı olmaktan çıkıp "potansiyel olarak tehlikeli davranışlarla ilişkili kalıpları belirleyebilen" etkileşimli bir sisteme dönüşüyor. Peck'e göre belirli koşullar altında yapay zeka şirketlerinin yetkilileri bilgilendirme konusunda yasal bir yükümlülüğü de doğabilir: "Bir konuşma, yalnızca soyut bir niyeti temsil etmekten çıkıp, belirlenebilir bir mağdur, mevcut araçlar ve yakın bir risk içeren somut bir tehdidi işaret etmeye başladığında, harekete geçmek için etik ve belirli durumlarda yasal bir yükümlülük doğar."
Öte yandan avukat Fernandes, soruşturmaları yalnızca yapay zeka değerlendirmelerine dayandırmanın normalleştirilmesine karşı uyarıda bulunuyor. "Aksi takdirde yapay zekanın bunu bu şekilde yorumlaması nedeniyle herkes hakkında soruşturma başlatılabilir" diyen Fernandes, gerçek tehditleri duygusal boşalmadan, hayalden veya kışkırtıcı ifadelerden ayırt etmek için önlemler alınması gerektiğini vurguluyor. Peck de aynı kaygıyı paylaşıyor: "Yapay zekaya uygulanan etik, 'her şeyi izle' mantığına değil, 'sadece riskin haklı gösterdiği durumlarda müdahale et' mantığına dayanmalı. Buradaki zorluk, hem ihmalden hem de aşırı gözetimden kaçınmak."
Dava, yapay zeka sohbet robotlarının herhangi bir suç işlenmeden önce potansiyel bir tehdidi tespit ettiğinde ne yapılması gerektiği sorusunu polis, mahkemeler ve yapay zeka şirketleri için giderek daha acil bir gündem maddesi hâline getiriyor. Florida'da ise bu yılın nisan ayında OpenAI aleyhine, ChatGPT teknolojisinin geçen yıl Florida Eyalet Üniversitesi'ndeki silahlı saldırıda iki kişinin ölümünde rol oynayıp oynamadığına ilişkin ayrı bir ceza soruşturması başlatıldı. OpenAI bu iddiaları reddediyor.
Sıkça Sorulan Sorular
Brezilyalı çiftçi neden tutuklandı?
36 yaşındaki çiftçi, yaklaşık iki ay boyunca ChatGPT ile sekiz yaşındaki oğlunu öldürme, çeşitli kişi ve mekânlara saldırı düzenleme ve intihar etme planlarını içeren mesajlar paylaştığı için tutuklandı. OpenAI bu mesajları FBI'a bildirdi, FBI da Brezilya yetkililerini uyardı.
Adam ne kadar süre gözaltında kaldı ve şu an durumu ne?
Çiftçi 54 gün gözaltında kaldıktan sonra soruşturmadaki gecikmeler gerekçesiyle 13 Ağustos'ta serbest bırakıldı. Henüz resmi bir suçlama yöneltilmedi; ancak polis soruşturması devam ediyor. Adam hakkında elektronik izleme ve oğluyla ya da çocuğun annesiyle iletişim yasağı gibi koruyucu tedbirler uygulanacak.
Evde ne tür deliller bulundu?
Şüphelinin konutunda yapılan aramalarda içinde tanımlanamayan maddeler bulunan dört şişe ve düğümlenmiş bir ip ele geçirildi. Yetkililer bu bulguların intihar niyetine işaret edebileceğini söyledi. Soruşturmacılar ayrıca şüphelinin ris dahil zehirli maddeler üzerine araştırma yaptığını öne sürüyor.
ChatGPT'nin yanıtları neden delil olarak sunulamadı?
Araştırmacılar, OpenAI'nin yalnızca kullanıcının bilgilerini ve gönderdiği mesajları paylaştığını, ChatGPT'nin yanıtlarını vermediğini belirtiyor. Ceza avukatı Maíra Fernandes, konuşmanın tamamı olmadan bağlamın değerlendirilemeyeceğini ve bunun ciddi bir delil sorunu yarattığını söylüyor.
Bu dava Brezilya'da yapay zeka kaynaklı kaçıncı ihbar vakasıdır?
Espírito Santo polisinden Brenno Andrade'ye göre çiftçinin tutuklanmasına yol açan ihbar, eyaletin aldığı ilk yapay zeka kaynaklı uyarıydı ve Brezilya genelinde bu türden üçüncü vaka oldu.
