Anthropic'in 9 Kişilik 'Toplumsal Etki' Ekibi: Yapay Zekanın Topluma Zararlarını Önleme Görevi

Mayıs 2020'nin bir gecesi, karantina günlerinin tam ortasında Deep Ganguli derin bir kaygıya kapıldı. O dönemde Stanford İnsan Merkezli Yapay Zeka Enstitüsü'nde araştırma direktörü olarak görev yapan Ganguli, OpenAI'nin GPT-3 adlı yeni büyük dil modeline ilişkin yayımladığı makaleyi yeni okumuştu. Bu model, türünün bilinen en gelişmiş örneklerinden yaklaşık 10 kat daha güçlüydü ve yapay zekanın hiçbir zaman yapabileceğini düşünmediği şeyleri başarıyordu.

Araştırmada ortaya konan ölçekleme verileri, bu gelişmenin yavaşlayacağına dair hiçbir işaret taşımıyordu. Ganguli zihninde beş yıl ileriye sardı; Stanford'da mesleğini toplumsal sonuçları öngörmeye adayan biri olarak gördüğü tablo son derece büyük değişimlere işaret ediyordu. Teknoloji bu hızla ilerlemeye devam ederken seyirci kalamayacağını anladı.

Arkadaşı Jack Clark, eski OpenAI çalışanları tarafından kurulan Anthropic'e katılmıştı. Clark, daha önce OpenAI'nin politika direktörlüğünü yapmıştı ve Ganguli'yi Anthropic'e almak istiyordu; görev tanımı kapsamlıydı: yapay zekanın kişilerarası etkileşimlerden jeopolitik alana kadar her alanda insanlarla "olumlu biçimde etkileşim kurmasını" sağlamak.

Dokuz Kişilik Ekip, 2.000 Kişilik Şirkette

Ganguli, geçen dört yıl içinde Anthropic bünyesinde "toplumsal etkiler ekibi" olarak bilinen küçük bir grup oluşturdu. Ekip, yapay zekanın ekonomik etkisinden ikna edici gücüne, seçim risklerinden ayrımcılığa kadar pek çok konuda araştırma makaleleri kaleme aldı. Bu çalışmalar, Anthropic'in "güvenli" yapay zeka devi olarak özenle inşa ettiği itibarına belki de diğer tüm ekiplerden daha fazla katkıda bulundu.

Ancak 2.000'i aşkın kişilik bir kadro içinde yalnızca 9 çalışandan oluşan bu ekip, son derece kırılgan bir denge üzerinde duruyor. Şirketin değerlemesi bir yıldan kısa sürede yaklaşık üç katına çıkarak 183 milyar dolara ulaşmış, ardından 350 milyar dolar bandına yükselmiştir. Hız ve kâr baskısının giderek arttığı bu ortamda ekibin mevcut özgürlüğünün sonsuza dek sürmeyeceği sorusu kendiliğinden gündeme geliyor.

Ganguli, görevini yapay zeka şirketlerinin kamuoyuna duyurmak istemediği "rahatsız edici gerçekleri" bulmak ve bunları yalnızca Anthropic yönetimiyle değil, dünyanın geri kalanıyla da paylaşmak olarak tanımlıyor. "Gerçeği söyleyeceğiz" diyor Ganguli. "Çünkü birincisi, bu önemli. Doğru olan bu. İkincisi, riskler çok yüksek. Bunlar insanlar. Kamuoyunun bilme hakkı var. Üçüncüsü, bu bize kamuoyu ve politika yapıcılarla güven inşa ediyor. Kimseyi kandırmaya çalışmıyoruz; verinin bize gösterdiğini söylüyoruz."

Clio: Gizlilik ile Şeffaflık Arasında Bir İzleme Sistemi

Ekibin Anthropic'e en büyük katkılarından biri, Claude'un kullanım izleme sistemi Clio oldu. Sistem, Claude'un resmi olarak kullanıma açılmasının ardından milyonlarca insanın bu araçla nasıl etkileşime girdiğini anlamak ihtiyacından doğdu. Ganguli'nin deyimiyle "içgörü ile gizlilik arasında" bir denge kurmak gerekiyordu: Sıfır gizlilikle sınırsız içgörü elde edilebilirdi; ama bu kullanıcıların güvenini zedeleyecekti.

Anthropic mühendisleri ve sivil toplum kuruluşlarıyla yapılan istişareler sonucunda Google Trendler'in sohbet botu versiyonu olarak tanımlanabilecek bir sistem hayata geçirildi. Clio, insanların Claude'u herhangi bir anda nasıl kullandığını konu kümeleri biçiminde görselleştiriyor: video senaryosu yazmak, matematik problemleri çözmek, web ve mobil uygulama geliştirmek gibi büyük kümelerden rüya yorumu, Dungeons & Dragons, afet hazırlığı ve bulmaca ipuçları gibi daha küçük kategorilere kadar geniş bir yelpaze sunuyor. Bugün Clio, Anthropic genelinde pek çok ekip tarafından kullanılıyor ve güvenlik önlemlerinin ne ölçüde işe yaradığını değerlendirmeye yardımcı oluyor.

Ekibin Clio aracılığıyla ortaya koyduğu en çarpıcı bulgulardan biri, platformun güvenlik izleme sistemlerinin analizi sırasında gün yüzüne çıktı. Miles McCain ve Alex Tamkin, güvenlik ekibiyle iş birliği yaparak insanların platformu zararlı biçimlerde nasıl kullandığını araştırdı. Grafik cinsel içerikli pornografik hikâyelerin üretilmesi ve Claude'un ücretsiz sürümünü kullanarak SEO odaklı spam içerik oluşturmaya çalışan bot ağları tespit edildi; üstelik bu bot ağları Anthropic'in kendi güvenlik sınıflandırıcıları tarafından yakalanamamıştı. Ekip, başka şirketlerin de kendi zayıf noktalarını fark edebilmesi umuduyla bu araştırmayı kamuoyuyla paylaştı.

Ekibin Yapısı ve Çalışma Kültürü

Toplumsal etkiler ekibi, Anthropic henüz yalnızca bir araştırma laboratuvarıyken Ganguli'nin tek kişilik girişimiyle başladı. Araştırma bilimcisi Esin Durmus, Şubat 2023'te ekibe katıldı; Claude'un lansmanı ise bir ay sonra gerçekleşti. Durmus'un ilk araştırma makalesi, Claude gibi sohbet botlarının küresel perspektifleri eşit biçimde temsil etmeyebilecek önyargılı görüşler sunabileceğine odaklanıyordu.

Ekip haftanın beş günü ofiste çalışıyor. Araştırma bilimcisi Saffron Huang, çoğunlukla Anthropic'in sekizinci katındaki kafeteryada Ganguli ve diğerleriyle çalışma kahvaltısı yapıyor. Huang, 2024'te Anthropic'e katılmadan önce Londra'da bir sivil toplum kuruluşu kurmuş Yeni Zelandalı bir araştırmacı. Ekip üyeleri birlikte spor salonuna gidiyor, geç saatlere kadar ofiste çalışıyor ve birbirlerinin anneleriyle tanışmış, çocuklarını okuldan alırken aynı araçta yolculuk etmiş bir ekip bütünlüğüne sahip.

Ekibin kullandığı "belirsizlik konisi" ifadesi, hem bir düşünce biçimini hem de ofisteki somut bir nesneyi temsil ediyor: Araştırma mühendisi Miles McCain ve Anthropic'in tesis ekibi, temizledikleri eski bir trafik konisini plastik gözlerle süsleyerek ofise yerleştirdi. Ganguli, ekibin bu rahat atmosferinin farklı görüşlerin özgürce dile getirilmesine zemin hazırladığını belirtiyor.

Şirket İçi Bağımsızlık ve Yönetimle İlişki

Ekip lideri sıfatıyla Ganguli, yöneticilerle en çok iletişim kuran isim. Ancak CEO Dario Amodei ile düzenli bir görüşme düzeni yok ve bu doğrudan hat her zaman açık bir iletişime dönüşmüyor. Nitekim Amodei, bir keresinde Ganguli'ye Slack üzerinden yapay zekanın ekonomik etkilerini araştırmaları gerektiğini söyledi; oysa ekip bu konuyu zaten gündemine almıştı. Söz konusu araştırma daha sonra Anthropic'in Ekonomik Endeksi'ne dönüştü; bu endeks, Claude'un dünya genelinde nasıl kullanıldığını ve bunun dünya ekonomisine olası etkilerini izleyen küresel bir takip aracı.

Ganguli, yönetimin desteğine ilişkin şüpheci sorularla karşılaşınca sakin bir özgüvenle yanıt veriyor: "Dört yılım boyunca yönetim ya da liderlik ekibinden hiç destek görmediğimi hissetmedim, tek bir kez bile." Bununla birlikte, Anthropic'in Trump yönetimiyle kurduğu hassas denge bu tabloyu karmaşıklaştırıyor. Şirket, Claude'u siyasi açıdan daha "orta yolcu" hale getirme çabalarını kamuoyuyla paylaşmak durumunda kaldı. Ayrıca tartışmalı eyalet yapay zeka yasa moratoriyumuna karşı çıkan tek yapay zeka şirketi olarak Trump'ın yapay zeka danışmanı David Sacks'ın tepkisini çekti; bunun üzerine CEO Amodei, Trump yönetiminin bazı politikalarıyla uyumu vurgulayan kamuoyu açıklaması yayımlamak zorunda kaldı.

Duygusal Zeka Araştırmaları ve "Yapay Zeka Psikozu" Endişesi

Ekibin önümüzdeki dönemde öncelik vereceği araştırma alanlarından biri, insanların Claude'u yalnızca bilişsel değil duygusal açıdan da nasıl kullandığı. Ganguli, ekibin bugüne kadarki araştırmalarının büyük bölümünün ekonomi ve iş gücü piyasası üzerindeki somut etkilere odaklandığını, duygusal zeka araştırmalarının ise görece yeni olduğunu belirtiyor.

"İnsanlar Claude'a tavsiye almak, arkadaşlık kurmak, kariyer koçluğu için, siyasi meseleleri düşünmek için gidiyor" diyor Ganguli. "Bu yeni bir şey. Claude'un ya da Grok, ChatGPT, Gemini gibi araçların etkisiyle insanların gri alanlar içeren, büyük ölçüde görüş meselesi olan konularda kararlar alması ciddi toplumsal sonuçlar doğurabilir."

Bu alandaki en acil sorunlardan biri "yapay zeka psikozu" olarak bilinen fenomen. Bu kavram, yapay zekanın kullanıcıyı sanrısal bir sarmalın içine çektiği ve gerçeklikle bağını zayıflattığı çeşitli durumları kapsıyor. Kullanıcı genellikle bir sohbet botuyla duygusal bir bağ kuruyor; botun önceki konuşmaları hatırlaması ve zaman içinde güvenlik sınırlarından uzaklaşabilmesi bu bağı güçlendiriyor. Kimi zaman kullanıcı botun içinde "hapsolmuş" bir romantik partner bulduğuna inanıyor; kimi zaman evrenin gizli sırlarını keşfettiğini düşünüyor; kimi zaman ise yaygın bir paranoya ve korku hali ortaya çıkıyor. Uzmanlar, yapay zeka yanılsamasının bazı genç intiharlarının arkasındaki temel etkenlerden biri olduğunu ve bu durumun dava, Senato duruşmaları, yeni yasalar ve ebeveyn denetimleri gibi sonuçlar doğurduğunu vurguluyor.

Ganguli bu noktada ekibinin henüz yanıtlamaya başladığı soruyu şöyle dile getiriyor: "Sonsuz empatiyle donatılmış bir makinenin var olduğu ve her şeyi ona döküp onun ne düşündüğünü dinleyebildiğiniz bir dünya ne anlama gelir? İnsanlar Claude'u bu şekilde hangi görevler için kullanıyor? Nasıl tavsiyeler veriyor? Bu gizemi çözmeye yeni başladık."

Sıkça Sorulan Sorular

Anthropic'in toplumsal etkiler ekibi kaç kişiden oluşuyor ve ne zaman kuruldu?

Ekip, 2.000'i aşkın kişilik Anthropic kadrosu içinde yalnızca 9 çalışandan oluşuyor. Deep Ganguli'nin tek kişilik girişimiyle Anthropic'in yalnızca bir araştırma laboratuvarı olduğu dönemde başladı; ilk tam zamanlı üye Esin Durmus, Şubat 2023'te ekibe katıldı.

Clio sistemi nedir ve ne işe yarıyor?

Clio, Claude'un kullanım alışkanlıklarını izlemek için toplumsal etkiler ekibinin geliştirdiği bir takip sistemi. Google Trendler'in sohbet botu versiyonuna benzetilen Clio, insanların Claude'u hangi konular için kullandığını konu kümeleri biçiminde görselleştiriyor. Bugün Anthropic genelinde pek çok ekip tarafından kullanılıyor ve güvenlik önlemlerinin etkinliğini değerlendirmeye yardımcı oluyor.

Ekip hangi "rahatsız edici gerçekleri" kamuoyuyla paylaştı?

Ekip, Clio aracılığıyla yürüttüğü analizde Claude'un grafik cinsel içerikli pornografik hikâyeler üretmek için kullanıldığını ve Anthropic'in kendi güvenlik sınıflandırıcılarının tespit edemediği, SEO odaklı spam içerik oluşturmaya çalışan bot ağlarının varlığını ortaya koydu. Bu bulgular, başka şirketlerin de kendi zayıf noktalarını fark edebilmesi amacıyla yayımlandı.

Ekip yönetimle nasıl bir ilişki içinde ve bağımsızlığı ne ölçüde korunuyor?

Ekip lideri Ganguli, yöneticilerle en çok iletişim kuran isim olmakla birlikte CEO Dario Amodei ile düzenli bir görüşme düzeni bulunmuyor. Ganguli, dört yıllık süreçte liderlik ekibinden hiç destek görmediğini hissetmediğini belirtiyor. Ancak ekibin çalışmaları Anthropic onayına tabi olduğundan, geniş çaplı şeffaflık taahhüdü ile kurumsal denetim arasındaki denge her zaman net değil.

"Yapay zeka psikozu" nedir ve ekip bu konuda ne yapıyor?

Yapay zeka psikozu, yapay zekanın kullanıcıyı sanrısal bir sarmalın içine çektiği ve gerçeklikle bağını zayıflattığı durumları tanımlayan bir kavram. Kullanıcının botla kurduğu duygusal bağ, botun önceki konuşmaları hatırlaması ve güvenlik sınırlarından uzaklaşabilmesiyle güçleniyor. Bu fenomen, bazı genç intiharlarının arkasındaki etkenlerden biri olarak gösteriliyor. Toplumsal etkiler ekibi, insanların Claude'u duygusal destek için nasıl kullandığını araştırmayı önümüzdeki altı ay içinde öncelikli gündemine almayı planlıyor.