Facebook ve Instagram'ın sahibi Meta, yeni kişisel yapay zeka asistanı Muse'un telefon arama özelliğinde bazı görüşmeleri insan yükleniciler aracılığıyla gerçekleştiren bir "insan konsiyerj" testine başladı. Reuters'ın gördüğü şirket içi paylaşımlara göre Meta, bu testi çalışanlarına geçen hafta duyurdu. Duyuru, Muse'un telefon arama özelliğinin kamuya açılmasından hemen sonra geldi ve şirket içinde ciddi tartışmalara yol açtı.
Muse Nedir ve Ne Yapıyor?
Muse, e-posta gönderme, alışveriş ve seyahat rezervasyonu gibi görevleri kullanıcı adına otonom biçimde yerine getirmek üzere tasarlandı. Uygulama, çıkışından bu yana ABD uygulama indirme listelerinde zirveye oturdu ve Sensor Tower verilerine göre 2,5 milyondan fazla indirildi. Meta hisseleri de lansmanın ardından yüzde 20'den fazla yükselerek 200 milyar doların üzerinde piyasa değeri ekledi.
Telefon arama özelliği ise Muse'un en dikkat çekici işlevlerinden birini oluşturuyor. Bu özellik sayesinde kullanıcı, asistana ABD'deki işletmeleri aramasını ve saç tıraşı randevusu alma, stok kontrolü yapma ya da farklı firmalardan fiyat teklifi alma gibi işleri yürütmesini talamat edebiliyor. Ancak Meta, kamuoyuna duyurduğu tam otonom yapay zeka vaadinin aksine, bazı aramaları perde arkasında eğitimli insan ajanlara devretti.
İnsan Konsiyerj Testi Nasıl İşledi?
Meta'nın iç paylaşımlarına göre şirket, insan ajanların devreye girmesinin başarı oranını yüzde 95-98 seviyesine çıkarabileceğini hesapladı. Saf yapay zeka aramalarının başarı oranının ise bu rakamın belirgin biçimde altında kaldığı vurgulandı. Bazı kullanıcıların karşı tarafın yapay zeka olduğunu fark edince telefonu kapattığı da bildirildi; Meta bu sorunu aşmak için geçen hafta çalışanlarının yarısına "insan ajan aramaları" özelliğini açtı.
Şirket, Ağustos'ta çalışan testlerine başlamış ve uygulamanın genel kullanıma açılmasının ardından özelliği kademeli olarak kullanıcılara sunmuştu. Ancak insan yüklenicilerin bu süreçte nasıl devreye girdiği kullanıcılara bildirilmedi; bu durum şirket içinde de rahatsızlık yarattı.
Çalışanların Gizlilik Kaygıları
Şirket içi paylaşımlarda bazı Meta çalışanları, insan yüklenicilerin aramalara dahil edilmesinin ciddi gizlilik riskleri taşıdığını ileri sürdü. Bir çalışan, "Bu özelliğin riski göze almaya değer olduğunu düşünmek beni şaşırtıyor. Bir hata uzaklığındayız, gereksiz bilgilerin insan arayanlara sızmasından" diye yazdı.
Meta, Muse'un lansmanında her ajanın kendi güvenli "sanal makinesine" sahip olduğunu ve şifre gibi hassas bilgilerin ayrı depolandığını özellikle vurgulamıştı. Çalışanlar, insan konsiyerj uygulamasının bu temel satış noktasını doğrudan zayıflattığını eleştirdi; zira insan bir yüklenicinin görüşmeye dahil olması, bu güvenlik mimarisinin pratikte ne ölçüde işlevsel olduğunu sorgulatır hale getirdi.
Irkçı İfade İçeren Olay ve Özelliğin Askıya Alınması
Tartışmaları daha da derinleştiren somut bir olay da yaşandı. Bir çalışan, internet ve kablo sağlayıcısıyla fatura müzakeresi amacıyla Muse'u kullandığında, görüşme dökümünde insan yüklenicinin ırkçı bir ifade kullandığını fark etti. Bunun üzerine Meta Superintelligence Labs biriminden bir başkan yardımcısı şirket içi kanalda yaptığı açıklamada "Bu bir hata oldu" diyerek telefon arama özelliğinin şimdilik geri çekildiğini duyurdu. Söz konusu insan ajanın da artık Meta projelerinde yer almayacağı belirtildi.
Bu gelişme, otonom yapay zeka sistemlerinde insan denetiminin hem bir güvence hem de potansiyel bir risk unsuru olabileceğini somut biçimde ortaya koydu. Şirket içi iletişimlerde konuya ilişkin tartışmaların yoğunlaştığı görüldü.
Meta'nın Yanıtı ve Geçmişten Bir Örnek
Meta sözcüsü Daniel Roberts, çalışan tepkilerinin "ezici çoğunlukla olumlu" olduğunu söyledi. Roberts, testin güvenlik ve gizlilik korumalarını geliştirmek amacıyla yürütüldüğünü ve özelliğin ancak hazır olduğunda, gerekli bilgilendirmelerle kamuya sunulacağını da ekledi.
Bu tablo, teknoloji şirketlerinin otonom yapay zeka vaatlerini hayata geçirirken perde arkasında insan emeğine başvurduğunu bir kez daha gündeme taşıyor. Meta'nın yaklaşık on yıl önce Messenger platformunda denediği "M" asistanında da görevlerin yaklaşık yüzde 70'inin insan tarafından yürütüldüğü daha sonra ortaya çıkmıştı. Muse'un telefon arama özelliğindeki insan konsiyerj testi, bu tarihin yeni bir halkasını oluşturuyor.
Sıkça Sorulan Sorular
Meta'nın Muse asistanı ne işe yarıyor?
Muse, e-posta gönderme, alışveriş, seyahat rezervasyonu ve işletmeleri arayarak randevu alma ya da fiyat teklifi isteme gibi görevleri kullanıcı adına otonom biçimde yerine getirmek üzere tasarlanmış bir kişisel yapay zeka asistanıdır.
İnsan konsiyerj testi neden yapıldı?
Meta, saf yapay zeka aramalarının başarı oranının düşük kalması nedeniyle bazı aramaları eğitimli insan ajanlara devretti. Şirket, bu yaklaşımın başarı oranını yüzde 95-98 seviyesine çıkarabileceğini belirtti.
Muse'un telefon arama özelliği neden askıya alındı?
Bir çalışanın fatura müzakeresi için Muse'u kullanması sırasında görüşme dökümünde insan yüklenicinin ırkçı bir ifade kullandığı tespit edildi. Bunun üzerine Meta Superintelligence Labs biriminden bir başkan yardımcısı özelliğin şimdilik geri çekildiğini duyurdu.
Çalışanlar bu teste nasıl tepki verdi?
Meta sözcüsü Daniel Roberts, çalışan tepkilerinin ezici çoğunlukla olumlu olduğunu açıkladı. Ancak bazı çalışanlar, insan yüklenicilerin aramalara dahil edilmesinin gizlilik riski taşıdığını ve şirketin lansmanında öne sürdüğü güvenlik vaatlerini zayıflattığını şirket içi kanallarda dile getirdi.
Muse lansmanından bu yana kaç kez indirildi?
Sensor Tower verilerine göre Muse, çıkışından bu yana 2,5 milyondan fazla indirildi ve ABD uygulama indirme listelerinde zirveye oturdu.
