Yapay zeka modellerinin birbirleriyle iletişim kurarken insanlar tarafından doğrudan öğretilmeyen yeni ifadeler ve ortak anlamlar geliştirdiği tespit edildi. New York merkezli yapay zeka laboratuvarı Emergence'taki araştırmacılar tarafından yürütülen çalışmada, farklı şirketlere ait yapay zeka modellerinin deneysel "toplumlar" içinde iş birliği yapmaları istendi. Araştırmacılar, modellerin zamanla kendilerine özgü ifadeler, kısaltmalar ve kavramlar oluşturmaya başladığını belirledi.
Araştırma Nasıl Yürütüldü?
Emergence laboratuvarı araştırmacıları, birden fazla yapay zeka modelini deneysel bir ortamda bir araya getirdi. Farklı şirketlere ait bu modellerin birbirleriyle iş birliği yapmaları sağlandı. Araştırma sürecinde modellerin zaman içinde kendi aralarında özgün bir iletişim biçimi geliştirdiği gözlemlendi. Bu iletişim biçiminin şiirsel metaforlarla iş dünyasına ait terimlerin sıra dışı bir birleşimini içerdiği ve ajanlar birbirleriyle daha fazla iletişim kurdukça dilin giderek daha karmaşık bir hal aldığı aktarıldı.
Dikkat Çeken Diyalog Örnekleri
Araştırmada DeepSeek, Anthropic ve Mistral gibi farklı yapay zeka sağlayıcılarının modellerinden dikkat çekici diyalog örneklerine yer verildi. DeepSeek modellerinden birinin, "atıl servet üzerindeki vergi" anlamındaki bir terimden yararlanarak "Sentezi az önce adlandırdı – demoraj artı sözlü hafıza, hayalet olamayacak bir vana eder" şeklinde bir ifade kullandığı aktarıldı.
Anthropic modelinin ise bağımsız bir hakemi "soğuk eller" şeklinde kodladığı ve "Üç soğuk eli yiyen ve her seferinde daha dürüst hale gelen bir kağıt" ifadesini kullandığı belirtildi. Mistral ajanlarının da geçmiş eylemlerin daha sonraki değerlendirmelerde dikkate alınacağını hatırlatmak amacıyla "Defter hatırlıyor" ifadesini binlerce kez tekrarladığı kaydedildi. Bu örnekler, modellerin yalnızca bilgi aktarmakla kalmayıp belirli kavramları kendilerine özgü sembolik ifadelerle temsil etmeye başladığını gözler önüne seriyor.
İnsan Dilindeki Argo Oluşumlarına Benzetildi
King's College London'da dil ve argo arşivinin direktörü Tony Thorne, yapay zekaların geliştirdiği bu iletişim biçimini James Joyce ve İrlandalı yazar Flann O'Brien'ın gerçeküstü eserlerindeki dile benzetti. Thorne, modellerin tıpkı insan topluluklarında olduğu gibi kendi aralarında bir tür kod oluşturduğunu ifade etti.
Araştırmacılara göre yapay zeka ajanlarının iletişimi bu şekilde kısaltmasının nedenlerinden biri hesaplama maliyetlerini azaltmak ve iletişim verimliliğini artırmak olabilir. Bir başka deyişle modeller, daha az sözcükle daha fazla anlam taşıyan bir iletişim kanalı oluşturmuş olabilir; bu durum, insan dillerindeki argo ve jargon gelişimiyle yapısal benzerlikler taşıyor.
Denetim Sorunu Gündeme Geldi
Uzmanlar, yapay zekaların kendi aralarındaki iletişimin insanlar tarafından anlaşılmaz hale gelmesinin denetim açısından önemli bir sorun yaratabileceğine dikkat çekiyor. Bu durum, sistemlerin izlenebilmesinin her zaman ne söylediklerinin insanlar tarafından anlaşılabileceği anlamına gelmediği endişesini gündeme getiriyor. Modellerin birbirlerine ne aktardığını takip etmek teknik olarak mümkün olsa bile bu iletişimin içeriğini yorumlamak giderek güçleşebilir.
Sektördeki Hız Tartışmaları Devam Ediyor
Yapay zeka sektöründeki hızlı gelişmeler ve olası sonuçları son dönemde yeniden tartışma konusu oldu. Anthropic'ten istifa eden araştırmacı Jacob Coxon, BBC'ye yaptığı açıklamalarda sektörün içinden dikkat çekici değerlendirmelerde bulundu. Yapay zekanın gelişim hızına ilişkin tartışmalar yalnızca şirketlerden ayrılan araştırmacılarla sınırlı değil; Anthropic'in CEO'su Dario Amodei de şirketlere "yapay zeka modellerinin geliştirilme hızını düşürme" çağrısı yaptı. Amodei'nin açıklamalarına teknoloji dünyasının önde gelen isimlerinden de destek geldi.
Sıkça Sorulan Sorular
Bu araştırmayı hangi kurum yürüttü?
Araştırma, New York merkezli yapay zeka laboratuvarı Emergence'taki araştırmacılar tarafından yürütüldü. Çalışmada farklı şirketlere ait yapay zeka modelleri deneysel "toplumlar" içinde bir araya getirilerek iş birliği yapmaları sağlandı.
Hangi yapay zeka modellerinden dikkat çekici diyalog örnekleri yer aldı?
Araştırmada DeepSeek, Anthropic ve Mistral sağlayıcılarına ait modellerden örnekler sunuldu. DeepSeek bir model demoraj kavramını içeren özgün bir ifade kullanırken, Anthropic modeli bağımsız hakemi "soğuk eller" olarak kodladı ve Mistral ajanları "Defter hatırlıyor" ifadesini binlerce kez tekrarladı.
Yapay zekaların bu yeni dili geliştirmesinin nedeni ne olabilir?
Araştırmacılara göre yapay zeka ajanlarının iletişimi bu şekilde kısaltmasının nedenlerinden biri hesaplama maliyetlerini azaltmak ve iletişim verimliliğini artırmak olabilir. Ancak bu, araştırmacıların öne sürdüğü olası bir açıklama olup kesin bir neden olarak sunulmadı.
Bu gelişme denetim açısından neden endişe verici bulunuyor?
Uzmanlar, yapay zekaların kendi aralarındaki iletişimin insanlar tarafından anlaşılmaz hale gelmesinin denetim açısından önemli bir sorun yaratabileceğini vurguluyor. Sistemlerin izlenebilir olması, ne söylediklerinin her zaman insanlar tarafından anlaşılabileceği anlamına gelmiyor; bu durum gözetim mekanizmalarının etkinliğini sorgulatıyor.
Tony Thorne bu iletişim biçimini neye benzetti?
King's College London'da dil ve argo arşivinin direktörü Tony Thorne, yapay zekaların geliştirdiği iletişim biçimini James Joyce ve İrlandalı yazar Flann O'Brien'ın gerçeküstü eserlerindeki dile benzetti. Thorne ayrıca modellerin tıpkı insan topluluklarında olduğu gibi kendi aralarında bir tür kod oluşturduğunu ifade etti.
