Salesforce, yıllık Dreamforce teknoloji konferansında bu haftanın en dikkat çekici duyurularından birini yaptı: Koa. Şirketin ilk akıl yürütme modeli olan Koa, Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edildi. İki teknoloji devi, modeli satış, pazarlama ve müşteri desteği görevlerinde öne çıkacak biçimde birlikte eğitti. Koa, kurumsal dünyanın yapay zeka ihtiyaçlarının öncü laboratuvarların sunduklarından giderek nasıl ayrıştığını gösteren somut bir örnek olarak değerlendiriliyor.
Frontier Modellerden Bağımsızlık Adımı
Salesforce'un yapay zeka platformu Agentforce, müşteri hizmetleri sorularını yanıtlamak ya da randevu planlamak gibi rutin görevleri üstlenecek yapay zeka ajanları oluşturmak için kullanılıyor. Koa, bu platform içinde mevcut modellere alternatif olarak sunulacak. Salesforce AI'dan Sorumlu Kıdemli Başkan Yardımcısı Jayesh Govindarajan, konuya ilişkin şunları söyledi: "Agentforce portföyünün bir parçası olan pek çok küçük, göreve özgü dil modeli geliştirdik. Ancak akıl yürütme, her zaman öncü model sağlayıcılarına bel bağladığımız bir alan oldu. Ta ki şimdiye kadar."
Koa'dan önce, bir ajanın uzun soluklu ya da çok adımlı bir görevi yerine getirmesi gerektiğinde bu istekler, Agentforce'un yapay zeka ağ geçidi üzerinden Claude veya ChatGPT gibi frontier modellere yönlendiriliyordu. Artık bu ihtiyacın bir bölümü Koa ile karşılanabilecek.
Nemotron: Neden Bu Model Seçildi?
Govindarajan, daha önce kurumsal düzeyde bir frontier model eğitmeye neden girişmediklerini de açıkladı. Sorunun özü, başlangıç noktası olarak kullanılacak önceden eğitilmiş bir temel modelin yokluğuydu. "Nemotron ortaya çıkana kadar hem mevcut hem de en son teknolojiyi yansıtan hem de net veri kökenine sahip egemen bir Amerikan önceden eğitilmiş modeli yoktu. Alibaba tarafından üretilen popüler Çin açık ağırlıklı modeli Qwen'in neyle eğitildiği konusunda hiçbir fikrimiz yok" dedi Govindarajan. Bu değerlendirme, veri egemenliği ve şeffaflığın kurumsal yapay zeka tercihlerinde ne denli belirleyici olduğunu gözler önüne seriyor.
Gerçek Müşteri Verisi Kullanılmadı, Sentetik Veriyle Eğitildi
Koa'yı genel amaçlı bir sistemden satış ve müşteri desteği konusunda uzman bir modele dönüştürmek için Salesforce ve Nvidia, müşterilerin gerçek verilerini kullanmadı. Bunun yerine, müşteri davranış kalıplarını taklit eden sentetik veri ürettiler. Govindarajan bu süreci şöyle anlattı: "Aslında bir müşteri hizmetleri ortamını simüle ettik; çağrı merkezini arayan sinirli müşterileri içeren bir müşteri hizmetleri uzmanı personası oluşturduk, oradan bir anlaşmayı kapatmaya çalışan bir satış profesyoneline kadar her senaryoyu işledik."
Bu yaklaşım, Salesforce'un kurumsal müşterilere sunduğu temel güvencelerin merkezinde yer alıyor: Model, gerçek müşteri verisi içermediğinden bu veriyi başkalarına sızdırma riski taşımıyor. Ayrıca model, Salesforce altyapısı içine gömülü biçimde müşterilerin tüm veri gereksinimlerini ve güvenlik standartlarını karşılıyor.
Token Verimliliği ve Maliyet Avantajı
Koa'nın öne çıkan bir diğer iddiası maliyet etkinliği. Model, aynı görevleri Claude veya ChatGPT'ye kıyasla daha az token harcayarak yapabileceği için şirketlerin yapay zeka harcamalarını düşürmesi hedefleniyor. Nvidia'nın Kurumsal Üretken Yapay Zeka Yazılımından Sorumlu Başkan Yardımcısı Kari Ann Briski, Nemotron mimarisinin bu konuda belirleyici bir rol oynadığını vurguladı: "Çıkarım için token verimliliği sağlayan özgün bir mimarimiz var. Egemen yapay zeka, ilk tokena kadar geçen süre ve verimli akıl yürütme; bunlar tokenomik açısından sahip olunması gereken üçlünün tam da kendisi."
Koa ayrıca Agentforce'un yapay zeka ağ geçidi üzerinden otomatik olarak yönlendirilebiliyor; bu da sistemin ihtiyaca göre hangi modeli devreye sokacağına kendiliğinden karar vermesi anlamına geliyor.
Anthropic ile İşbirliği Sona Ermedi: Claudeforce Ortaklığı
Salesforce'un kendi modelini geliştirmesi, mevcut ortaklıklarından vazgeçtiği anlamına gelmiyor. Şirket aynı hafta Anthropic ile "Claudeforce" adını verdiği yeni bir ortaklık duyurdu. Bu işbirliği kapsamında şirketler, Claude'u yapay zeka arayüzü olarak kullanırken verilerini Salesforce'un kayıt sistemlerinde tutmaya ve şirketin altyapısıyla güvence altına almaya devam edebilecek. Dolayısıyla Koa, frontier modellerin tamamen dışlanması değil, kurumsal ihtiyaçlara göre doğru modelin doğru göreve yönlendirilmesi anlayışının bir parçası olarak konumlandırılıyor.
Sıkça Sorulan Sorular
Koa nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un ilk akıl yürütme yapay zeka modelidir. Nvidia'nın açık ağırlıklı Nemotron modeli temel alınarak Salesforce ve Nvidia'nın ortak çalışmasıyla geliştirilmiştir. Model, satış, pazarlama ve müşteri desteği görevlerine özel olarak eğitilmiştir.
Koa hangi platformda kullanılacak?
Koa, Salesforce'un Agentforce platformunda mevcut modellere alternatif olarak sunulacak. Agentforce, müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevler için yapay zeka ajanları oluşturmaya yarayan bir platformdur.
Koa eğitilirken gerçek müşteri verisi kullanıldı mı?
Hayır. Salesforce ve Nvidia, Koa'yı eğitmek için gerçek müşteri verisi kullanmadı. Bunun yerine, müşteri davranış kalıplarını taklit eden sentetik veri ürettiler. Bu sentetik veri; sinirli müşterileri olan çağrı merkezi senaryolarından anlaşma kapatmaya çalışan satış profesyonellerine kadar geniş bir yelpazedeki durumları simüle etti.
Koa, Claude veya ChatGPT gibi frontier modellerden daha mı ucuz?
Salesforce ve Nvidia'nın iddiasına göre Koa, aynı kurumsal görevleri daha az token harcayarak gerçekleştirebilmekte; bu da yapay zeka maliyetlerini düşürmesi anlamına gelmektedir. Nvidia'nın Nemotron mimarisi, token verimliliği için özel olarak tasarlanmıştır.
Salesforce, Claudeforce ortaklığıyla ne sunuyor?
Claudeforce, Salesforce ile Anthropic arasında duyurulan bir ortaklıktır. Bu ortaklık kapsamında şirketler, Claude'u yapay zeka arayüzü olarak kullanabilirken verilerini Salesforce'un kayıt sistemlerinde ve altyapısında güvenle saklayabilmektedir.
