Salesforce, yıllık Dreamforce teknoloji konferansında bu haftanın en dikkat çekici duyurularından birini yaptı: Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilen ve Koa adı verilen ilk kurumsal akıl yürütme modeli. İki şirket, Koa'yı satış, pazarlama ve müşteri desteğiyle ilgili görevlerde üstün performans gösterecek biçimde birlikte eğitti. Model, yapay zeka alanında büyük dil modellerine hâkim olan kapalı sınır modellerine karşı kurumsal dünyanın açık ağırlıklı bir alternatif arayışının somut bir ürünü olarak öne çıkıyor.
Koa Nedir ve Neden Önemli?
Koa, Salesforce'un Agentforce platformuna entegre edilen yeni bir akıl yürütme modelidir. Agentforce, müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevleri otomatikleştirmek için ajan oluşturmak isteyen kurumsal müşterilere hizmet veriyor. Koa bu platform içinde, halihazırda sunulan diğer modellere ek bir alternatif olarak konumlandırılıyor.
Salesforce AI'dan Sorumlu Kıdemli Başkan Yardımcısı Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada, "Agentforce portföyünün bir parçası olan pek çok küçük, göreve özgü dil modeli geliştirdik. Ancak akıl yürütme, her zaman sınır model sağlayıcılarına güvendiğimiz bir alan oldu. Ta ki şimdiye kadar," dedi. Koa'dan önce bir ajanın uzun soluklu ya da çok adımlı bir görevde akıl yürütmesi gerektiğinde, bu istekler Agentforce'un yapay zeka ağ geçidi sistemi aracılığıyla Claude veya ChatGPT gibi sınır modellere yönlendiriliyordu.
Nemotron Olmadan Mümkün Olmazdı
Govindarajan, daha önce neden kendi kurumsal düzeyde sınır modellerini eğitmediklerini de açıkladı. Temel sorun, başlangıç noktası olarak kullanılabilecek önceden eğitilmiş bir modelin yokluğuydu. "Bunu daha önce yapmamamızın nedenlerinden biri buydu; kendi kurumsal düzeyde sınır modelimizi eğitmek her zaman istediğimiz bir şeydi. Ancak zorluk, başlangıç için önceden eğitilmiş bir temel modelin bulunmamasıydı. Nemotron ortaya çıkana kadar, hem mevcut hem de son teknoloji düzeyinde hem de net veri kaynağına sahip, egemen bir Amerikan önceden eğitilmiş modeli yoktu. Qwen'in ne üzerinde eğitildiği hakkında hiçbir fikrimiz yok," diye konuştu Govindarajan; bu sözleriyle Alibaba'nın ürettiği popüler Çin açık ağırlıklı modeline atıfta bulundu.
Nvidia'nın Nemotron modeli, bu denklemin kilit taşı oldu. Açık ağırlıklı yapısı, net veri kökeni ve teknik olgunluğu sayesinde Salesforce'a kendi modelini üzerine inşa edebileceği sağlam bir temel sundu.
Gerçek Müşteri Verisi Yerine Sentetik Veri
Koa'nın eğitiminde dikkat çeken bir diğer nokta, veri güvenliği yaklaşımı. Salesforce ve Nvidia, modeli satış ve müşteri destek bilgisi konusunda uzmanlaştırmak için gerçek müşteri verisi kullanmadı. Bunun yerine, müşterilerin davranış kalıplarını taklit eden sentetik veriler oluşturdu.
Govindarajan bu süreci şöyle anlattı: "Aslında müşteri hizmetleri merkezini arayan sinirli müşterileri de dahil ederek bir müşteri hizmetleri ortamını, bir de anlaşmayı kapatmaya çalışan bir satış profesyonelini simüle ettik." Bu yaklaşım, modelin gerçek müşteri verilerini bünyesine katmamasını ve dolayısıyla bu verileri başkalarına sızdıramamasını güvence altına alıyor.
Token Verimliliği ve Maliyet Avantajı
Koa'nın öne çıkan özelliklerinden biri, aynı işi daha az token harcayarak yapabilmesi. Bu durum, kurumsal müşteriler için doğrudan maliyet tasarrufuna dönüşüyor. Nvidia'nın Kurumsal Üretken Yapay Zeka Yazılımından Sorumlu Başkan Yardımcısı Kari Ann Briski, TechCrunch'a şunları söyledi: "Çıkarım için token verimliliği sağlayan benzersiz bir mimariye sahibiz. Egemen yapay zeka, ilk token süresi ve verimli akıl yürütme; bunlar tokenomik açısından sahip olmanız gereken üçlünün ta kendisi."
Salesforce'un kurumsal müşterilerine sunduğu avantajlar bu noktayla sınırlı değil. Koa aynı zamanda müşterinin veri gereksinimlerini ve güvenlik standartlarını Salesforce altyapısı içinde karşılıyor; kapalı sınır modellerine açık ağırlıklı bir alternatif sunuyor ve Agentforce'un yapay zeka ağ geçidi üzerinden ihtiyaca göre otomatik yönlendirme imkânı sağlıyor.
Anthropic ile Ortaklık Devam Ediyor
Koa'nın tanıtılması, Salesforce'un mevcut yapay zeka ortaklarıyla ilişkisini tamamen kopardığı anlamına gelmiyor. Şirket aynı hafta Anthropic ile Claudeforce adını verdiği yeni bir ortaklık da duyurdu. Bu ortaklık kapsamında şirketler, verileri Salesforce'un kayıt sistemlerinde ve altyapısının güvenliği altında tutarken Claude'u yapay zeka arayüzü olarak kullanabiliyor. Salesforce'un bu çift yönlü stratejisi, hem kendi modelini geliştirip hem de önde gelen yapay zeka sağlayıcılarıyla iş birliğini sürdürdüğünü ortaya koyuyor.
Sıkça Sorulan Sorular
Koa modeli nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa ettiği ilk kurumsal akıl yürütme modelidir. İki şirket, modeli satış, pazarlama ve müşteri desteği görevlerinde üstün performans gösterecek biçimde birlikte eğitti.
Koa hangi platformda kullanılacak?
Koa, Salesforce'un Agentforce platformu içinde sunulacak. Agentforce, kurumsal müşterilerin müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevleri otomatikleştiren ajanlar oluşturmasına olanak tanıyan bir platformdur. Koa burada mevcut modellere ek bir alternatif olarak yer alacak.
Koa'nın eğitiminde gerçek müşteri verisi kullanıldı mı?
Hayır. Salesforce ve Nvidia, Koa'yı eğitmek için gerçek müşteri verisi kullanmadı. Bunun yerine, müşterilerin davranış kalıplarını taklit eden sentetik veriler oluşturdu. Bu sayede model, gerçek müşteri verilerini bünyesine katmıyor ve bu verileri başkalarına sızdıramıyor.
Salesforce neden daha önce kendi akıl yürütme modelini geliştirmemişti?
Salesforce AI'dan Sorumlu Kıdemli Başkan Yardımcısı Jayesh Govindarajan'a göre temel engel, başlangıç noktası olarak kullanılabilecek uygun bir önceden eğitilmiş modelin bulunmamasıydı. Nvidia'nın Nemotron modeli; egemen Amerikan kökeni, son teknoloji düzeyi ve net veri kaynağıyla bu boşluğu doldurdu.
Salesforce, Anthropic ve OpenAI ile ilişkisini kesiyor mu?
Hayır. Salesforce, Koa'yı tanıtırken aynı zamanda Anthropic ile Claudeforce adlı yeni bir ortaklık da duyurdu. Bu ortaklık, şirketlerin verilerini Salesforce altyapısında güvende tutarken Claude'u yapay zeka arayüzü olarak kullanmasına imkân tanıyor.
