Salesforce, yıllık dev teknoloji konferansı Dreamforce'ta bu haftanın en büyük duyurularından birini yaptı: Koa. Şirketin geliştirdiği ilk akıl yürütme modeli olan Koa, Nvidia'nın açık ağırlıklı Nemotron modeli temel alınarak oluşturuldu. İki teknoloji devi, modeli satış, pazarlama ve müşteri desteği alanlarında üstün performans gösterecek biçimde birlikte eğitti.
Koa Nedir ve Kurumsal Dünyaya Ne Sunuyor?
Koa, Salesforce'un Agentforce platformunda müşterilere sunulan diğer modellere bir alternatif olarak konumlandırıldı. Agentforce, kurumsal müşterilerin müşteri hizmetleri sorularını yanıtlamak ya da randevu planlamak gibi rutin görevleri yerine getiren yapay zeka ajanları oluşturmasına olanak tanıyan bir platform. Koa bu ekosisteme dahil olarak kapalı kaynak sınır modellerine açık ağırlıklı bir seçenek sunuyor.
Modelin öne çıkan özellikleri arasında gerçek müşteri verisi kullanılmaması dikkat çekiyor; bu sayede veri sızıntısı riski ortadan kalkıyor. Bunun yanı sıra Koa, aynı işi daha az token harcayarak gerçekleştirdiğinden yapay zeka maliyetlerini düşürmeyi hedefliyor. Model ayrıca Salesforce'un yapay zeka ağ geçidi aracılığıyla otomatik yönlendirilebiliyor ve müşterilerin veri gereksinimleri ile güvenlik politikalarına uyum sağlıyor.
Frontier Modellere Olan Bağımlılığın Sonu mu?
Salesforce AI'ın Kıdemli Başkan Yardımcısı Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada şimdiye kadar akıl yürütme işlemleri için sınır model sağlayıcılarına bel bağladıklarını belirtti. "Agentforce portföyünün bir parçası olan pek çok küçük, göreve özgü dil modeli geliştirdik. Ancak akıl yürütme, her zaman sınır model sağlayıcılarına güvendiğimiz bir alan oldu. Ta ki şimdiye kadar" dedi.
Koa öncesinde, bir ajanın uzun soluklu ya da çok adımlı bir görevi akıl yürüterek tamamlaması gerektiğinde bu istekler Agentforce'un yapay zeka ağ geçidi üzerinden Claude veya ChatGPT gibi sınır modellere yönlendiriliyordu. Artık bu tür görevler Koa aracılığıyla Salesforce ekosistemi içinde kalarak çözülebilecek.
Nemotron Neden Tercih Edildi?
Govindarajan, kendi kurumsal düzeyde sınır modellerini neden daha önce eğitmediklerini de açıkladı. Temel engelin, başlangıç noktası olarak kullanılabilecek önceden eğitilmiş bir modelin yokluğu olduğunu söyledi. "Nemotron ortaya çıkana kadar, hem mevcut hem de son teknoloji düzeyinde hem de net veri kökeni olan egemen bir Amerikan ön eğitimli modeli yoktu. Alibaba'nın ürettiği popüler Çin açık ağırlıklı modeli Qwen'in neyle eğitildiği konusunda hiçbir fikrimiz yok" dedi.
Bu noktada veri kökeni meselesi kritik bir faktör olarak öne çıkıyor. Salesforce, kurumsal müşterilerine hem modelin içeriğini hem de eğitim verilerinin kaynağını şeffaf biçimde sunabileceği bir yapı oluşturmak istiyordu; Nemotron bu ihtiyacı karşıladı.
Sentetik Veriyle Eğitim: Gerçek Müşteri Verisi Kullanılmadı
Koa'nın eğitim sürecinde Salesforce ve Nvidia, gerçek müşteri verilerine başvurmak yerine sentetik veri üretti. Bu veriler, müşteri davranış kalıplarını taklit edecek biçimde tasarlandı. Govindarajan süreci şöyle anlattı: "Müşteri hizmetleri merkezini arayan sinirli müşterilerden bir anlaşmayı kapatmaya çalışan satış profesyonellerine kadar uzanan bir müşteri hizmetleri ortamını, gerçekçi karakterlerle simüle ettik."
Bu yaklaşım, hem veri gizliliği sorunlarını ortadan kaldırıyor hem de modelin gerçek iş senaryolarına hazır olmasını sağlıyor. Salesforce'un kurumsal müşterileri, kendi verilerinin modeli eğitmek için kullanılmadığından ve dolayısıyla başkalarına sızma ihtimalinin bulunmadığından emin olabiliyor.
Token Verimliliği ve Maliyet Avantajı
Nvidia'nın Kurumsal Üretken Yapay Zeka Yazılımı'ndan Sorumlu Başkan Yardımcısı Kari Ann Briski, Nemotron'un çıkarım için benzersiz bir mimariye sahip olduğunu ve bu sayede token verimliliği sunduğunu vurguladı. TechCrunch'a konuşan Briski, "Sahip olmanız gereken üçlünün tam olarak bu olduğunu düşünüyorum: egemen yapay zeka, ilk tokena ulaşma süresi ve tokenomikler açısından verimli akıl yürütme" dedi.
Koa'nın temel iddialarından biri, Claude veya ChatGPT'ye gönderilen aynı görevleri daha az token harcayarak gerçekleştirebilmesi. Bu da kurumsal müşteriler için somut bir maliyet tasarrufu anlamına geliyor. Salesforce, modelin özellikle satış ve müşteri desteği odaklı görevlerde rakip sınır modellerden daha iyi performans göstermesini hedefliyor.
Anthropic ile Ortaklık Sürüyor: Claudeforce Duyuruldu
Salesforce'un Koa'yı piyasaya sürmesi, mevcut yapay zeka ortaklıklarını sona erdirdiği anlamına gelmiyor. Şirket aynı zamanda Anthropic ile Claudeforce adını verdiği yeni bir ortaklık duyurdu. Bu ortaklık kapsamında şirketler, Claude'u yapay zeka arayüzü olarak kullanırken verilerini Salesforce'un kayıt sistemlerinde tutabilecek ve altyapısının güvenlik korumasından yararlanabilecek. Dolayısıyla Koa, mevcut sınır model seçeneklerini ortadan kaldırmak yerine onlara bir alternatif olarak konumlanıyor; hangi modelin hangi isteği işleyeceğine ise Agentforce'un yapay zeka ağ geçidi karar veriyor.
Sıkça Sorulan Sorular
Koa modeli nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un ilk akıl yürütme modelidir. Nvidia'nın açık ağırlıklı Nemotron modeli temel alınarak Salesforce ve Nvidia'nın ortak çalışmasıyla geliştirilmiştir. Model, satış, pazarlama ve müşteri desteği görevlerine özel olarak eğitilmiştir.
Koa eğitilirken gerçek müşteri verisi kullanıldı mı?
Hayır. Salesforce ve Nvidia, Koa'yı eğitmek için gerçek müşteri verisi kullanmadı. Bunun yerine müşteri davranış kalıplarını taklit eden sentetik veri ürettiler. Bu sayede gerçek müşteri bilgilerinin modele dahil edilmesi ve başkalarına sızması riski ortadan kaldırıldı.
Koa, Claude veya ChatGPT gibi modellerden ne bakımdan farklılaşıyor?
Koa, genel amaçlı bir model olmak yerine satış ve müşteri desteği gibi belirli iş görevlerine odaklanmaktadır. Aynı işleri daha az token harcayarak yapması hedeflendiğinden maliyet açısından avantajlı olduğu öne sürülmektedir. Ayrıca açık ağırlıklı yapısı, net veri kökeni ve Salesforce altyapısı içinde kalarak güvenlik gereksinimlerine uyum sağlaması onu sınır modellerden ayıran özellikler arasında sayılmaktadır.
Salesforce Anthropic ve OpenAI ile ilişkisini tamamen kesiyor mu?
Hayır. Salesforce, Koa'yı tanıtmasına rağmen Anthropic ile Claudeforce adlı yeni bir ortaklık da duyurdu. Bu ortaklık, şirketlerin Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanırken verilerin Salesforce'un güvenli altyapısında kalmasını sağlıyor. Koa, mevcut modellerin yerini almak yerine onlara bir alternatif olarak sunuluyor.
Nemotron modeli neden tercih edildi?
Salesforce AI'dan Jayesh Govindarajan'a göre Nemotron, hem erişilebilir hem de son teknoloji düzeyinde olan ve net veri kökeni sunan egemen bir Amerikan ön eğitimli modeli olduğu için tercih edildi. Govindarajan, Alibaba'nın geliştirdiği Qwen gibi Çin kaynaklı açık ağırlıklı modellerin eğitim verilerinin şeffaf olmadığını belirterek bu durumu Nemotron'u seçmelerindeki temel nedenlerden biri olarak gösterdi.
