Salesforce, yıllık Dreamforce teknoloji konferansının en dikkat çekici duyurularından birini yaptı: Nvidia'nın açık ağırlıklı Nemotron modeli üzerine geliştirilen ilk kurumsal akıl yürütme modeli Koa. İki şirketin iş birliğiyle post-eğitim sürecinden geçirilen model, satış, pazarlama ve müşteri destek görevlerinde uzmanlaşmak üzere tasarlandı. Koa'nın ortaya çıkışı, kurumsal dünyanın yapay zeka ihtiyaçlarının sınır modeli laboratuvarlarının sunduklarından giderek nasıl ayrıştığını gözler önüne seriyor.
Koa Nedir ve Neden Önemli?
Koa, Salesforce'un Agentforce platformu bünyesinde sunulan modellere yeni bir alternatif olarak konumlandırılıyor. Agentforce, müşteri hizmetleri sorularını yanıtlamak ya da randevu planlamak gibi rutin görevleri üstlenen yapay zeka ajanlarının kurulduğu platformdur. Koa'dan önce bir ajanın uzun soluklu veya çok adımlı bir görevi mantıksal olarak işlemesi gerektiğinde, bu istekler Agentforce'un yapay zeka ağ geçidi aracılığıyla Claude veya ChatGPT gibi sınır modellere yönlendiriliyordu.
Salesforce Yapay Zeka Başkan Yardımcısı Jayesh Govindarajan, konuyu şöyle özetledi: "Agentforce portföyünün parçası olan pek çok küçük görev odaklı dil modeli geliştirdik. Ancak akıl yürütme, her zaman sınır model sağlayıcılarına güvendiğimiz bir alan oldu. Ta ki şimdiye kadar."
Neden Şimdiye Kadar Beklendi?
Govindarajan, kurumsal düzeyde bir sınır model eğitmeyi her zaman istediklerini, ancak başlangıç noktası olarak kullanabilecekleri önceden eğitilmiş bir temel modelin yokluğunun önlerindeki en büyük engel olduğunu belirtti. Nvidia'nın Nemotron modelinin bu boşluğu doldurduğunu vurgulayan Govindarajan, "Nemotron gelene kadar hem mevcut hem son teknoloji düzeyinde hem de veri kaynağı şeffaf olan egemen bir Amerikan önceden eğitilmiş modeli yoktu" dedi. Alibaba tarafından üretilen popüler Çinli açık ağırlıklı model Qwen'e de değinen Govindarajan, "Qwen'in neyle eğitildiği konusunda hiçbir fikrimiz yok" ifadesini kullandı.
Sentetik Veriyle Güvenli Eğitim
Koa'nın post-eğitim sürecinde Salesforce ve Nvidia, müşterilere ait gerçek verileri kullanmadı. Bunun yerine müşteri davranış örüntülerini taklit eden sentetik veriler oluşturuldu. Govindarajan bu süreci şöyle anlattı: "Müşteri hizmetleri merkezini arayan sinirli müşterilerden, bir anlaşmayı kapatmaya çalışan satış profesyonellerine kadar uzanan bir müşteri hizmetleri ortamını, profesyonel kişiliklerle simüle ettik." Bu yaklaşım, gerçek müşteri verilerinin modele girmemesini ve dolayısıyla başkalarına sızmama güvencesini beraberinde getiriyor.
Token Verimliliği ve Maliyet Avantajı
Koa'nın öne çıkan bir diğer özelliği, aynı işi daha az token harcayarak yapması. Nvidia Kurumsal Üretken Yapay Zeka Yazılımı Başkan Yardımcısı Kari Ann Briski, Nemotron'un çıkarım için benzersiz bir mimariye sahip olduğunu vurgulayarak "Token verimliliği açısından ihtiyaç duyulan üç unsur var: egemen yapay zeka, ilk tokena ulaşma süresi ve verimli akıl yürütme. Bunların hepsini bir arada sunuyoruz" dedi. Bu özellik, kurumsal müşterilerin Claude veya ChatGPT'ye aynı görevleri göndermekle kıyaslandığında yapay zeka harcamalarını azaltmalarına yardımcı olmayı hedefliyor.
Salesforce'un kurumsal müşterilerine sunduğu avantajlar bütünü şu başlıklar altında özetlenebilir: kapalı kaynaklı sınır modellere açık ağırlıklı bir alternatif; imkânsız matematik problemleri çözmek yerine belirli iş görevleri için eğitilmiş bir model; gerçek müşteri verisi içermediğinden veri sızıntısı riskini ortadan kaldıran bir yapı; aynı işi daha az token kullanarak yaparak maliyetleri düşüren bir tasarım; ihtiyaca göre yapay zeka ağ geçidi üzerinden otomatik yönlendirme imkânı ve Salesforce bünyesinde müşterinin tüm veri gereksinimleri ile güvenlik standartlarına uyan bir çerçeve.
Anthropic ile İş Birliği Sona Ermiyor
Koa'nın duyurulması, Salesforce'un mevcut ortaklıklarından vazgeçtiği anlamına gelmiyor. Şirket aynı konferansta Anthropic ile "Claudeforce" adını verdiği yeni bir iş birliğini de kamuoyuyla paylaştı. Bu ortaklık kapsamında şirketler, Claude'u yapay zeka arayüzü olarak kullanırken verilerini Salesforce'un kayıt sistemlerinde tutabilecek ve altyapısının güvenlik güvencesinden yararlanabilecek.
Sıkça Sorulan Sorular
Koa modeli nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa ettiği ilk kurumsal akıl yürütme modelidir. İki şirket, modeli satış, pazarlama ve müşteri destek görevlerinde uzmanlaştırmak amacıyla birlikte post-eğitim sürecinden geçirdi.
Koa hangi platformda kullanılacak?
Koa, Salesforce'un Agentforce platformunda sunulan modellere bir alternatif olarak eklenecek. Agentforce, müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevler için yapay zeka ajanlarının oluşturulduğu platformdur.
Koa'nın eğitiminde gerçek müşteri verileri kullanıldı mı?
Hayır. Salesforce ve Nvidia, post-eğitim sürecinde gerçek müşteri verisi kullanmadı. Bunun yerine müşteri davranış örüntülerini taklit eden sentetik veriler üretildi; bu sayede gerçek müşteri verilerinin modele girmesi ve başkalarına sızması riski ortadan kaldırıldı.
Koa, Claude veya ChatGPT gibi modellerden ne açıdan farklı?
Koa, imkânsız matematik problemleri çözmek yerine belirli kurumsal iş görevlerine odaklanmak üzere eğitildi. Ayrıca daha az token kullanarak aynı işi yapmayı hedeflemesi nedeniyle maliyet avantajı sunuyor ve Salesforce altyapısı içinde veri güvenliği ile uyumluluk gereksinimlerini karşılıyor.
Claudeforce nedir?
Claudeforce, Salesforce'un Anthropic ile duyurduğu bir iş birliğidir. Bu ortaklık, şirketlerin Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanırken verilerini Salesforce'un kayıt sistemlerinde saklayarak altyapısının güvenlik güvencesinden yararlanmalarını sağlıyor.
