Salesforce, yıllık Dreamforce teknoloji konferansında bu haftanın en önemli duyurularından birini yaptı: Koa. Şirketin geliştirdiği ilk akıl yürütme modeli olan Koa, Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edildi. İki şirket, Koa'yı satış, pazarlama ve müşteri desteği alanlarında üstün performans gösterecek biçimde birlikte eğitti.
Koa Nedir ve Ne İşe Yarar?
Koa, Salesforce'un Agentforce platformunda sunulan diğer modellere bir alternatif olarak konumlandırılıyor. Agentforce, şirketlerin müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevleri yerine getiren yapay zeka ajanları oluşturmasına olanak tanıyan bir platform. Koa da bu platform içinde, özellikle uzun süreli ya da çok adımlı görevlerde akıl yürütme gerektiren durumlarda devreye giriyor.
Salesforce AI'ın EVP'si Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada durumu şöyle özetledi: "Agentforce portföyünün bir parçası olan, göreve özgü pek çok küçük dil modeli geliştirdik. Ancak akıl yürütme, her zaman sınır model sağlayıcılarına güvendiğimiz bir alan oldu. Ta ki şimdiye kadar." Koa öncesinde, bir ajanın uzun soluklu ya da çok adımlı bir görevi yerine getirmesi gerektiğinde bu talepler, Agentforce'un yapay zeka ağ geçidi aracılığıyla Claude veya ChatGPT gibi sınır modellere yönlendiriliyordu.
Neden Nemotron Seçildi?
Govindarajan, kurumsal düzeyde kendi sınır modellerini eğitmek istediklerini ancak bunun önünde ciddi bir engel bulunduğunu belirtti: Başlangıç noktası olarak kullanılabilecek önceden eğitilmiş bir temel modelin yokluğu. "Nemotron gelene kadar, hem mevcut hem de son teknoloji düzeyinde hem de net veri kökeni olan egemen bir Amerikan önceden eğitilmiş modeli yoktu. Alibaba'nın ürettiği popüler Çin açık ağırlıklı modeli Qwen'in neyle eğitildiği konusunda hiçbir fikrimiz yok" dedi Govindarajan.
Bu açıklama, kurumsal yapay zeka dünyasında veri güvenliği ve kökeninin ne denli kritik bir mesele olduğunu gözler önüne seriyor. Salesforce, egemenlik, veri şeffaflığı ve son teknoloji performansı bir arada sunan bir temel model arayışında Nvidia'nın Nemotron'unu tercih etti.
Gerçek Müşteri Verisi Değil, Sentetik Veri
Koa'yı genel amaçlı bir sistemden satış ve müşteri desteği konusunda uzmanlaşmış bir modele dönüştürmek için Salesforce ve Nvidia, gerçek müşteri verisi kullanmadı. Bunun yerine, müşteri davranış örüntülerini taklit eden sentetik veriler ürettiler.
Govindarajan bu süreci şöyle anlattı: "Aslında bir müşteri hizmetleri ortamını simüle ettik; sinirli müşterilerin aradığı bir müşteri hizmetleri merkezinden bir anlaşmayı kapatmaya çalışan satış profesyoneline kadar uzanan bir persona yelpazesiyle." Bu yaklaşım, modelin gerçek müşteri verilerini bünyesine katmaması anlamına geliyor; dolayısıyla söz konusu verilerin başkalarına sızması riski de bulunmuyor.
Token Verimliliği ve Maliyet Avantajı
Koa'nın öne çıkan özelliklerinden biri, aynı işi daha az token harcayarak yapması, yani kurumlar için daha düşük yapay zeka maliyeti anlamına gelmesi. Nvidia'nın Üretken Yapay Zeka Yazılımı Kurumsal VP'si Kari Ann Briski, TechCrunch'a şunları söyledi: "Çıkarım için token verimliliğine yönelik benzersiz bir mimarimiz var. Egemen yapay zeka, ilk tokena kadar geçen süre ve verimli akıl yürütme; tokenomik açısından ihtiyaç duyulan üçlünün tamamı bu."
Salesforce'un Koa ile kurumsal müşterilerine sunduğu tablo şu unsurları kapsıyor: kapalı sınır modellere açık ağırlıklı bir alternatif; imkânsız matematik problemleri çözmek yerine belirli iş görevlerini yapmak üzere eğitilmiş bir model; gerçek müşteri verisi içermediği için veri sızıntısı riski taşımayan bir yapı; aynı işi daha az tokenla yaparak yapay zeka harcamalarını düşüren bir sistem; ihtiyaca göre yapay zeka ağ geçidi üzerinden otomatik yönlendirme imkânı ve Salesforce bünyesindeki tüm veri gereksinimleri ile güvenlik politikalarına uyan bir model.
Anthropic ile İşbirliği Sürüyor: Claudeforce
Koa'nın duyurulması, Salesforce'un Anthropic veya OpenAI ile yollarını ayırdığı anlamına gelmiyor. Şirket aynı zamanda Anthropic ile "Claudeforce" adını verdiği yeni bir ortaklık duyurdu. Bu ortaklık, şirketlerin Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanırken verilerinin Salesforce'un kayıt sistemlerinde, kendi altyapısının güvencesi altında kalmasını sağlıyor.
Tüm bu gelişmeler, kurumsal dünyanın yapay zeka ihtiyaçlarının sınır laboratuvarlarının sunduklarından ne ölçüde ayrışmakta olduğunu açıkça ortaya koyuyor. Özel yapay zeka laboratuvarları, kurumların dosyalarını, kodlarını, istemlerini ve geri bildirimlerini doğrudan kendi modelleri ile ajanlarına yüklemesini ve bunun için milyonlar harcamasını tercih ediyor. Salesforce ise Koa ile bu tabloya alternatif bir yol çiziyor.
Sıkça Sorulan Sorular
Koa modeli nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un geliştirdiği ilk akıl yürütme yapay zeka modelidir. Nvidia'nın açık ağırlıklı Nemotron modeli temel alınarak inşa edilmiş olup iki şirket tarafından birlikte eğitilmiştir.
Koa hangi alanlarda kullanılmak üzere eğitildi?
Koa, satış, pazarlama ve müşteri desteğiyle ilgili görevlerde üstün performans göstermek amacıyla özelleştirildi. Salesforce ve Nvidia, bu eğitim sürecinde gerçek müşteri verisi yerine müşteri davranış örüntülerini taklit eden sentetik veriler kullandı.
Koa, Claude veya ChatGPT gibi modellerden nasıl farklılaşıyor?
Koa, kurumsal iş görevlerine odaklanmış açık ağırlıklı bir model olarak konumlandırılıyor. Gerçek müşteri verisi içermiyor, daha az token kullanarak aynı işi yapabiliyor ve Salesforce'un veri güvenliği altyapısıyla tam uyumlu çalışıyor. Bununla birlikte Salesforce, Anthropic ile Claudeforce ortaklığını da sürdürüyor.
Claudeforce nedir?
Claudeforce, Salesforce ile Anthropic arasında duyurulan bir ortaklığın adıdır. Bu ortaklık sayesinde şirketler, Claude'u yapay zeka arayüzü olarak kullanabilirken verileri Salesforce'un kayıt sistemlerinde ve kendi altyapısının güvencesi altında kalmaya devam ediyor.
Koa neden Qwen gibi Çin yapımı modeller yerine Nemotron'u temel aldı?
Salesforce AI'ın EVP'si Jayesh Govindarajan'a göre Nemotron, hem mevcut hem son teknoloji düzeyinde hem de net veri kökeni olan egemen bir Amerikan önceden eğitilmiş modeli olması bakımından öne çıktı. Govindarajan, Alibaba'nın Qwen modelinin hangi verilerle eğitildiğinin bilinmediğini vurgulayarak bu belirsizliğin Qwen'i tercih etmemelerinin temel nedenlerinden biri olduğunu belirtti.
