Salesforce, Dreamforce teknoloji konferansında şirketin ilk akıl yürütme modeli olan Koa'yı tanıttı. Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilen ve iki şirketin birlikte post-training sürecini yürüttüğü Koa, satış, pazarlama ve müşteri desteğiyle ilgili görevlerde üstün performans göstermek üzere geliştirildi. Model, Salesforce'un Agentforce platformunda müşterilerin rutin görevleri yerine getiren ajanlar oluştururken kullandığı diğer modellere bir alternatif olarak sunulacak.
Koa Nedir ve Dreamforce'ta Nasıl Tanıtıldı?
Koa, Salesforce'un bu hafta düzenlenen büyük Dreamforce teknoloji konferansındaki en büyük duyurularından biri olarak öne çıktı. Şirketin ilk akıl yürütme modeli olma özelliğini taşıyan Koa, Nvidia'nın açık ağırlıklı Nemotron modeli temel alınarak geliştirildi. İki şirket, modelin satış, pazarlama ve müşteri desteği odaklı görevlerde başarılı olması için birlikte post-training çalışması yürüttü.
Salesforce ve Nvidia iş birliğiyle ortaya çıkan Koa, genel amaçlı bir sistemden kurumsal iş akışlarına özgü bir modele dönüştürülmesiyle farklılaşıyor. Modelin tanıtımı, kurumsal dünyanın yapay zeka ihtiyaçlarının frontier laboratuvarların sunduklarından nasıl ayrıştığını gösteren bir örnek olarak değerlendirildi.
Kurumsal İhtiyaçlar Neden Frontier Modellerden Ayrışıyor?
Kaynak içeriğe göre, tescilli yapay zeka laboratuvarları, kurumsal şirketlerin dosyalarını, kodlarını, komutlarını ve geri bildirimlerini doğrudan kendi modellerine ve ajanlarına yüklemesini ve bunun için milyonlarca dolar harcamasını tercih ediyor. Salesforce ise Koa ile kurumsal müşterilerine farklı bir yaklaşım sunmayı hedefliyor.
Şirketin Koa ile sunduğu teklif şu unsurları içeriyor:
Kapalı frontier modellere karşı açık ağırlıklı bir alternatif
İmkansız matematik problemlerini çözmek yerine belirli iş görevlerini yapmak üzere eğitilmiş bir model
Hiçbir gerçek müşteri verisini içe aktarmadığı için bu verileri başkalarına sızdırmayacak bir yapı
Aynı işi daha az token kullanarak yaptığı için yapay zeka harcamalarını azaltmaya yardımcı olan bir model
İhtiyaca göre otomatik olarak bir yapay zeka "gateway" üzerinden yönlendirilebilen bir sistem
Salesforce içine gömülü olarak müşterinin tüm veri gereksinimlerini ve güvenliğini takip eden bir model
Bu özellikler, Koa'nın kurumsal dünyanın ihtiyaçlarına göre şekillendirildiğini ve frontier laboratuvarların genel amaçlı yaklaşımlarından ayrıldığını gösteriyor.
Agentforce Platformunda Koa'nın Rolü ve AI Gateway
Koa, Salesforce'un müşterilerinin müşteri hizmetleri sorularını yanıtlama veya randevu planlama gibi rutin görevleri yerine getiren ajanlar oluşturduğu Agentforce platformunda sunulacak. Platformda halihazırda sunulan diğer modellere bir alternatif olarak konumlandırılacak.
Salesforce AI'dan Sorumlu Başkan Yardımcısı Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada, "Agentforce portföyünün bir parçası olan birçok küçük göreve özgü dil modeli oluşturduk. Ancak akıl yürütme her zaman frontier model sağlayıcılarına güvendiğimiz bir şeydi. Şimdiye kadar." ifadelerini kullandı.
Koa'dan önce, bir ajanın uzun süren veya çok adımlı bir görev üzerinde akıl yürütmesi gerektiğinde, bu komutlar Agentforce'un AI gateway sistemi üzerinden Claude veya ChatGPT gibi bir frontier modele yönlendiriliyordu. AI gateway, hangi isteğin hangi model tarafından ele alınacağına karar veren sistem olarak tanımlanıyor. Koa ile birlikte bu tür akıl yürütme gerektiren görevler için şirket içinde geliştirilmiş bir alternatif devreye alınmış oluyor.
Nemotron Tabanı ve Sentetik Veriyle Post-Training Süreci
Govindarajan, daha önce kurumsal düzeyde bir frontier model eğitmemelerinin nedenini de açıkladı. Govindarajan, "Bunu daha önce yapmamamızın nedenlerinden biri, kendi kurumsal düzeyde frontier modelimizi eğitmek - her zaman istedik - ama zorluk her zaman başlayacak önceden eğitilmiş bir temel modelin olmamasıydı. Nemotron ortaya çıkana kadar, mevcut olan egemen bir Amerikan önceden eğitilmiş modeli yoktu, bir, ve iki, son teknoloji ürünü olan ve üç, net veri kökenine sahip olan. Qwen'in ne üzerinde eğitim aldığını bilmiyoruz." dedi. Bu açıklamada Qwen, Alibaba tarafından üretilen popüler Çin açık ağırlıklı modeli olarak anıldı.
Govindarajan'ın ifadesine göre Nemotron'un ortaya çıkması, üç koşulu bir araya getirdi: egemen bir Amerikan önceden eğitilmiş modelinin varlığı, son teknoloji ürünü olması ve net veri kökenine sahip olması. Bu koşullar sağlanana kadar Salesforce'un kendi akıl yürütme modelini eğitmesinin önündeki temel engel, başlangıç için uygun bir temel modelin bulunmamasıydı.
Modelin post-training süreci, genel amaçlı bir sistemin satış ve müşteri desteği bilgisine hakim bir sisteme dönüştürülmesi anlamına geliyor. Bu aşamada Salesforce ve Nvidia, Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu. Govindarajan bu süreci, "Aslında müşteri hizmetleri merkezini arayan sinirli müşteriler de dahil olmak üzere persona müşteri hizmetleri profesyoneli ile bir müşteri hizmetleri ortamını simüle ettik, anlaşmayı kapatmaya çalışan bir satış profesyoneline kadar." sözleriyle anlattı.
Token Verimliliği ve Claudeforce İş Birliği
Koa'nın, Salesforce müşterilerinin bir ajanın yapmasını istediği iş görevlerinde Claude veya ChatGPT'ye aynı görevleri göndermekten daha iyi ve token yakımı açısından daha ucuz olması hedefleniyor. Nvidia'nın Kurumsal için Üretken Yapay Zeka Yazılımından Sorumlu Başkan Yardımcısı Kari Ann Briski, TechCrunch'a yaptığı açıklamada Nemotron ile ilgili olarak, "Çıkarım için token verimli olacak benzersiz bir mimariye sahibiz. Sahip olmanız gereken şeylerin üçlüsü gibi: egemen yapay zeka, ilk token'a kadar geçen süre, tokenomiklerin tamamı için verimli akıl yürütme." dedi.
Briski'nin vurguladığı üç unsur, egemen yapay zeka, ilk token süresi ve verimli akıl yürütme olarak sıralandı. Bu mimarinin, aynı işin daha az token ile yapılmasına olanak sağlaması amaçlanıyor.
Bununla birlikte Salesforce, Anthropic veya OpenAI ile bağını koparmıyor. Şirket, kısa süre önce Anthropic ile Claudeforce adlı bir ortaklık duyurdu. Bu ortaklık, şirketlerin verileri Salesforce'un kayıt sistemi içinde kalmaya ve altyapısı tarafından güvence altına alınmaya devam ederken Claude'u yapay zeka arayüzü olarak kullanmalarına olanak tanıyor.
Sıkça Sorulan Sorular
Koa nedir ve hangi temel model üzerine inşa edildi?
Koa, Salesforce'un ilk akıl yürütme modelidir ve Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilmiştir. İki şirket modeli birlikte post-training sürecinden geçirmiştir.
Koa hangi görevlerde uzmanlaşmak üzere eğitildi?
Koa, satış, pazarlama ve müşteri desteğiyle ilgili görevlerde üstün performans göstermek üzere eğitildi. Kaynak içeriğe göre imkansız matematik problemlerini çözmek yerine belirli iş görevlerine odaklanıyor.
Koa eğitilirken gerçek müşteri verileri kullanıldı mı?
Hayır. Salesforce ve Nvidia, post-training sürecinde Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu ve müşteri hizmetleri ortamı simüle edildi.
Koa, Salesforce müşterilerine nasıl sunulacak?
Koa, Salesforce'un Agentforce platformunda sunulan diğer modellere bir alternatif olarak sağlanacak. Agentforce, müşterilerin müşteri hizmetleri sorularını yanıtlama veya randevu planlama gibi rutin görevler için ajanlar oluşturduğu platformdur ve Koa, ihtiyaca göre AI gateway üzerinden otomatik olarak yönlendirilebilecek.
Salesforce, Koa ile birlikte Anthropic ve OpenAI modellerini bırakıyor mu?
Hayır. Kaynak içeriğe göre Salesforce, Anthropic veya OpenAI'yi terk etmiyor. Şirket, Anthropic ile Claudeforce adlı bir ortaklık duyurdu ve bu ortaklık şirketlerin verileri Salesforce'un kayıt sistemi içinde güvende kalırken Claude'u yapay zeka arayüzü olarak kullanmalarına olanak tanıyor.
