Salesforce, Dreamforce teknoloji konferansındaki en büyük duyurularından biri olarak ilk akıl yürütme modeli Koa'yı tanıttı. Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilen Koa, iki şirketin birlikte yürüttüğü post-training çalışmasıyla satış, pazarlama ve müşteri desteğiyle ilgili görevlerde uzmanlaşacak şekilde geliştirildi. Model, Salesforce'un Agentforce platformunda müşterilerin rutin işleri üstlenen ajanlar oluştururken kullanabileceği bir alternatif olarak sunulacak.
Koa'nın tanıtımı, kurumsal dünyanın yapay zeka ihtiyaçları ile frontier laboratuvarların sundukları arasındaki ayrışmayı gösteren bir örnek olarak öne çıkıyor. Salesforce, Koa ile kapalı frontier modellere karşı açık ağırlıklı bir seçenek, imkansız matematik problemlerini çözmek yerine belirli iş görevlerini yerine getirmek üzere eğitilmiş bir yapı ve müşteri verilerini içermediği için başkalarına sızdırma riski taşımayan bir model sunmayı hedefliyor.
Koa Nedir ve Dreamforce'ta Neden Öne Çıktı
Koa, Salesforce'un ilk akıl yürütme modeli olarak tanımlanıyor. Şirketin Dreamforce'taki duyuruları arasında en dikkat çekenlerden biri olan model, Nvidia'nın açık ağırlıklı Nemotron modeli temel alınarak oluşturuldu. İki şirket, modeli genel amaçlı bir sistemden satış, pazarlama ve müşteri desteği bilgisine hakim bir sisteme dönüştürmek için birlikte post-training yaptı.
Salesforce AI'dan Sorumlu Başkan Yardımcısı Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada, "Agentforce portföyünün bir parçası olan birçok küçük göreve özgü dil modeli oluşturduk. Ancak akıl yürütme her zaman frontier model sağlayıcılarına güvendiğimiz bir alan oldu. Şimdiye kadar" ifadelerini kullandı. Bu açıklama, Koa'dan önce uzun süren veya çok adımlı görevlerde akıl yürütme gerektiğinde bu taleplerin nasıl karşılandığını da ortaya koyuyor.
Kurumsal İhtiyaçlar ile Frontier Laboratuvarların Yaklaşımı Arasındaki Ayrışma
Kaynak içeriğe göre Koa, kurumsal dünyanın yapay zeka ihtiyaçlarının frontier laboratuvarların sunduklarından nasıl farklılaştığını gösteren bir örnek. Tescilli yapay zeka laboratuvarları, kurumsal şirketlerin dosyalarını, kodlarını, komutlarını ve geri bildirimlerini doğrudan modellerine ve ajanlarına yüklemesini ve bunun için milyonlarca dolar harcamasını tercih ediyor.
Salesforce ise Koa ile kurumsal müşterilerine farklı bir paket sunuyor:
Kapalı frontier modellere karşı açık ağırlıklı bir alternatif
İmkansız matematik problemlerini çözmek yerine belirli iş görevlerini yapmak üzere eğitilmiş bir model
Hiçbir gerçek müşteri verisini içermediği için başkalarına sızdırmayacak bir yapı
Aynı işi daha az token kullanarak yaptığı için yapay zeka harcamalarını azaltmaya yardımcı olan bir model
İhtiyaca göre bir yapay zeka "gateway" üzerinden otomatik olarak yönlendirilebilen bir model
Salesforce içine gömülü olarak müşterinin tüm veri gereksinimlerini ve güvenliğini takip eden bir model
Bu özellikler, Koa'nın neden yalnızca teknik bir model duyurusu değil, aynı zamanda kurumsal yapay zeka kullanımına yönelik bir konumlanma olarak görüldüğünü açıklıyor.
Agentforce Platformu ve Yapay Zeka Gateway'i ile Entegrasyon
Koa, Salesforce'un müşterilerinin müşteri hizmetleri sorularını yanıtlama veya randevu planlama gibi rutin görevleri üstlenen ajanlar oluşturduğu Agentforce platformunda sunulan diğer modellere bir alternatif olarak sağlanacak. Platformda ajanların akıl yürütme gerektiren uzun soluklu veya çok adımlı bir görevi ele alması gerektiğinde, Koa'dan önce bu komutlar Agentforce'un yapay zeka gateway'i üzerinden Claude veya ChatGPT gibi bir frontier modele yönlendiriliyordu.
Yapay zeka gateway'i, hangi isteğin hangi model tarafından ele alınacağına karar veren sistem olarak tanımlanıyor. Koa ile birlikte bu yönlendirme altyapısı korunacak, ancak akıl yürütme gerektiren kurumsal görevler için artık Salesforce'un kendi modeli de bir seçenek olarak devreye girecek. Böylece müşteriler, ihtiyaçlarına göre farklı modeller arasında otomatik yönlendirmeden faydalanabilecek.
Nemotron Temeli ve Sentetik Veriyle Post-Training Süreci
Govindarajan, daha önce kurumsal düzeyde bir frontier model eğitmemelerinin nedenini de açıkladı. "Bunu daha önce yapmamamızın nedenlerinden biri, kendi kurumsal düzeyde frontier modelimizi eğitmek - her zaman istedik - ama zorluk her zaman başlayacak önceden eğitilmiş bir temel modelin olmamasıydı. Nemotron ortaya çıkana kadar, mevcut olan egemen bir Amerikan önceden eğitilmiş modeli yoktu, bir, ve iki, son teknoloji olan ve üç, net veri kökenine sahip olan. Qwen'in ne üzerinde eğitim aldığını bilmiyoruz" dedi. Govindarajan burada Alibaba tarafından üretilen popüler Çin açık ağırlıklı modeli Qwen'e atıfta bulundu.
Modeli bu şekilde post-training'den geçirmek, genel amaçlı bir sistemi satış ve müşteri desteği bilgisine hakim hale getirmek anlamına geliyor. Bunun için Salesforce ve Nvidia, Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu. Govindarajan süreci, "Aslında müşteri hizmetleri merkezini arayan sinirli müşteriler de dahil olmak üzere persona müşteri hizmetleri profesyoneli ile bir müşteri hizmetleri ortamını simüle ettik, anlaşmayı kapatmaya çalışan bir satış profesyoneline kadar" sözleriyle anlattı.
Token Verimliliği ve Claudeforce İş Birliği ile Birlikte Varoluş
Koa'nın, Salesforce müşterilerinin bir ajanın yapmasını istediği iş görevlerinde Claude veya ChatGPT'ye aynı görevleri göndermekten daha iyi ve token yakma açısından daha ucuz olması amaçlanıyor. Nvidia'nın Kurumsal için Üretken Yapay Zeka Yazılımından Sorumlu Başkan Yardımcısı Kari Ann Briski, TechCrunch'a yaptığı açıklamada Nemotron ile ilgili olarak, "Çıkarım için token verimli olacak benzersiz bir mimariye sahibiz. Sahip olmanız gereken şeylerin üçlüsü gibi: egemen yapay zeka, ilk token'a kadar geçen süre, tokenomiklerin tamamı için verimli akıl yürütme" dedi.
Buna rağmen Salesforce, Anthropic veya OpenAI ile bağlarını koparmıyor. Şirket, Anthropic ile Claudeforce adını verdiği bir ortaklığı da duyurdu. Bu ortaklık, şirketlerin verileri Salesforce'un kayıt sistemi içinde kalırken ve altyapısı tarafından güvence altına alınırken Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanıyor. Bu durum, Koa'nın frontier modellerin yerini tamamen almaktan ziyade, Agentforce içinde ihtiyaca göre seçilebilen bir alternatif olarak konumlandığını gösteriyor.
Sıkça Sorulan Sorular
Koa nedir ve hangi temel model üzerine inşa edildi?
Koa, Salesforce'un ilk akıl yürütme modeli olarak Dreamforce'ta duyuruldu. Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edildi ve iki şirket tarafından birlikte post-training ile geliştirildi.
Koa hangi görevler için özelleştirildi?
Koa, satış, pazarlama ve müşteri desteğiyle ilgili görevlerde uzmanlaşacak şekilde post-training'den geçirildi. Agentforce platformunda müşteri hizmetleri sorularını yanıtlama veya randevu planlama gibi rutin görevleri üstlenen ajanlarda kullanılmak üzere sunuluyor.
Koa müşteri verileriyle mi eğitildi?
Hayır. Kaynak içeriğe göre Salesforce ve Nvidia, post-training için Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu ve müşteri hizmetleri ile satış ortamları simüle edildi.
Koa, Agentforce ve yapay zeka gateway'i içinde nasıl konumlanıyor?
Koa, Agentforce platformunda sunulan diğer modellere bir alternatif olarak sağlanacak. Daha önce akıl yürütme gerektiren uzun soluklu veya çok adımlı görevler yapay zeka gateway'i üzerinden Claude veya ChatGPT gibi frontier modellere yönlendiriliyordu. Koa ile bu tür görevler için artık Salesforce'un kendi modeli de gateway üzerinden otomatik olarak yönlendirilebilecek bir seçenek olacak.
Salesforce, Anthropic ve OpenAI modellerini bırakıyor mu?
Hayır. Kaynak içeriğe göre Salesforce, Anthropic veya OpenAI'yi tamamen bırakmıyor. Şirket, Anthropic ile Claudeforce adlı bir ortaklık duyurdu. Bu ortaklık, şirketlerin verileri Salesforce'un kayıt sistemi içinde ve altyapısı tarafından güvence altındayken Claude'u yapay zeka arayüzü olarak kullanmasına olanak tanıyor.
