Salesforce ve Nvidia, şirketin dev teknoloji konferansı Dreamforce'ta en büyük duyurularından biri olarak Koa adlı yeni bir yapay zeka modelini tanıttı. Salesforce'un ilk akıl yürütme modeli olan Koa, Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edildi ve iki şirket tarafından satış, pazarlama ve müşteri desteğiyle ilgili görevlerde üstün başarı göstermesi için post-training yöntemiyle birlikte geliştirildi.
Koa, kurumsal dünyanın yapay zeka ihtiyaçlarının öncü laboratuvarların sunduklarından nasıl farklılaştığının en net örneklerinden biri olarak gösteriliyor. Kaynak içeriğe göre, tescilli yapay zeka laboratuvarları işletmelerin dosyalarını, kodlarını, komutlarını ve geri bildirimlerini doğrudan modellerine ve ajanlarına yüklemesini ve bunun için milyonlarca dolar harcamasını isterken, Salesforce kurumsal müşterilerine farklı bir yaklaşım sunmayı hedefliyor.
Koa Nedir ve Dreamforce'ta Neden Öne Çıktı
Koa, Salesforce'un Dreamforce konferansında duyurduğu en önemli yenilikler arasında yer alıyor. Modelin temel özelliği, şirketin bugüne kadar geliştirdiği küçük, göreve özel dil modellerinden farklı olarak akıl yürütme yeteneğine sahip ilk model olması. Salesforce AI'dan Sorumlu Başkan Yardımcısı Jayesh Govindarajan, TechCrunch'a yaptığı açıklamada bu ayrımı net bir şekilde ortaya koydu.
Govindarajan, "Agentforce portföyünün bir parçası olan birçok küçük göreve özel dil modeli geliştirdik. Ancak akıl yürütme her zaman öncü model sağlayıcılarına güvendiğimiz bir şeydi. Şimdiye kadar" ifadelerini kullandı. Bu açıklama, Koa'dan önce uzun süreli veya çok adımlı bir görevde akıl yürütmesi gereken bir ajanın komutlarının, Agentforce'un hangi modelin hangi isteği ele alacağına karar veren sistemi olan AI gateway üzerinden Claude veya ChatGPT gibi bir öncü modele yönlendirildiğini gösteriyor.
Koa'nın geliştirilmesiyle birlikte bu bağımlılığın azaltılması amaçlanıyor. Model, Agentforce platformunda müşterilerin randevu planlama veya müşteri hizmetleri sorularını yanıtlama gibi rutin görevleri yerine getiren ajanlar oluşturduğu ortamda, sunulan diğer modellere bir alternatif olarak sağlanacak.
Kurumsal İhtiyaçlara Odaklanan Açık Ağırlıklı Alternatif
Kaynak içeriğe göre Salesforce'un Koa ile kurumsal müşterilerine sunduğu teklif, öncü laboratuvarların yaklaşımından beş temel noktada ayrışıyor. Şirket, müşterilerine kapalı öncü modellere karşı açık ağırlıklı bir alternatif, imkansız matematik problemlerini çözmek yerine belirli iş görevlerini yapmak için eğitilmiş bir model sunuyor.
Bu teklifin diğer unsurları da kurumsal önceliklere göre şekillendi. Koa, hiçbir gerçek müşteri verisini özümsemediği için bu verileri başkalarına sızdırma riski taşımıyor. Aynı işi yapmak için daha az token kullandığından yapay zeka harcamalarını azaltmaya yardımcı oluyor. İhtiyaca göre bir yapay zeka "gateway" üzerinden otomatik olarak yönlendirilebiliyor ve Salesforce içine gömülü olarak müşterinin tüm veri gereksinimlerini ve güvenliğini takip ediyor.
Bu özellikler, Koa'nın kurumsal dünyanın ihtiyaçlarının öncü laboratuvarların sunduğu genel amaçlı ve kapalı modellerden ayrıştığı tezini destekliyor. Model, genel problem çözme yerine doğrudan satış ve destek süreçlerine odaklanarak konumlandırılıyor.
Nemotron Altyapısı ve Sentetik Veriyle Post-Training Süreci
Koa'nın teknik temelini Nvidia'nın Nemotron modeli oluşturuyor. Govindarajan, şirketin daha önce kurumsal düzeyde bir öncü model eğitmeme nedenini de bu temelin yokluğuna bağlıyor. Govindarajan, "Bunu daha önce yapmamamızın nedenlerinden biri, kendi kurumsal düzeyde öncü modelimizi eğitmek - her zaman istedik - ama zorluk her zaman başlayacak önceden eğitilmiş bir temel modelin olmamasıydı. Nemotron ortaya çıkana kadar, mevcut olan egemen bir Amerikan önceden eğitilmiş modeli yoktu, bir, ve iki, son teknoloji ürünü olan ve üç, net veri kökenine sahip olan. Qwen'in ne üzerinde eğitim aldığını bilmiyoruz" dedi. Burada Qwen ifadesiyle Alibaba tarafından üretilen popüler Çin açık ağırlıklı model kastediliyor.
Modeli genel amaçlı bir sistemden satış ve müşteri desteği bilgisine hakim bir sisteme dönüştürmek anlamına gelen post-training süreci, Salesforce ve Nvidia tarafından sentetik verilerle gerçekleştirildi. İki şirket, bu süreçte Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu.
Govindarajan bu süreci, "Aslında müşteri hizmetleri merkezini arayan sinirli müşteriler de dahil olmak üzere persona müşteri hizmetleri uzmanıyla bir müşteri hizmetleri ortamını simüle ettik, anlaşmayı kapatmaya çalışan bir satış uzmanına kadar" sözleriyle anlattı. Bu simülasyon, modelin gerçek müşteri etkileşimlerine benzer senaryolarla eğitilmesini sağladı.
Nvidia tarafında ise verimlilik vurgusu öne çıkıyor. Nvidia'nın Kurumsal için Üretken Yapay Zeka Yazılımından Sorumlu Başkan Yardımcısı Kari Ann Briski, TechCrunch'a yaptığı açıklamada Nemotron ile ilgili olarak, "Çıkarım için token verimli olacak benzersiz bir mimariye sahibiz. Sahip olmanız gereken şeylerin üçlüsü gibi: egemen yapay zeka, ilk token'a kadar geçen süre, tokenomik için verimli akıl yürütme" değerlendirmesinde bulundu. Koa'nın, aynı görevleri Claude veya ChatGPT'ye göndermekten daha iyi ve token yakma açısından daha ucuz olması hedefleniyor.
Agentforce Entegrasyonu ve Mevcut İş Birliklerinin Durumu
Koa, Salesforce'un Agentforce platformundaki mevcut model portföyüne ek bir seçenek olarak entegre edilecek. Platform, müşterilerin ajanlar oluşturduğu ve bu ajanların rutin görevleri üstlendiği bir yapı sunuyor. Koa'dan önce akıl yürütme gerektiren komutlar doğrudan öncü modellere yönlendirilirken, artık bu tür istekler için Koa da AI gateway üzerinden otomatik olarak devreye girebilecek.
Bununla birlikte kaynak içerik, Salesforce'un Anthropic veya OpenAI ile olan ilişkisini tamamen sonlandırmadığını da açıkça belirtiyor. Şirket, Anthropic ile Claudeforce adında yeni bir ortaklık duyurdu. Bu ortaklık, şirketlerin verileri Salesforce'un kayıt sistemi içinde ve altyapısı tarafından güvence altına alınmış halde kalırken, Claude'u yapay zeka arayüzleri olarak kullanmalarına olanak tanıyor.
Bu durum, Koa'nın kapalı modellere bir alternatif olarak sunulmasına rağmen, Salesforce'un müşterilerine farklı ihtiyaçlara göre farklı modeller arasında seçim yapma esnekliği sunmaya devam ettiğini gösteriyor. Koa, özellikle satış, pazarlama ve müşteri desteği görevlerinde token verimliliği ve veri güvenliği avantajlarıyla konumlandırılırken, Claude ve ChatGPT gibi modeller de gateway üzerinden erişilebilir olmaya devam edecek.
Sıkça Sorulan Sorular
Koa nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un ilk akıl yürütme modelidir ve Salesforce ile Nvidia tarafından birlikte geliştirilmiştir. Model, Dreamforce teknoloji konferansında duyurulmuştur ve Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilmiştir.
Koa hangi model üzerine inşa edildi ve temel özellikleri nelerdir?
Koa, Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilmiştir. Kaynak içeriğe göre kapalı öncü modellere açık ağırlıklı bir alternatif sunar, belirli iş görevleri için eğitilmiştir, daha az token kullanarak maliyetleri düşürmeyi hedefler ve AI gateway üzerinden yönlendirilebilir.
Koa'nın eğitiminde gerçek müşteri verileri kullanıldı mı?
Hayır. Salesforce ve Nvidia, post-training sürecinde Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veriler oluşturuldu ve müşteri hizmetleri ile satış ortamları simüle edildi.
Koa, Salesforce'un Agentforce platformunda nasıl kullanılacak?
Koa, Agentforce platformunda müşterilerin ajanlar oluşturduğu ortamda sunulan diğer modellere bir alternatif olarak sağlanacak. Akıl yürütme gerektiren uzun süreli veya çok adımlı görevler, AI gateway sistemi üzerinden Koa'ya yönlendirilebilecek.
Salesforce, Koa ile birlikte Anthropic ve OpenAI modellerini kullanmayı bırakıyor mu?
Hayır. Kaynak içerikte Salesforce'un Anthropic veya OpenAI'ı tamamen bırakmadığı belirtiliyor. Şirket, Anthropic ile Claudeforce adlı bir ortaklık duyurdu ve bu ortaklık şirketlerin verileri Salesforce altyapısında güvende kalırken Claude'u arayüz olarak kullanmalarına olanak tanıyor.
