Salesforce, bu hafta düzenlenen büyük teknoloji konferansı Dreamforce'ta Koa adlı yeni bir yapay zekâ modelini duyurdu. Şirketin ilk akıl yürütme (reasoning) modeli olan Koa, Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edildi. İki şirket, Koa'yı satış, pazarlama ve müşteri desteğiyle ilgili görevlerde başarılı olacak şekilde birlikte sonradan eğitti (post-training).
Koa, kurumsal dünyanın yapay zekâdan beklentilerinin, öncü laboratuvarların sunduklarından nasıl ayrıştığını gösteren çarpıcı bir örnek olarak öne çıkıyor. Tescilli yapay zekâ laboratuvarları, işletmelerin dosyalarını, kodlarını, istemlerini ve geri bildirimlerini doğrudan kendi modellerine ve ajanlarına yükleyip bunun için milyonlar harcamasını tercih ediyor. Salesforce ise kurumsal müşterilerine bu modelle farklı bir seçenek sunuyor.
Koa'nın kurumsal müşterilere sunduğu avantajlar
Salesforce'un Koa ile vaat ettiği tablo, kapalı frontier modellere kıyasla birkaç başlıkta toplanıyor: kapalı modellere açık ağırlıklı bir alternatif; imkânsız matematik problemlerini çözmek yerine belirli iş görevlerini yerine getirmek üzere eğitilmiş bir model; hiçbir gerçek müşteri verisini içine almadığı için bu veriyi başkalarına sızdıramayacak bir yapı; aynı işi daha az token kullanarak yaptığı için yapay zekâ harcamalarını azaltmaya yardımcı olan bir model; ihtiyaca göre otomatik olarak bir yapay zekâ "geçidi" (gateway) üzerinden yönlendirilebilen bir çözüm ve müşterinin veri gereksinimleriyle güvenliğini Salesforce içinde gömülü biçimde karşılayan bir model.
Koa, Salesforce'un Agentforce platformunda sunduğu diğer modellere alternatif olarak sağlanacak. Müşteriler bu platformda, müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevleri üstlenecek ajanlar inşa ediyor.
"Akıl yürütmede frontier sağlayıcılara bağımlıydık"
Salesforce AI'dan Sorumlu Başkan Yardımcısı (EVP) Jayesh Govindarajan, konuyu TechCrunch'a şöyle anlattı: "Agentforce'un portföyünün parçası olan birçok küçük, göreve özel dil modeli geliştirdik. Ancak akıl yürütme, bugüne kadar her zaman frontier model sağlayıcılarına güvendiğimiz bir şey oldu. Ta ki şimdiye kadar."
Koa'dan önce, bir ajanın uzun süren veya çok adımlı bir görevi akıl yürüterek tamamlaması gerektiğinde bu istemler, Agentforce'un yapay zekâ geçidi (hangi isteği hangi modelin karşılayacağına karar veren sistem) üzerinden Claude veya ChatGPT gibi bir frontier modele yönlendiriliyordu.
Neden daha önce yapılmadı?
Govindarajan, kendi kurumsal sınıf frontier modellerini daha önce neden eğitmediklerini de açıkladı: "Bunu daha önce yapmamamızın nedenlerinden biri — kendi kurumsal sınıf frontier modelimizi eğitmek — hep istemiştik; ama zorluk her zaman başlangıç için önceden eğitilmiş bir temel modelin eksikliğiydi. Nemotron gelene kadar, birincisi mevcut olan, ikincisi son teknoloji düzeyinde olan ve üçüncüsü net bir veri kökenine (data provenance) sahip egemen bir Amerikan ön-eğitilmiş modeli yoktu. Qwen'in neyle eğitildiği konusunda hiçbir fikrimiz yok." Govindarajan bu sözlerle, Alibaba tarafından üretilen popüler Çin menşeli açık ağırlıklı modele atıfta bulundu.
Müşteri verisi kullanılmadı, sentetik veri üretildi
Böyle bir modeli sonradan eğitmek, onu genel amaçlı bir sistemden satış ve müşteri desteği bilgisine hâkim bir yapıya dönüştürmek anlamına geliyor. Bunu yaparken Salesforce ve Nvidia, Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine müşterilerin kalıplarını taklit eden sentetik veri oluşturdular.
Govindarajan süreci şöyle tarif etti: "Aslında bir müşteri hizmetleri ortamını, bir persona müşteri hizmetleri profesyoneliyle birlikte simüle ettik; müşteri hizmetleri merkezini arayan öfkeli müşterilerden, bir anlaşmayı kapatmaya çalışan bir satış profesyoneline kadar."
Token verimliliği ve "üçlü sacayağı"
Koa, Salesforce müşterilerinin bir ajanın yapmasını istediği iş görevlerinde — ve harcanan token açısından maliyet bakımından — aynı görevlerin Claude veya ChatGPT'ye gönderilmesine kıyasla daha iyi olmayı hedefliyor. Nvidia'nın Kurumsal için Üretken Yapay Zekâ Yazılımından Sorumlu Başkan Yardımcısı Kari Ann Briski, Nemotron'a ilişkin olarak TechCrunch'a şunları söyledi: "Çıkarım için token verimliliği sağlayan benzersiz bir mimarimiz var. İhtiyaç duyduğunuz şeylerin bir tür üçlü sacayağı bu: egemen yapay zekâ, ilk token'a kadar geçen süre, verimli akıl yürütme — tüm bu token ekonomisi için."
Salesforce, Anthropic ve OpenAI'dan vazgeçmiyor
Ancak Salesforce, Anthropic veya OpenAI'ı tamamen bırakmıyor. Şirket, Claudeforce adı verilen ve Anthropic ile yaptığı bir ortaklığı da duyurdu. Bu ortaklık, şirketlerin verileri Salesforce'un kayıt sisteminde kalırken ve kendi altyapısıyla güvence altına alınırken Claude'u yapay zekâ arayüzü olarak kullanmasına olanak tanıyor.
Sıkça Sorulan Sorular
Koa nedir ve kim tarafından geliştirildi?
Koa, Salesforce'un Dreamforce konferansında duyurduğu ilk akıl yürütme modelidir. Nvidia'nın açık ağırlıklı Nemotron modeli üzerine inşa edilmiş ve iki şirketin birlikte yürüttüğü sonradan eğitim (post-training) süreciyle satış, pazarlama ve müşteri desteği görevlerinde başarılı olacak şekilde geliştirilmiştir.
Koa hangi platformda sunulacak?
Koa, Salesforce'un Agentforce platformunda sunduğu diğer modellere bir alternatif olarak sağlanacak. Müşteriler bu platformda müşteri hizmetleri sorularını yanıtlamak veya randevu planlamak gibi rutin görevleri yerine getirecek ajanlar inşa ediyor.
Koa'nın eğitiminde müşteri verisi kullanıldı mı?
Hayır. Salesforce ve Nvidia, Koa'nın eğitiminde Salesforce müşterilerine ait hiçbir gerçek veriyi kullanmadı. Bunun yerine, müşterilerin kalıplarını taklit eden sentetik veri ürettiler ve öfkeli müşterilerden anlaşma kapatmaya çalışan satış profesyonellerine kadar uzanan bir müşteri hizmetleri ortamını simüle ettiler.
Koa'dan önce akıl yürütme görevleri nasıl yürütülüyordu?
Koa'dan önce, bir ajanın uzun süren veya çok adımlı bir görevi akıl yürütmesi gerektiğinde bu istemler, Agentforce'un yapay zekâ geçidi üzerinden Claude veya ChatGPT gibi bir frontier modele yönlendiriliyordu.
Salesforce, Anthropic ve OpenAI ile ilişkisini sonlandırıyor mu?
Hayır. Salesforce, Anthropic veya OpenAI'dan vazgeçmiyor. Şirket ayrıca, şirketlerin verileri Salesforce'un kayıt sisteminde kalırken ve kendi altyapısıyla güvence altına alınırken Claude'u yapay zekâ arayüzü olarak kullanmasına olanak tanıyan Claudeforce adlı Anthropic ortaklığını duyurdu.
