Bağlamsal yapay zeka, kurumsal odaklı dil modelleri oluşturmak için gizlilikten başlar

OpenAI’ler gibi büyük dil modelleri (LLM’ler) GPT-4 endüstrileri alt üst etmeyi vaat eden güçlü, paradigma değiştiren araçlardır. Ancak katı uyumluluk ve yönetişim gereksinimleri olan kurumsal kuruluşlar için onları daha az çekici kılan sınırlamalardan muzdariptirler. Örneğin, LLM’lerin bilgileri yüksek bir güvenle uydurma eğilimi vardır ve bilgi tabanlarını kaldırmayı – hatta revize etmeyi – zorlaştıracak şekilde yapılandırılmışlardır.

Douwe Kiela, bunları ve diğer engelleri çözmek için Bağlamsal AI, bugün 20 milyon $ ‘lık tohum finansmanı ile gizlilikten çıktı. Bain Capital Ventures (tohumun başını çeken), Lightspeed, Greycroft ve SV Angel gibi yatırımcılar tarafından desteklenen Contextual AI, kuruluş için “yeni nesil LLM’leri” oluşturmayı iddialı bir şekilde hedefliyor.

TechCrunch’a e-posta yoluyla Kiela, “Şirketi, şimdiye kadar büyük ölçüde tüketicilere odaklanan, gelişen üretken yapay zeka alanındaki işletmelerin ihtiyaçlarını karşılamak için kurduk” dedi. “Bağlamsal yapay zeka, işletmelerin üretken yapay zekayı benimsemesini sağlamada bugün var olan çeşitli engelleri çözüyor.”

Kiela ve Contextual AI’ın diğer kurucu ortağı Amanpreet Singh, Şubat ayı başlarında kendi başlarına gitmeye karar vermeden önce AI girişimi Hugging Face ve Meta’da birlikte çalıştı. Meta’dayken Kiela, Bağlamsal Yapay Zeka’nın metin üreten Yapay Zeka teknolojisinin temelini oluşturan, alma artırılmış nesil (RAG) adı verilen bir teknik üzerinde araştırma yaptı.

Peki RAG nedir? Özetle, Google’ın DeepMInd Ar-Ge bölümünün de sahip olduğu RAG keşfedildi — performanslarını artırmak için dosyalar ve web sayfaları gibi harici kaynaklarla LLM’leri genişletir. Bir istem verildiğinde (örn. “ABD başkanı kim?”), RAG ilgili olabilecek kaynaklarda veri arar. Ardından, sonuçları orijinal istemle paketler ve bunu bir LLM’ye besleyerek “bağlama duyarlı” bir yanıt oluşturur (örneğin, “Beyaz Saray’ın resmi web sitesine göre mevcut başkan Joe Biden’dır”).

Buna karşılık, “Nepal’in yıllara göre GSYİH’si nedir?” gibi bir soruya yanıt olarak, tipik bir LLM (örn. ChatGPT), GSYİH’yı yalnızca belirli bir tarihe kadar verebilir ve bilginin kaynağını belirtmeyebilir.

Kiela, RAG’nin, ilişkilendirme ve özelleştirme gibi günümüzün LLM’leriyle ilgili diğer öne çıkan sorunları çözebileceğini iddia ediyor. Geleneksel LLM’lerde, modellerin neden bu şekilde yanıt verdiğini bilmek zor olabilir ve LLM’lere veri kaynakları eklemek genellikle yeniden eğitim veya ince ayar gerektirir – RAG ile (genellikle) kaçınılan adımlar.

“RAG dil modelleri, eşdeğer dil modellerinden daha küçük olabilir ve yine de aynı performansı sağlayabilir. Bu, onları çok daha hızlı yapıyor, yani daha düşük gecikme süresi ve daha düşük maliyet anlamına geliyor,” dedi Kiela. “Çözümümüz, mevcut yaklaşımların eksikliklerini ve miras kalan sorunlarını ele alıyor. Veri entegrasyonu, akıl yürütme, konuşma ve hatta görme ve dinleme için farklı modülleri entegre etmenin ve ortaklaşa optimize etmenin, kurumsal kullanım durumları için dil modellerinin gerçek potansiyelini ortaya çıkaracağına inanıyoruz.”

Meslektaşım Ron Miller düşünceli üretken yapay zekanın kuruluştaki geleceğinin nasıl daha küçük, daha odaklı dil modelleri olabileceği hakkında. Buna itiraz etmiyorum. Ancak belki de özel olarak ince ayarlı, kurumsal odaklı LLM’ler yerine, “daha küçük” modellerin ve şirkete özgü belgelerle zenginleştirilmiş mevcut LLM’lerin bir kombinasyonu olacaktır.

Bağlamsal AI, bu fikri keşfeden ilk kişi değil. OpenAI ve yakın ortağı Microsoft, son zamanlarda üçüncü tarafların GPT-4 gibi LLM’lere bilgi kaynakları eklemesine izin veren bir eklenti çerçevesi başlattı. Diğer girişimler, örneğin LamaIndexkurumsal veriler dahil olmak üzere kişisel veya özel verileri LLM’lere eklemenin yollarını deniyor.

Ancak Bağlamsal AI, kuruluşta ilerleme kaydettiğini iddia ediyor. Şirket şu anda ön gelir elde ederken, Kiela, Bağlamsal Yapay Zekanın teknolojisini pilot olarak kullanmak için Fortune 500 şirketleriyle görüşmelerde bulunduğunu iddia ediyor.

Kiela, “Kuruluşların üretken yapay zekadan aldıkları yanıtların doğru, güvenilir ve izlenebilir olduğundan emin olmaları gerekiyor” dedi. “Bağlamsal yapay zeka, işverenlerin ve onların değerli bilgi çalışanlarının üretken yapay zekanın sağlayabileceği verimlilik avantajlarını elde etmelerini kolaylaştıracak ve bunu güvenli ve doğru bir şekilde yapacak… Birkaç üretken yapay zeka şirketi, kurumsal pazarın peşinden gideceklerini belirtti, ancak Bağlamsal yapay zeka alacak özellikle kurumsal kullanım durumlarına yönelik çok daha entegre bir çözüm oluşturarak farklı bir yaklaşım.”

Yaklaşık sekiz çalışanı olan Bağlamsal Yapay Zeka, tohum finansmanının büyük kısmını LLM’leri eğitmek için bir bilgi işlem kümesine yatırım yapmayı içerecek olan ürün geliştirmeye harcamayı planlıyor. Şirket, iş gücünü 2023’ün sonuna kadar 20 kişiye çıkarmayı planlıyor.

kim kimdir ne zaman nasıl nelerdir nedir ne işe yarar tüm bilgiler
dünyadan ilginç ve değişik haberler en garip haberler burada