Gleen AI, kuruluşların kendi verilerini kullanarak AI halüsinasyonlarını durdurmak istiyor

Dünyanın her yerindeki kuruluşlar olarak Üretken yapay zekayı hızla değerlendirmeye, test etmeye ve dağıtmaya çalışın Arka uçta, ön uçta (müşteriye dönük) veya her ikisinde de iş akışlarında birçok karar verici, aralarında yapay zeka halüsinasyonları sorununun da bulunduğu bazı kalıcı sorunlar hakkında haklı olarak endişelenmeye devam ediyor.

Ancak yeni bir başlangıç, Glen AI, VentureBeat’e özel olarak bir görüntülü görüşme röportajında ​​konuşan Gleen’in CEO’su ve kurucu ortağı Ashu Dubey’e göre, sahneye çıktı ve “halüsinasyonu çözdüğünü” iddia ediyor.

Gleen AI, bugün Slow Ventures, 6th Man Ventures, South Park Commons, Spartan Group ve eski Facebook/Meta Platforms’un ürün yönetimi başkan yardımcısı Sam Lessin de dahil olmak üzere diğer girişim firmaları ve melek yatırımcılardan, geliştirmeye devam etmek için 4,9 milyon dolarlık bir finansman turunu duyurdu. İşletmelere yönelik halüsinasyon önleyici veri katmanı yazılımı, başlangıçta müşteri desteği sağlamak için yapay zeka modellerini yapılandırmalarına yardımcı olmayı hedefliyor.

Halüsinasyonlarla ilgili sorun

Popüler, ticari olarak temin edilebilen büyük dil modelleri (LLM’ler) gibi üretken yapay zeka araçları SohbetGPT, Claude 2, LLaMA 2, Ozanve diğerleri, insan kullanıcının girdiği kelime ve fikirlerle ilişkilendirilen veriler üreterek, insan tarafından girilen istemlere ve sorgulara yanıt vermek üzere eğitilir.

Ancak gen yapay zeka modelleri her zaman doğru sonuca ulaşmıyor ve birçok durumda hatalı veya konuyla ilgili olmayan ancak modelin eğitiminin daha önce insan kullanıcının söylediği bir şeyle ilişkilendirildiği bilgiler üretiyor.

Güncel güzel bir örnek, ChatGPT cevap vermeye çalışıyor “Dünya ne zaman Mars’ı gölgede bıraktı?” ve tamamen yanlış olan ikna edici ve mantıklı bir açıklama sağlamak (sorunun temeli kusurlu ve yanlıştır – Dünya Mars’ı gölgede bırakamaz).

Bu yanlış yanıtlar bazen komik veya ilginç olabilse de, çalışanlara veya kullanıcılara yönelik doğru veriler üretmek için bunlara güvenmeye çalışan işletmeler için sonuçlar son derece riskli olabilir; özellikle de sağlık hizmetlerinde son derece sıkı denetime tabi, ölüm kalım bilgileri söz konusu olduğunda. tıp, ağır sanayi ve diğerleri.

Gleen halüsinasyonları önlemek için ne yapıyor?

“Veri gönderdiğimizde yaptığımız şey [from a user] Yüksek Lisans’a iyi bir cevap yaratabilecek gerçekleri veriyoruz,” dedi Dubey. “Yeterli veriye sahip olduğumuza inanmazsak, verileri Yüksek Lisans’a göndermeyiz.”

Özellikle Gleen, kurumsal müşterilerinin dağıtmak istediği LLM’den bağımsız olarak özel yapay zeka ve makine öğrenimi (ML) katmanı oluşturdu.

Bu katman, kurumun kendi dahili verilerini güvenli bir şekilde eleyerek bir vektör veritabanına dönüştürür ve bu verileri kullanarak yapay zeka modelinin yanıtlarının kalitesini artırır.

Glen’in katmanı şunları yapar:

1. Yardım belgeleri, SSS’ler, ürün özellikleri, kılavuzlar, wiki’ler, forumlar ve geçmiş sohbet günlükleri gibi birden fazla kaynaktan gelen yapılandırılmış ve yapılandırılmamış kurumsal bilgileri bir araya getirir.
2. Gürültüyü ve fazlalığı ortadan kaldırarak önemli gerçekleri derler ve çıkarır. Dubey, bunun “sinyali gürültüden toplamamıza olanak sağladığını” söyledi. (Ayrıca Gleen’in adının da kökeni.)
3. Varlıklar arasındaki ilişkileri anlamak için bir bilgi grafiği oluşturur. Grafik, belirli bir sorgu için en alakalı gerçeklerin alınmasına yardımcı olur.
4. Çıktıyı teslim etmeden önce LLM’nin seçilmiş gerçeklere karşı tepkisini kontrol eder. Kanıt eksikse, chatbot halüsinasyon riski yerine “Bilmiyorum” diyecek.

Yapay zeka katmanı, LLM’nin yanıtını son kullanıcıya teslim edilmeden önce çapraz kontrol ederek bir kontrol noktası görevi görür. Bu, chatbotun yanlış veya uydurma bilgiler sağlama riskini ortadan kaldırır. Bu, sohbet robotları için bir kalite kontrol yöneticisine sahip olmak gibidir.

Dubey, “Yalnızca gerçeklerin kapsamlı olduğuna dair yüksek güvene sahip olduğumuzda Yüksek Lisans’a başvuruyoruz” diye açıkladı. “Aksi takdirde kullanıcıdan daha fazla bilgiye ihtiyaç duyulduğu konusunda şeffafız.”

Gleen’in yazılımı aynı zamanda kullanıcıların müşterileri için hızlı bir şekilde müşteri desteği sohbet robotları oluşturmalarına ve “kişiliklerini” kullanım durumuna göre ayarlamalarına olanak tanıyor.

Gleen’in çözümü yapay zeka modeline aykırıdır ve uygulama programlama arayüzü (API) entegrasyonlarına sahip birçok önde gelen modelden herhangi birini destekleyebilir.

En popüler LLM’yi isteyen müşteriler için OpenAI’nin GPT-3.5 Turbo modelini destekler. Verilerin LLM ana şirketine gönderilmesinden endişe duyanlar için, aynı zamanda şirketin özel sunucularında çalışan LLaMA 2’yi de destekliyor (gerçi OpenAI, müşterinin açıkça izin vermesi dışında, modellerini eğitmek için müşteri verilerini toplamadığını veya kullanmadığını defalarca söyledi) ).

Gleen, güvenliğe duyarlı bazı müşteriler için açık internete hiçbir zaman dokunmayan tescilli bir LLM kullanma seçeneği sunuyor. Ancak Dubey, yüksek lisansların halüsinasyonun kaynağı olmadığına inanıyor.

Dubey, “LLM’ler, tepkiyi temellendirecek yeterli gerçekler verilmediğinde halüsinasyon görecekler” dedi. “Doğruluk katmanımız bunu LLM’ye gelen girdileri kontrol ederek çözüyor.”

Erken geri bildirim umut verici

Şu anda Gleen kullanan bir müşterinin nihai sonucu, kendi Slack’lerine takılabilen veya son kullanıcıya yönelik bir destek temsilcisi olarak ortaya çıkabilen özel bir sohbet robotudur.

Gleen AI halihazırda kuantum bilişim, kripto ve doğruluğun çok önemli olduğu diğer teknik alanları kapsayan müşteriler tarafından kullanılıyor.

Kripto para birimi Ethereum’u daha kurumsal dostu hale getirmeye adanmış bir şirket olan Matter Labs’ın topluluk desteğinden Estevan Vilar, “Gleen AI’yi uygulamak bizim açımızdan neredeyse hiç çaba göstermedi” dedi. “Sadece birkaç bağlantı sağladık ve geri kalanı sorunsuzdu.”

Glen potansiyel müşterilerine ücretsiz bir teklif sunuyorYapay zeka oyun alanı” şirketlerinin verilerini kullanarak kendi özel sohbet robotlarını oluşturabilecekleri yer.

Daha fazla şirket, bir yandan yüksek lisansların gücünden faydalanırken bir yandan da dezavantajlarını hafifletmeye çalışırken, Gleen AI’nin doğruluk katmanı onlara, kendilerinin ve müşterilerinin talep ettiği doğruluk düzeyinde üretken yapay zekayı dağıtma yolunu sunabilir.

Dubey, “Vizyonumuz, her şirketin kendi özel bilgi grafiğiyle desteklenen bir yapay zeka asistanına sahip olmasıdır” dedi. “Bu vektör veritabanı, web siteleri kadar önemli bir varlık haline gelecek ve tüm müşteri yaşam döngüsü boyunca kişiselleştirilmiş otomasyona olanak sağlayacak.”