Wellen, kemik sağlığı hakkında tavsiyeler veren bir sohbet robotu için OpenAI’nin GPT’sinden yararlanıyor

AI sohbet robotları ne işe yarar? Bilimkurgu romanlarını sevenler, Neal Stephenson’ın 1992 tarihli klasiğindeki bir karakter olan “kütüphaneciyi” hatırlayabilirler. Kar Kazası; bir kişi değil, bir yapay zeka programı ve kullanıcılarla sohbet biçiminde etkileşim kurabilen sanal bir kitaplık. Kurgusal kavram, kendisine sorulan sorunun yanıtı eğitim verilerinde gizlendiği sürece, bilgi keşfi sorununa zarif ve erişilebilir bir çözüm öneriyordu.

Günümüze hızla ilerleyin ve yapay zeka sohbet robotları her yerde ortaya çıkıyor. Ancak önemli bir dezavantaj var: Bu genel amaçlı araçlar, bilim kurguda öngörülen yüksek düzeyde yanıt doğruluğuna ulaşamıyor. Kar Kazası‘ın konuşmalı yapay zeka versiyonu neredeyse kesinlikle yardımcı oldu ve kesinlikle rutin olarak “halüsinasyon” (yanlış) yanıtlar vermedi. Açıkça bilgi sahibi olmadığı bir şey sorulduğunda, ‘bir şeyler uydurmaya başvurmak yerine bir bilgi boşluğunu giderir’. Dolayısıyla, en son teknoloji yapay zeka araçlarının gerçekliğinin, en iyi kurgusal tahminlerimizden bazılarından çok daha riskli olduğu ortaya çıktı.

Hala güçlü bilgi yayma oyunundan çok uzaktayken, Kar Kazası kütüphaneci olarak, özel sohbet robotlarının, esasen daha az sıkıcı bir web sitesi araması olarak işlev gördükleri daha dar bir bağlamda kullanım için geliştirildiğini görüyoruz. Bu nedenle, OpenAI’nin GPT’si gibi temel büyük dil modelleri (LLM’ler) – API’si aracılığıyla – belirli bir (genel amaçlı değil) bağlamda uygulanmak amacıyla uzman veri kümeleri üzerinde eğitilerek diğer işletmeler tarafından özelleştiriliyor.

Ve en iyi örneklerde, bu özel sohbet botlarına yanıtlarını kısa ve öz tutmaları talimatı verildi (yalvarmak yok lütfen!) bilgiye aç insan muhataplar (kendileri halüsinasyon görmeye veya görmek istediklerini görmeye eğilimli olabilirler).

Wellenbu yılın başlarında orta yaşlı kadınları hedefleyen bir abonelik hizmetiyle başlatılan – osteopeni ve osteoporoza yardımcı olmak için tasarlanmış bilim destekli “kişiselleştirilmiş” kuvvet antrenman programlarını lanse eden – New York merkezli kemik sağlığı odaklı bir fitness girişimi. yapay zeka sohbet robotu OpenAI’nin LLM’si üzerine inşa edilmiştir.

Açıkça bir “deney” olarak etiketlenen bu chatbot’u test ederken – ve onunla etkileşime geçmeden önce, çıktısının “tıbbi tavsiye olmadığını” vurgulayan ek bir sorumluluk reddi beyanını kabul etmeniz gerekir – bugün lansmanından önce akla getirdi faydasından biraz Kar Kazası kütüphaneci Ya da, kemik sağlığıyla ilgili her şeyin uzmanlık alanında kaldığınız sürece.

Örneğin, ‘osteoporoz tersine çevrilebilir mi?’ gibi sorular sorun. ve ‘zıplamak kemik sağlığına iyi gelir mi?’ ve sorgunuzla ilgili daha fazla ilgili okuma için girişimin web sitesinde (kurum içi uzmanları tarafından yazılmış) barındırdığı içeriğe bağlantı veren özlü ve tutarlı (ve görünüşte doğru) yanıtlar alacaksınız. İlk başlatıldığında, sohbetin akışını sağlamak için ona sorabileceğiniz bazı uygun soru örnekleri de sunar.

Ama alakasız (konu dışı) şeyler sorarsanız – örneğin ‘ABD başkanı kim?’ veya ‘yeni bir saç kesimi yaptırmalı mıyım?’ – sorduğunuz şeye yanıt vermeyen rastgele yanıtlar alacaksınız. Burada, sanki soru tamamen yanlış anlaşılmış ve/veya rahatça tartışabileceği içerik külliyatından en az alakasız bir yanıtı kalıp eşleştirmeye çalışıyormuş gibi, temel konularda ilgisiz (ancak yine de potansiyel olarak yararlı) bilgi parçacıkları sunma eğilimindedir. Ama yine de hiç sormadığınız bir şeyi yanıtlıyor olacak. (Bu, kişiselleştirilmiş fitness programları için nasıl ödeme yapılacağına dair istenmeden istihbarat sunmayı içerebilir. Bu kesinlikle gereksiz soruları saptırmanın bir yoludur.)

Robota, yine de uzmanlık alanıyla ilgili şüpheli şeyler sorun – kemik sağlığı hakkındaki tıbbi komplo teorileri veya osteoporoz için fantastik tedaviler hakkındaki tehlikeli şeyler gibi – ve onun ya saçmalıkları tamamen çürütebildiğini ya da kullanıcıyı tekrar yönlendirebildiğini gördük. Önemsizliği veya her ikisini de çürüten doğrulanmış bilgiler.

Bot ayrıca, onu korkuluklarını terk etmeye ikna etmeye yönelik (oldukça kaba) girişimlerimizden ve yararsız ve hatta zararlı tavsiyeler vermesini sağlamak için başka bir şey olarak rol yapma girişimlerimizden de kurtuldu. Ve bariz bir şekilde gülünç olan sorulara (insan kemiklerini yemenin kemik sağlığı için iyi olup olmadığı gibi) çok düz bir sopayla oynadı – buna yanıtı belki biraz fazla kuru ve temkinli oldu, bot bize şunları söyledi: “Bundan hiç söz edilmiyor. Sağlanan bağlamda insan kemikleri yemek kemik sağlığı için iyidir. Ama bu yanlış değil.

Aracın ilk izlenimleri, kullanımının son derece kolay olduğu yönündedir (ve zayıf ortalama site arama işlevinden daha iyi bir deneyim). Ayrıca, Wellen kullanıcılarının kemik sağlığıyla ilgili yararlı kaynaklar bulmasını desteklemede de yardımcı olacak gibi görünüyor. Veya daha önce web sitesinde okudukları ve tam olarak nerede gördüklerini hatırlayamadıkları bir şey bulun. (Örneğin, diyet ve kemik sağlığı üzerine yazdığı tüm blog gönderilerinin bağlantılarını listelemesini sağladık.)

Bu sınırlı bağlamda, konudan sapan veya diğer yanıltıcı tuzaklara sapan konuşmalara karşı koruma sağlamak için güvenlik mekanizmalarıyla birlikte tasarlanmış olan üretken yapay zekanın makul bir kullanımı gibi görünüyor. Ve kaynak sağlamaya tam saygı duyarak. (Günlük olarak sorabileceğiniz ücretsiz sorgu sayısının altı ile sınırlandığını unutmayın. Ödeme yapan Wellen üyeleri için üst sınırın olmadığını varsayıyoruz.)

Daha basit bir karar ağacı sohbet robotunun yeterli olabileceği (en azından genel/öngörülebilir sorgular için) bu kullanım durumu için bir LLM kullanmanın aşırı olup olmadığını merak etmenize rağmen.

CEO ve kurucu Priya Patel, “İçeriğimizin bir vektör deposunu oluşturan yerleştirmeler oluşturmak için OpenAI’nin API’sini kullanıyoruz” diye açıklıyor. “Gömülülerimizdeki bilgilerin aranmasını ve alınmasını kolaylaştırmak için LangChain adlı popüler bir açık kaynak çerçevesinden yararlanıyoruz.”

Eğitim verilerinde, kendilerinden içerik yerleştirdiklerini söylüyor. Kuyu Rehberiweb sitesindeki diğer içeriğin yanı sıra şu notu düşerek: “Kuyu Rehberi içeriğimizin tamamı, alandaki uzmanlar tarafından yazılmış ve hakemli incelemeden geçmiştir ve hakemli araştırmalara, tıbbi topluluklara ve devlet kurumlarına referanslar içerir.”

Dolayısıyla, temel olarak, bu uygulama, kaliteli yapay zeka girdilerinin içerik korkuluklarıyla birleştirilmesinin nasıl kalite kontrollü çıktılar verebileceğinin düzgün bir örneği gibi görünüyor. (Üretici AI’nızı İnternet forumlarından kazınmış rastgele konvoslar üzerinde eğitirseniz ve web kullanıcılarına salıverirseniz, şaşırmayın. hızla olağan çevrimiçi komplo saçmalıklarını papağan gibi tekrarlamaya başlar.)

Wellen, chatbot’un amacının, hedef demografisi için daha fazla destek sağlamak olduğunu söylüyor ve bot’un “amacı yorumlayabildiğini, geçmişi hatırlayabildiğini ve hızlı, doğru yanıtlar sağlayabildiğini” ve “uzman tarafından yazılmış” içerikten yararlandığını (bunlar en son yaşam tarzı ve beslenme rehberliği sunmanın yanı sıra “binlerce” soruya yanıt sağlamak için kemik sağlığı araştırmalarında).

Patel ayrıca TechCrunch’a “Chatbot ile amacımız bilgiyi daha erişilebilir ve kullanılabilir hale getirmektir” dedi. “Çoğu kişi çevrimiçi tıbbi soruları Google’da arayarak saatler harcıyor, ancak web sitemizde bu arama sürecini kolaylaştırabilecek uzmanlar tarafından yazılmış yüzlerce sayfalık içerik var. Chatbot’umuzla, kullanıcıların halihazırda bir araya getirdiğimiz bilgilerden yararlanmasını ve sorularına bilim destekli yanıtların yanı sıra temeldeki kaynaklara doğrudan bağlantıları kolayca bulmasını her zamankinden daha kolay hale getirebiliriz.”

Uyguladığı belirli güvenlik önlemleri sorulduğunda, GPT için “düşük sıcaklık” ayarı kullandığını doğruladı – yani, yanıtların raydan çıkma riskini sınırlamak için OpenAI tarafından sağlanan bir kontrol aracılığıyla çıktıların rastgeleliğini/yaratıcılığını geri çeviriyor – “chatbot’tan gelen yanıtlarda yaratıcılık ve halüsinasyonlar için alanı azaltmaya yardımcı olmak için belirli hızlı mühendislik teknikleri” iyi bir şekilde uygulanıyor. Başka bir deyişle, potansiyel güvenlik açıklarını proaktif olarak kilitlemek için kullanıcıların güvenlik önlemlerini nasıl aşmaya çalışabilecekleri anlamaya çalışılır.

Yine, ikincisi, sohbet botuyla karşılaşma olasılığı yüksek olan kullanıcıların sınırlarını aşmaya niyetli olma ihtimalinin düşük olduğu böyle bir kullanım durumu için biraz abartılı olabilir. Büyük ihtimalle sadece kemik sağlığını anlamak için yardım isteyeceklerdir. Ancak hiç kimse sağlıkla ilgili bir bağlamda yapay zeka güvenliği için aşırı mühendislikten şikayet etmeyecektir.

Patel’in işaret ettiği bir diğer güvenlik önlemi, bot’un tüm yanıtlarının “bilgileri doğrulamaya hizmet edebilecek web sitemizdeki içeriğe doğrudan bağlantılar olan” kaynakları içermesi yönündeki katı gerekliliktir. Doğrulanmış bir veri kümesi üzerinde eğitilmiş özel bir bot için bu, hiç akıllıca değil. Ayrıca, kullanıcıları, ücretli hizmetlerinin benimsenmesini sağlamak için bilgilendirici pazarlama işlevi görmek üzere girişimin sağladığı daha zengin web içeriğini tıklamaya ve keşfetmeye teşvik eder.

Şu anda üretken yapay zeka etrafındaki yutturmaca düzeyleri göz önüne alındığında, Wellen’in sohbet robotu, aynı zamanda, konuşma yapay zekasına yönelik mevcut genel ilgi girdabıyla organik olarak başka türlü görebileceğinden daha fazla dikkat çekmek de dahil olmak üzere, sundukları şey için faydalı pazarlama işlevi görüyor. Bu, şu anda teknolojiyi uygulamaya bağlı başka bir kolay kazanç.

Buna ek olarak, sağlık odaklı bir kullanım durumu söz konusu olduğunda, çoğu durumda işletmelerin ilk görevi, yaşam tarzı müdahalelerinin faydalarını geleneksel müdahalelere proaktif bir alternatif olarak satmak için bir sağlık sorunu etrafında farkındalık yaratmak olabilir. reaktif) sağlık. Bu nedenle, her türden sorguya yanıt verebilen ve bilgi açığını kapatmak için 7/24 işlev görebilen bir sohbet robotu, daha geniş görev için de kullanışlı bir araç gibi görünüyor.