Üretimde üretken yapay zeka: Geliştirmeyi yeniden düşünmek ve en iyi uygulamaları benimsemek

Sendbird tarafından sunuldu


Üretken yapay zeka, işletmelerin müşterilerle etkileşime geçme, müşteri deneyimini geniş ölçekte yükseltme ve iş büyümesini artırma biçimini yeniden şekillendiriyor. Bu VB Gündemi’nde sektör uzmanları gerçek dünyadaki kullanım örneklerini paylaştı, zorlukları tartıştı ve kuruluşunuzun genel yapay zeka stratejisini güçlendirmek için uygulanabilir bilgiler sundu.

Burada isteğe bağlı olarak izleyin!


Yazılımın nasıl oluşturulduğunu yeniden düşünmek

“LLM’lerin en büyük avantajı [large language models] Aynı zamanda en büyük dezavantajı da çok yaratıcı olmalarıdır” diyor Gamma’nın kurucu ortağı Jon Noronha. “Yaratıcılık harikadır ama yaratıcı aynı zamanda öngörülemez anlamına da gelir. Aynı soruyu bir Yüksek Lisans öğrencisine sorabilir ve ifadelerdeki çok küçük farklılıklara bağlı olarak çok farklı bir yanıt alabilirsiniz.”

Yüksek Lisans’lar etrafında üretim uygulamaları geliştiren şirketler için, öngörülebilir hata ayıklama ve yazılım testi ve izleme konusundaki mühendislik zihniyeti birdenbire zorlanmaya başladı.

“Bu uygulamalardan birini geniş ölçekte oluştururken, tüm yazılım geliştirme sürecimizi yeniden düşünmemiz ve LLM’ler için hata ayıklama ve izleme gibi bu geleneksel uygulamaların analoglarını oluşturmaya çalışmamız gerektiğini gördük” diye ekliyor. “Bu sorun çözülecek, ancak geliştirme ekiplerinin LLM’lerinin geniş ölçekte nasıl performans gösterdiğini anlamalarına yardımcı olacak yeni nesil altyapı araçlarına ihtiyaç duyulacak.”

Oportun CPO’su İrfan Ganchi, bunun yeni bir teknoloji olduğunu ve mühendislerin her gün yeni sorunlarla karşılaştığını söylüyor. Örneğin, özellikle kendi bilgi tabanınız üzerinde eğitim alırken ve çeşitli bağlamlarda çeşitli temas noktalarında onu markaya uygun tutmaya çalışırken, Yüksek Lisans eğitimi için gereken süreyi göz önünde bulundurun.

“Giriş tarafında neredeyse bir filtreye ve ayrıca çıkış tarafında da bir filtreye sahip olmanız gerekiyor; hem bir insanla hem de üretken yapay zekanın ürettiği şeylerle koordinasyon içinde çalıştığınızdan emin olmak için döngüye bir insanı koyun” diyor. “Daha gidilecek uzun bir yol var ama umut verici bir teknoloji.”

Sendbird’ün ürün sorumlusu Shailesh Nalawadi, Yüksek Lisans’larla çalışmanın yazılımla çalışmaya benzemediğini ekliyor.

“Bu yazılım mühendisliği değil. Bu deterministik değil” diyor. “Girdilerdeki küçük bir değişiklik, çok farklı çıktılara yol açabilir. Bunu daha da zorlaştıran şey, bir LLM’nin neden belirli bir çıktı verdiğini anlamak için geriye doğru izini sürememenizdir ki bu, biz yazılım mühendisleri olarak geleneksel olarak yapabildiğimiz bir şeydir. Mükemmel LLM’yi hazırlamak ve üretime koymak için çok fazla deneme yanılma gerekiyor. O halde LLM’yi, test otomasyonunu ve CI/CD ardışık düzenlerini güncellemeye yönelik araçlar mevcut değildir. Bugün Yüksek Lisans’ların üzerine inşa edilen üretken yapay zeka tabanlı uygulamaları kullanıma sunmak, eksik olan her şeyin farkında olmamızı ve oldukça dikkatli ilerlememizi gerektiriyor.”

Üretim düzeyindeki ortamlarda üretken yapay zekaya ilişkin yanlış anlamalar

Nalawadi’ye göre en büyük yanılgılardan biri, pek çok kişinin Yüksek Lisans’ın Google aramaya çok benzediğini düşünmesi: gerçek zamanlı, indekslenmiş bilgilere tam erişime sahip bir veritabanı. Maalesef bu doğru değil. Yüksek Lisans’lar genellikle potansiyel olarak altı ila 12 ila 18 aylık bir veri kümesi üzerinde eğitilir. Bir kullanıcıya ihtiyaç duyduğunuz belirli bilgilerle yanıt verebilmeleri için kullanıcının, verilerinizin ayrıntılarını içeren modeli sorması gerekir.

“Bu, bir iş ortamında doğru istemi etkinleştirmenin, gereken yanıtla ilgili tüm bilgileri paketlediğinizden emin olmanın oldukça önemli olacağı anlamına geliyor” diyor. “Hızlı mühendislik burada çok alakalı ve önemli bir konudur.”

Noronha, diğer büyük yanlış anlamanın terminolojiden kaynaklandığını söylüyor. “Üretken” terimi, eğlenceli olabilecek ancak çoğu zaman iş değerinin en fazla olduğu veya olacağı yerde olmayan bir şeyi sıfırdan yapmayı ifade eder.

“Neredeyse her zaman başlangıç ​​noktası olarak kendi verilerinizden bazılarının eşleştirildiğini, bunun daha sonra üretken yapay zeka ile eşleştirildiğini göreceğiz” diyor. “Sanat, bu iki dünyayı, bu yaratıcı, öngörülemeyen modeli, halihazırda sahip olduğunuz yapı ve bilgiyle birleştiriyor. Birçok açıdan ‘dönüştürücü yapay zeka’nın, gerçek değerin nereden geldiği konusunda daha iyi bir terim olduğunu düşünüyorum.”

Ganchi, insanların üretim ortamında üretken yapay zekayla ilgili en büyük korkularından birinin her şeyi otomatikleştireceği olduğunu söylüyor.

“Gördüğümüz kadarıyla bu, gerçeklerden bu kadar uzak olamaz” diye açıklıyor.

Bazı sıradan görevleri otomatikleştirir, ancak temelde üretkenliği artırır. Örneğin, Oportun’un iletişim merkezinde, modelleri en iyi performans gösteren temsilcilerin yanıtlarına göre eğitebildiler ve daha sonra bu modelleri tüm temsilcileri eğitmek için kullanabildiler ve ortalama yanıt sürelerini ve bekletme sürelerini iyileştirmek için gen yapay zeka ile koordinasyon sağladılar.

Ganchi, “İnsanlar, temsilcilerimiz ve üretken yapay zeka araçları üretkenliği artırırken aynı zamanda müşterilerimizin deneyimini de iyileştirdiğinde çok fazla değer elde edebiliyoruz” diyor. “İnsanın yerini almaktan ziyade verimliliği artıran bir araç olduğunu görüyoruz. Bu, özellikle iletişim merkezi bağlamında iyi işlediğini gördüğümüz bir ortaklık.”

Üretken yapay zekanın günümüz pazarlamacılarının içerik yazma ve yaratıcı üretim konularında çok daha üretken olmalarına yardımcı olduğu pazarlamadaki benzer eğilimlere de dikkat çekiyor. Çok daha fazlasını başarabilirler. Verimliliği artıran bir araçtır.

Üretken yapay zekadan yararlanmak için en iyi uygulamalar

Ganchi, üretken yapay zekayı uygularken en önemli şeyin çok bilinçli olmak, temel bir strateji ve bir kuruluş içindeki değeri aşamalı olarak test etme yeteneği olduğunu söylüyor.

“Bulduğumuz şeylerden biri, üretken yapay zekayı uygulamaya koyar koymaz, hem çalışanlar cephesinde hem de kurumsal yönetim cephesinde çok fazla endişenin ortaya çıkmasıdır” diyor. “Nasıl kasıtlı olabiliyorsun? Nasıl kasıtlı olabiliyorsun? Aşamalı olarak test etmek, değer göstermek ve bir kuruluşun üretkenliğine katkıda bulunmak için bir stratejiniz var.”

Nalawadi, dağıtıma başlamadan önce üretken yapay zeka tabanlı sistemlerin performansını ölçecek altyapıya sahip olmanız gerektiğini ekliyor.

“Çıktı üretiliyor mu? İşareti karşılıyor mu? Tatmin edici mi? Belki de insani bir değerlendirme çerçevesi vardır” diyor. “Ve yüksek lisans eğitimlerinizi ve istemleri geliştirirken bunu da yanınızda bulundurun. Bu altın standarda tekrar bakın ve gerçekten geliştiğinden emin olun. Nasıl olduğunu görmek için yalnızca niteliksel ölçümlere güvenmek yerine bunu kullanın. Planlayın. Bir test altyapınız ve niceliksel değerlendirme çerçeveniz olduğundan emin olun.”

Noronha, birçok açıdan en önemli kısmın üretken yapay zekanın hangi sorunlara uygulanacağını seçmek olduğunu söylüyor.

“Elbette bir takım aksilikler yaşanabilir, ancak herkes yapay zekanın sihirli peri tozunu ürünlerine serpmeye o kadar hevesli ki, herkes bunu koymak için doğru yerlerin neresi olduğunu düşünmüyor” diyor. “Sunum formatlamak gibi kimsenin yapmadığı veya yapmak istemediği bir işin olduğu durumları aradık. Bunun gibi vakaları aramanızı ve bunlara gerçekten eğilmenizi tavsiye ederim. Bunlara odaklanırken bizi şaşırtan diğer şey ise bunun yalnızca verimliliği değiştirmemesiydi. İnsanların daha önce yaratmayacakları şeyler yaratmasını sağladı.”

Üretken yapay zekanın şu anda nerede olduğu ve gelecekte nereye gideceği hakkında daha fazla bilgi edinmek, sektör liderlerinden gerçek dünya vaka çalışmaları ve somut yatırım getirisi öğrenmek için bu VB Spotlight etkinliğini kaçırmayın.

Ücretsiz izlemek için hemen kaydolun!

Gündem

  • Üretken yapay zeka, müşteri etkileşimi için oyun alanını nasıl eşitliyor?
  • Farklı endüstriler üretken ve konuşmaya dayalı yapay zekanın gücünden nasıl yararlanabilir?
  • Büyük dil modelleriyle ilgili olası zorluklar ve çözümler
  • Üretken yapay zekayla desteklenen bir gelecek vizyonu

Sunucular

  • İrfan GançiÜrün Müdürü, Oportun
  • Jon NoronhaKurucu Ortak, Gamma
  • Shailesh NalawadiÜrün Müdürü, Sendbird
  • Çad OdaModeratör, VentureBeat

kim kimdir ne zaman nasıl nelerdir nedir ne işe yarar tüm bilgiler
dünyadan ilginç ve değişik haberler en garip haberler burada