Kuruluştaki üretken yapay zeka ve yüksek lisans (LLM) için veri riski nasıl en aza indirilir?

İşletmeler gücünün hızla farkına vardılar üretken yapay zeka yeni fikirleri ortaya çıkarmak ve hem geliştirici hem de geliştirici olmayan üretkenliği artırmak. Ancak hassas ve özel verilerin halka açık olarak barındırılan büyük dil modellerine (LLM’ler) aktarılması güvenlik, gizlilik ve yönetişim açısından önemli riskler oluşturur. İşletmelerin bu güçlü yeni teknolojilerin herhangi bir faydasını görmeye başlayabilmeleri için önce bu riskleri ele almaları gerekiyor.

Gibi IDC notlarıİşletmeler, LLM’lerin kendi bilgi istemlerinden “öğrenebilecekleri” ve özel bilgileri benzer istemler giren diğer işletmelere ifşa edebilecekleri konusunda meşru endişelere sahiptir. İşletmeler ayrıca paylaştıkları hassas verilerin çevrimiçi olarak saklanıp bilgisayar korsanlarının eline geçebileceğinden veya yanlışlıkla kamuya açıklanabileceğinden endişe ediyor.

Bu, veri ve istemlerin genel olarak barındırılanlara beslenmesini sağlar Yüksek Lisans’lar Çoğu işletme için, özellikle de düzenlemeye tabi alanlarda faaliyet gösterenler için başlangıç ​​noktası olmayan bir durum. Peki şirketler riskleri yeterince azaltırken LLM’lerden nasıl değer elde edebilirler?

Mevcut güvenlik ve yönetim çevreniz dahilinde çalışın

Verilerinizi bir Yüksek Lisans’a göndermek yerine Yüksek Lisans’ı verilerinize getirin. Bu, çoğu işletmenin inovasyon ihtiyacını müşteri kişisel bilgilerini ve diğer hassas verileri güvende tutmanın önemi ile dengelemek için kullanacağı modeldir. Çoğu büyük işletme, verileri etrafında zaten güçlü bir güvenlik ve yönetim sınırına sahiptir ve LLM’leri bu korumalı ortamda barındırmalı ve dağıtmalıdır. Bu, veri ekiplerinin LLM’yi daha da geliştirmesine ve özelleştirmesine ve çalışanların kuruluşun mevcut güvenlik alanı dahilinde onunla etkileşime girmesine olanak tanır.

Güçlü bir yapay zeka stratejisi, başlangıçta güçlü bir veri stratejisi gerektirir. Bu, siloları ortadan kaldırmak ve ekiplerin ihtiyaç duydukları verilere güçlü bir güvenlik ve yönetim duruşuyla erişmelerine olanak tanıyan basit, tutarlı politikalar oluşturmak anlamına gelir. Nihai hedef, güvenli ve yönetilen bir ortamda bir LLM ile kullanılmak üzere kolayca erişilebilen, eyleme geçirilebilir, güvenilir verilere sahip olmaktır.

Etki alanına özgü LLM’ler oluşturun

Web’in tamamında eğitim alan Yüksek Lisans’lar, gizlilik sorunlarından daha fazlasını sunar. Onlar “eğilimlidirler”halüsinasyonlar” ve diğer yanlışlıklar olabilir ve önyargıları yeniden üretebilir ve işletmeler için daha fazla risk yaratan rahatsız edici yanıtlar üretebilir. Üstelik temel LLM’ler kuruluşunuzun dahili sistemlerine ve verilerine maruz kalmamıştır; bu da işinize, müşterilerinize ve hatta muhtemelen sektörünüze özel soruları yanıtlayamayacakları anlamına gelir.

Cevap, bir modeli kendi işiniz için akıllı hale getirecek şekilde genişletmek ve özelleştirmektir. ChatGPT gibi barındırılan modeller en çok ilgiyi çekmiş olsa da, kuruluşların indirebileceği, özelleştirebileceği ve güvenlik duvarının arkasında kullanabileceği uzun ve giderek büyüyen bir LLM listesi var; bunlara aşağıdaki gibi açık kaynaklı modeller de dahil: Yıldız Kodlayıcı Sarılma Yüzünden ve KararlıLM Stability AI’dan. Web’in tamamında temel bir modelin ayarlanması büyük miktarda veri ve bilgi işlem gücü gerektirir, ancak IDC’nin belirttiği gibi, “üretken bir model bir kez eğitildikten sonra, çok daha az veriyle belirli bir içerik alanı için ‘ince ayar’ yapılabilir.”

Bir LLM’nin faydalı olması için geniş olması gerekmez. “Çöp içeri, çöp dışarı” her yapay zeka modeli için geçerlidir ve kuruluşlar, güvenebileceklerini bildikleri ve ihtiyaç duydukları bilgileri sağlayacak dahili verileri kullanarak modelleri özelleştirmelidir. Çalışanlarınızın muhtemelen LLM’nize nasıl kiş yapılacağını veya Babalar Günü hediyesi fikirlerini sormalarına gerek yoktur. Ancak Kuzeybatı bölgesindeki satışlar veya belirli bir müşterinin sözleşmesinin içerdiği avantajlar hakkında soru sormak isteyebilirler. Bu yanıtlar, LLM’nin güvenli ve yönetilen bir ortamda kendi verilerinize göre ayarlanmasıyla elde edilecektir.

Yüksek kaliteli sonuçlara ek olarak, kuruluşunuz için LLM’leri optimize etmek kaynak ihtiyaçlarını azaltmanıza yardımcı olabilir. Kuruluştaki belirli kullanım durumlarını hedefleyen daha küçük modeller, genel amaçlı kullanım durumları veya farklı sektörler ve endüstrilerdeki çok çeşitli kurumsal kullanım durumları için oluşturulan modellere göre daha az bilgi işlem gücü ve daha küçük bellek boyutları gerektirir. Yüksek Lisans’ları kuruluşunuzdaki kullanım örneklerine daha hedefli hale getirmek, Yüksek Lisans’ları daha uygun maliyetli ve verimli bir şekilde yürütmenize yardımcı olacaktır.

Çok modlu yapay zeka için yapılandırılmamış verileri yüzeye çıkarın

Dahili sistemleriniz ve verileriniz üzerinde bir model ayarlamak, bu amaç için yararlı olabilecek tüm bilgilere erişim gerektirir ve bunların çoğu, metnin yanı sıra formatlarda da depolanır. Hakkında Dünyadaki verilerin %80’i yapılandırılmamışe-postalar, resimler, sözleşmeler ve eğitim videoları gibi şirket verileri dahil.

Bu gibi teknolojileri gerektirir doğal dil işleme yapılandırılmamış kaynaklardan bilgi çıkarmak ve bunları veri bilimcilerinizin oluşturup eğitebilmeleri için kullanılabilir hale getirmek çok modlu yapay zeka Farklı veri türleri arasındaki ilişkileri tespit edebilen ve işletmeniz için bu öngörüleri ortaya çıkarabilen modeller.

Kasıtlı ama dikkatli bir şekilde ilerleyin

Bu hızla gelişen bir alan ve işletmelerin üretken yapay zekaya yönelik yaklaşımları ne olursa olsun dikkatli olmaları gerekiyor. Bu, kullandıkları modeller ve hizmetler hakkındaki ayrıntılı bilgileri okumak ve sağladıkları modeller hakkında açık garantiler sunan saygın satıcılarla çalışmak anlamına gelir. Ancak bu, şirketlerin yerinde duramayacağı bir alan ve her işletmenin, yapay zekanın kendi sektörünü nasıl bozabileceğini keşfetmesi gerekiyor. Risk ve ödül arasında kurulması gereken bir denge vardır ve üretken yapay zeka modellerini verilerinize yaklaştırıp mevcut güvenlik çerçeveniz dahilinde çalışarak bu yeni teknolojinin getirdiği fırsatlardan yararlanma olasılığınız artar.

Torsten Grabs, ürün yönetiminden sorumlu kıdemli direktördür. kar tanesi.