Üretken yapay zeka çağında verileri koruma: Nightfall AI, yenilikçi güvenlik platformunu başlatıyor

Tüm kuruluşlar, gizli verilerinin büyük dil modellerine (LLM’ler) sızdırılmasından kaynaklanan güvenlik tehdidine rağmen, ChatGPT’den başlayarak üretken yapay zekanın üretkenlik kazanımlarından yararlanmaya isteklidir. CISO’lar, VentureBeat’e, yapay zeka yönetişiminin yönetim kurullarıyla risk yönetimi tartışmalarında sıcak bir konu haline gelmesiyle bu konuda bölünmüş olduklarını söylüyor.

Alex Philips, CIO şirketinde Ulusal Petrol Kuyusu Varco (KASIM), VentureBeat’e bu yılın başlarında verdiği bir röportajda, yönetim kurulunu en son avantajlar, riskler ve nesil AI teknolojilerinin mevcut durumu hakkında güncel tutmak için eğitim merkezli bir yaklaşım benimsediğini söyledi. Philips, devam eden bir eğitim sürecine sahip olmanın, yapay zeka neslinin neler yapıp yapamayacağına ilişkin beklentileri belirlemeye yardımcı olduğunu ve NOV’un gizli veri sızıntılarını önlemek için korkuluklar koymasına yardımcı olduğunu söylüyor.

Çeşitli sağlık hizmetleri CISO’ları ve CIO’ları, tüm araştırma ve geliştirme, fiyatlandırma ve lisanslama iş birimlerinde ChatGPT erişimini kısıtlıyor. VentureBeat, CISO’ların LLM’lere sızan gizli verilerin güvenlik tehdidini yönetip yönetmedikleri ve nasıl yönetecekleri konusunda ikiye bölündüğünü öğrendi. Bir araştırma aracı olarak gen yapay zekaya sahip olmamak, fikri mülkiyet, fiyatlandırma ve lisanslama riskleri çok büyük olduğundan, sağlık hizmeti sağlayıcılarının bundan vazgeçmeye istekli olduğu bir rekabet dezavantajıdır.

Riski azaltırken üretkenliğin kilidini açmak

Buradaki zorluk, gizli verileri güvende tutarken çalışanların tarayıcı, uygulama ve API düzeylerinde gen yapay zeka ve ChatGPT kullanarak daha üretken olmalarını sağlamaktır. Bulut veri kaybını önleme (DLP) platformu Alacakaranlık Yapay Zekası bugün, API tarayıcısı ve Hizmet Olarak Yazılım (SaaS) uygulama gen AI korumasını kapsayan, gen AI için ilk veri güvenliği platformunu duyurdu.

CISO’ların ve CIO’ların kuruluşlarında gen yapay zeka söz konusu olduğunda karşı karşıya kaldıkları üretkenlik paradoksunu ele almak için tasarlanan Nightfall AI platformu, gen yapay zeka ve ChatGPT söz konusu olduğunda güvenlik sağlamak için en çok yardıma ihtiyaç duyan en büyük üç tehdit vektörü arasında ölçeklenen ilk DLP platformudur. kuruluşlarında kullanımda. Amaç, kuruluşların hassas verileri korurken ve riski azaltırken AI’nın avantajlarını güvenli bir şekilde kullanmasını sağlamaktır.

Nightfall for GenAI veri güvenliği platformu, aşağıdakileri içeren üç üründen oluşur:

ChatGPT için akşam karanlığı. Nightfall AI’nin tarayıcı tabanlı çözümü, çalışanlar tarafından sohbet robotlarına girilen hassas verilerin ifşa edilmeden önce gerçek zamanlı olarak taranmasını ve düzeltilmesini sağlar. Tarayıcı tabanlı bir uzantı sağlamak, verileri korumanın daha az rahatsız edici yollarından biridir çünkü bu, kullanıcıların deneyimleri üzerindeki etkiyi en aza indirmeye uygun bir tekniktir. Nightfall AI CEO’su Isaac Madan, VentureBeat’e kullanıcıların Nightfall for ChatGPT ile yaşadıkları deneyimlerin, ürünün tasarım hedeflerinin temelini oluşturduğunu söyledi.

Madan, desteklenen ilk tarayıcıların Apple Safari, Google Chrome ve Microsoft Edge olduğunu söylüyor.

Güvenlikten Sorumlu Başkan Yardımcısı Eric Cohen, Genesis, Nightfall for ChatGPT, Genesys’teki meslektaşlarına riski azaltırken gen yapay zeka ürünlerine erişim sağlama konusunda bir atılım olarak görüyor. Cohen, VentureBeat’e, Nightfall AI için ideal olanın, kullanıcıların üretken AI uzmanları olmalarını gerektirmeden veri risklerini kendi kendilerine düzeltmelerine yardımcı olacak işbirlikçi bir yaklaşım benimsemek olduğunu söyledi.

LLM’ler için akşam karanlığı: API’ler, Nightfall AI’nın temel güçlü yönlerinden biridir ve kuruluşların geniş ölçekteki işletmelerin yapay zeka oluşturma neslinden üretkenlik kazanımları elde etmesini sağlama zorluğunu nasıl üstlendiklerine yansımıştır. Nightfall for LLMs, bir yazılım geliştirme kitinde (SDK) birleştirilmiş LLM’leri eğitmek için veri geliştiricilerin girdilerini algılayan ve düzelten bir geliştirici API’sidir. Birçok endüstri lideri, bu API’leri iş akışlarına zaten entegre etti.

Cohen, VentureBeat’e Nightfall AI’nın API stratejisinin, Genesys’in gen AI korumasını organizasyonları ve teknoloji yığınları genelinde ölçeklendirmek için ihtiyaç duyduğu özelleştirilebilirlik ve esnekliği sağladığını söyledi. Nightfall AI ayrıca redaksiyon oranlarına ilişkin içgörüler sağlıyor, daha fazla içgörü ekliyor ve gen AI’nın daha fazla üretkenlik için nasıl güvenli bir şekilde kullanılabileceğini öğreniyor.

SaaS için Akşam: Nightfall for SaaS, doğrudan popüler SaaS uygulamalarının iş akışları içinde veri sızıntısı önleme sağlayarak şirketlerin hassas verileri üçüncü taraf AI sistemleri işlerken algılamasına ve düzeltmesine olanak tanır. Bu, hassas bilgilerin chatbot konuşmalarında, belgelerde, bulut depolamada ve diğer SaaS uygulamalarında açığa çıkmasını önler. Nightfall for SaaS tarafından uygulandı Hareketli Mürekkep, Harun’un Ve KlaviyoSaaS ekosistemlerinde müşteri verilerini güvence altına alması gerekenler. Bu şirketler, Nightfall’ın DLP özelliklerinden yerel olarak bu uygulamalar içinde yararlanarak, hassas verileri üzerinde kontrol ve görünürlük sağlarken üçüncü taraf yapay zekadan yararlanabilir.

Bu ürünlerin tümü bugün keşfedilmeyi bekliyor. ChatGPT için Akşam Nightfall AI’nın sunduğu 14 günlük ücretsiz deneme sürümünün bir parçası olarak Google Chrome mağazasında mevcuttur.

Üretken yapay zekanın üretkenlik kazanımlarının geleceğini güvence altına almak

Cohen, VentureBeat’e gen yapay zekanın üretkenliğinin, Genesys’in müşterileri için mükemmelleşmeye devam etmesini sağlamanın ayrılmaz bir parçası olduğunu söyledi. “Üretken yapay zeka, ekipler genelindeki kuruluşlar için önemli üretkenlik kazanımları sunuyor… ancak Nightfall AI’ye kadar, bu araçları güvenli bir şekilde kullanmamıza izin veren güvenlik ürünleri eksikliği vardı” dedi. Cohen, Genesys’in karşılaştığı bir veri gizliliği sorununu çözmek için DLP çözümlerini aktif olarak araştırırken Nightfall AI’yı buldu. Nightfall’ın veri kurallarının özelleştirilebilirliği, incelediği diğer seçeneklere göre bir avantaj sunuyordu.

CISO’lar, VentureBeat’e GenAI’yi bir araştırma ve üretkenlik platformu olarak benimsemeyle ilgili üç ana endişeleri olduğunu söylüyor. İlk olarak, çalışanların hassas verileri (yazılım kimlik bilgileri veya müşteri PII’si gibi) chatbot istemlerine dahil edeceğinden endişe ediyorlar. İkincisi, çalışanların aşağıdaki gibi SaaS uygulamalarını kullanarak yanlışlıkla gizli şirket verilerini ifşa edebileceğinden endişe ediyorlar. fikir bu kullanım üçüncü şahıs gibi AI alt işlemcileri antropik. Son olarak, üçüncü endişeleri, LLM’lerini oluşturmak ve eğitmek için gizli verileri kullanan mühendisler ve veri bilimcileri etrafında dönüyor. Bu son endişe, kullanıcıların ChatGPT’yi Windows için etkin API anahtarları oluşturması için kandırdı.

Madan, “GenAI, işverenler ve çalışanlar için önemli verimlilik avantajları sunma potansiyeline sahip, ancak eksiksiz bir DLP çözümünün olmaması, AI’nın güvenli bir şekilde benimsenmesini engelliyor” dedi. “Sonuç olarak, birçok kuruluş ya bu araçları tamamen engelledi ya da riski azaltmak için yamalı bir çözüm olarak birden çok güvenlik ürününü kullanmaya başladı.” Bu mücadele nihayetinde Nightfall’ın en son yeniliği olan Nightfall for GenAI’nin yaratılmasına yol açtı.

Frederic Kerrest, kurucu ortak ve başkan yardımcısı Okta, Nightfall’ı övdü ve en son girişimlerini Okta’nın ilk günleriyle karşılaştırdı. “Nightfall’ı kullanırken, tüm bulut uygulamaları için kullanıcı erişimini ve yönetim güvenliğini merkezileştirdiğimiz Okta’daki ilk vizyonumuzla birçok benzerlik gördüm. Nightfall şimdi üretken yapay zeka ve bulutta veri güvenliği için aynı şeyi yapıyor.”

Genesys gibi erken benimseyenler, Nightfall’ın özelleştirilebilir veri kurallarının ve kullanıcıların kendi kendini düzeltmesine yardımcı olan düzeltme içgörülerinin avantajlarını vurguluyor. CISO’lar için platform, veri güvenliğini güvenle sürdürürken yapay zekadan yararlanmak için gereken görünürlüğü ve kontrolü sağlar. Nightfall’ın nesil AI odaklı platformunun kullanılabilirliği, AI’nın potansiyelini gerçekleştirmede önemli bir kilometre taşını işaret ediyor.