CISO’ların üretken yapay zekanın güvenlik zorluklarına hazırlanmalarının 5 yolu

İle üretken yapay zeka ChatGPT gibi araçların kurumlar arasında yaygınlaşmasıyla birlikte CISO’ların çok zor bir denge kurması gerekiyor: Performans kazanımlarına karşı bilinmeyen riskler. Nesil AI teslim ediyor Siber güvenliğe daha fazla hassasiyet ama aynı zamanda yeni saldırı araçlarıyla silah haline getiriliyor FraudGPT gibi yeni nesil saldırganlar için kullanım kolaylığının reklamını yapıyor.

Performansa karşı risk sorusunu çözmek, büyüme için bir katalizör olduğunu kanıtlıyor siber güvenlik harcama. Yapay zeka tabanlı siber güvenlik platformları, sistemleri ve çözümlerinin piyasa değerinin 11,2 milyar dolar 2032 2022’de 1,6 milyar dolardan. Kanallar üretken yapay zekanın daha fazlasını desteklemesini bekliyor 70% Beş yıl içinde işletmelerin siber güvenlik operasyonlarının yüzdesi.

Silahlı yapay zeka kimlik güvenliğinin merkezine saldırıyor

Nesil yapay zeka saldırı stratejileri öncelikle kimliklerin kontrolünü ele geçirmeye odaklanıyor. Gartner’a göre erişim ayrıcalıklarının ve kimliklerinin yönetilmesinde insan hatası neden oldu Güvenlik hatalarının %75’iiki yıl önce %50’ydi. İnsan hatalarını zorlamak için gen yapay zekasını kullanmak, saldırganların hedeflerinden biridir.

VentureBeat ile röportaj yapıldı Michael SentonasBaşkanı CrowdStrikesiber güvenlik liderinin, müşterilerinin mevcut tespit ve yanıt teknolojilerine meydan okuyan yeni, daha ölümcül saldırıların zorluklarını aşmalarına nasıl yardımcı olduğuna dair içgörü kazanmak.

Sentonas şunları söyledi: “Hackleme [demo] oturum [we] yaptım RSA [2023] kimlik ve karmaşıklıkla ilgili bazı zorlukları göstermekti. Uç noktayı kimlikle ve kullanıcının eriştiği verilerle ilişkilendirmemizin nedeni bunun kritik bir sorun olmasıdır. Ve eğer bunu çözebilirseniz, bir kuruluşun sahip olduğu siber sorunun büyük bir kısmını da çözebilirsiniz.”

Siber güvenlik liderleri bu zorlu mücadeleye hazır

Önde gelen siber güvenlik tedarikçileri, DevOps aracılığıyla gen yapay zeka uygulamalarını hızlı bir şekilde beta sürüme geçirme ve geliştirme aşamasındaki birçok modellerini ikiye katlama mücadelesine hazır.

Sırasında Palo Alto Ağları‘ en yeni kazanç çağrısıYönetim Kurulu Başkanı ve CEO’su Nikesh Arora, şirketin genel yapay zekaya verdiği yoğunluğu vurguladı ve şunları söyledi: “Hassas yapay zekanın her ürüne dağıtıldığından emin olmak için ikiye katlıyoruz, dört katına çıkarıyoruz. Müşterilerimize daha iyi güvenlik sağlamak için iyi veri toplamanın baraj kapaklarını açıyoruz çünkü gerçek zamanlı güvenlik elde etmek için bu sorunu bu şekilde çözeceğimizi düşünüyoruz.”

Yapay zeka tabanlı tehditlere karşı dayanıklılığa doğru

CISO’ların ve ekiplerinin onlara karşı savaşı kazanması için Yapay zeka saldırıları ve tehditleri, gen yapay zeka tabanlı uygulamalar, araçlar ve platformlar cephaneliklerinin bir parçası haline gelmeli. Saldırganlar, en zayıf saldırı vektörlerine nüfuz etmek için ticari becerilerini geliştirerek, en uyarlanabilir işletmeleri geride bırakıyor. İhtiyaç duyulan şey, daha fazla siber dayanıklılık ve kendi kendini onaran uç noktalardır.

Mutlak Yazılımlar 2023 Dayanıklılık Dizin bağlantıya uyum trendinde başarılı olmanın ne kadar zor olduğunu ortaya koyuyor. Hedef, güvenlik ile siber dayanıklılığı dengelemektir ve Endeks yararlı bir yol haritası sağlar. Siber dayanıklılık sıfır güvenbir kuruluşun değişen ihtiyaçlarına uyum sağlayan sürekli bir çerçevedir.

VentureBeat’in röportaj yaptığı her CEO ve CISO RSAC 2023 çalışanların ve şirketin sahip olduğu uç nokta cihazlarının en hızlı hareket eden, korunması en zor tehdit yüzeyleri olduğunu söyledi. Yapay zeka tabanlı saldırı riskinin artmasıyla birlikte, işletim sistemlerini ve yapılandırmalarını yeniden oluşturabilen dayanıklı, kendi kendini onaran uç noktalar, uç nokta güvenliğinin geleceğidir.

CISO’ların ve ekiplerinin hazırlanabileceği beş yol

Yapay zeka tabanlı nesil saldırılara hazırlanmanın merkezinde, her izinsiz giriş girişiminden öğrenen yapay zeka ve makine öğrenimi (ML) algoritmalarını kullanarak her ihlal veya izinsiz giriş girişiminin kas hafızasını geniş ölçekte oluşturmak yer alır. CISO’ların ve ekiplerinin yapay zeka tabanlı nesil saldırılara hazırlanmalarının beş yolunu burada bulabilirsiniz.

Tarayıcıda üretken yapay zeka ve ChatGPT oturumlarının güvenliğini sağlama

Gizli verilerin LLM’lere sızması nedeniyle ortaya çıkan güvenlik riskine rağmen, kuruluşların ilgisini gen yapay zeka ve ChatGPT ile üretkenliğin artırılması çekiyor. VentureBeat’in CISO’larla yaptığı röportajlar, bu profesyonellerin tanımlama konusunda ikiye bölündüğünü ortaya koyuyor Yapay zeka yönetişimi. Bu soruna yönelik herhangi bir çözümün işe yaraması için, etkili olabilmesi için tarayıcı, uygulama ve API düzeylerinde erişimi güvence altına alması gerekir.

Birçok yeni girişim ve daha büyük siber güvenlik sağlayıcıları bu alanda çözümler üzerinde çalışıyor. Akşam karanlığı yapay zekası son duyuru Yenilikçi bir güvenlik protokolünün varlığı dikkat çekicidir. Şirketin özelleştirilebilir veri kuralları ve iyileştirme öngörüleri, kullanıcıların kendilerini düzeltmelerine yardımcı olur. Platform, CISO’lara görünürlük ve kontrol sağlıyor, böylece veri güvenliğini sağlarken yapay zekayı da kullanabiliyorlar.

Her zaman yeni saldırı vektörlerini ve uzlaşma türlerini tarar

SOC ekipleri, yapay zekaya atfedilen daha karmaşık sosyal mühendislik, kimlik avı, kötü amaçlı yazılım ve iş e-postası ihlali (BEC) saldırılarını görüyor. Yüksek Lisans ve Yapay Zeka uygulamalarına yönelik saldırılar bugün yeni yeni ortaya çıkıyor olsa da CISO’lar bu riskleri azaltmak için şimdiden sıfır güveni iki katına çıkarıyor.

Bu, ortaya çıkan saldırılara işaret edebilecek anormallikleri tespit etmek için genel yapay zeka trafik kalıplarının sürekli olarak izlenmesini ve analiz edilmesini ve potansiyel güvenlik açıklarını ortaya çıkarmak için geliştirme aşamasındaki sistemleri düzenli olarak test etmeyi ve kırmızı ekip oluşturmayı içerir. Sıfır güven tüm riskleri ortadan kaldıramasa da kuruluşların yeni nesil yapay zeka tehditlerine karşı daha dirençli olmasına yardımcı olabilir.

Mikrosegmentasyondaki boşlukları ve hataları bulma ve kapatma

Yapay zeka kuşağının gelişme potansiyeli mikro segmentasyonbir temel taşı sıfır güvenstartupların yaratıcılığı sayesinde zaten gerçekleşiyor. Neredeyse her mikrosegmentasyon sağlayıcısı DevOps çalışmalarını hızlandırıyor.

Derin AI ve ML uzmanlığına sahip lider satıcılar arasında Akamai, Airgap Networks, AlgoSec, Cisco, ColorTokens, Elisity, Fortinet, Illumio, Microsoft Azure, Onclave Networks, Palo Alto Networks, VMware, Zero Networks ve Zscaler yer alıyor.

Mikrosegmentasyon alanında en yenilikçi girişimlerden biri Airgap Networks’tür. 2023’ün en iyi 20 sıfır güven girişimi. Airgap’in aracısız mikro bölümleme yaklaşımı, her ağ uç noktasının saldırı yüzeyini azaltır ve çözümü herhangi bir cihaz değişikliği, kesinti süresi veya donanım yükseltmesi olmadan mevcut bir ağa entegre ederken kuruluş genelinde her uç noktayı bölümlere ayırmak mümkündür.

Airgap Networks ayrıca kendi tanıtımını da yaptı. Sıfır Güven Güvenlik Duvarı (ZTFW) ile TehditGPTkullanan grafik veritabanları ve SecOps ekiplerinin yeni tehdit öngörüleri kazanmasına yardımcı olacak GPT-3 modelleri. GPT-3 modelleri, doğal dil sorgularını analiz eder ve güvenlik tehditlerini belirler; grafik veritabanları ise uç nokta trafik ilişkilerine ilişkin bağlamsal zeka sağlar.

Airgap CEO’su Ritesh Agrawal, VentureBeat’e şunları söyledi: “Son derece doğru varlık keşfi, aracısız mikro bölümleme ve güvenli erişim ile Airgap, gelişen tehditlerle mücadele etmek için zengin bir zeka sunuyor.” “Müşterilerin şu anda ihtiyacı olan şey, bu gücü herhangi bir programlamaya gerek duymadan kullanmanın kolay bir yoludur. ThreatGPT’nin güzelliği de budur; yapay zekanın saf veri madenciliği zekası, kolay ve doğal bir dil arayüzüyle birleşiyor. Bu, güvenlik ekipleri için oyunun kurallarını değiştirecek bir gelişme.”

Üretken yapay zeka tabanlı tedarik zinciri saldırılarına karşı koruma

Güvenlik genellikle dağıtımdan hemen önce, yazılım geliştirme yaşam döngüsünün (SDLC) sonunda test edilir. Yeni nesil yapay zeka tehditlerinin ortaya çıktığı bir çağda, sürekli test ve doğrulamayla güvenliğin SDLC genelinde yaygın olması gerekiyor. API güvenliği de bir öncelik olmalı ve tüm DevOps işlem hatlarında API testi ve güvenlik izlemesi otomatikleştirilmelidir.

Bu uygulamalar, yeni nesil yapay zeka tehditlerine karşı kusursuz olmasa da bariyeri önemli ölçüde yükseltiyor ve tehditlerin hızlı tespitini sağlıyor. Güvenliği SDLC genelinde entegre etmek ve API savunmalarını iyileştirmek, kuruluşların yapay zeka destekli tehditleri engellemesine yardımcı olacaktır.

Her üretken yapay zeka uygulamasına, platformuna, aracına ve uç noktasına sıfır güven yaklaşımı benimsemek

Yapay zeka araçları, uygulamaları ve platformları ile bunların güvendiği uç noktalarla olan her etkileşimde sıfır güven yaklaşımı, her CISO’nun taktik kitabında bulunması gereken bir şeydir. Kullanıcıların, cihazların ve hem kullanımda hem de aktarım halindeyken, en az ayrıcalıklı erişimi ve her zaman açık doğrulamayı uygulamak için gereken ayrıntılı görünürlüğü sağlamak için sürekli izleme ve dinamik erişim kontrolleri mevcut olmalıdır.

CISO’lar en çok, gen yapay zekasının, korunmaya hazır olmadıkları yeni saldırı vektörlerini nasıl getireceği konusunda endişeli. İşletmeler için yüksek lisans eğitimleri için sorgu saldırılarına, hızlı enjeksiyonlara, model manipülasyonuna ve veri zehirlenmesine karşı koruma yüksek önceliklerdir.

Cinlere hazırlıkSıfır güven ile canlı yapay zeka saldırıları

CISO’lar, CIO’lar ve ekipleri bugün zorlu bir sorunla karşı karşıyadır. ChatGPT gibi gen yapay zeka araçları, daha fazla üretkenlik sağlamak için kuruluşlarında serbestçe hareket edebiliyor mu, yoksa dizginlenip kontrol ediliyor mu ve eğer öyleyse, ne kadar? Samsung’un IP’yi korumadaki başarısızlığı birçok yönetim kurulu üyesinin hafızasında hala tazedir.

Yönetim kurulu düzeyinden SOC ekiplerine kadar herkesin hemfikir olduğu şey, yapay zeka tabanlı saldırıların artmasıdır. Ancak hiçbir yönetim kurulu, özellikle enflasyon ve artan faiz oranları göz önüne alındığında, sermaye gideri bütçelemeye geçmek istemiyor. Birçoğunun vardığı cevap sıfır güven girişimlerinin hızlandırılmasıdır. Etkili bir sıfır güven çerçevesi, nesil yapay zeka saldırılarını tamamen durdurmasa da, patlama yarıçaplarının azaltılmasına ve kimliklerin ve ayrıcalıklı erişim bilgilerinin korunmasında ilk savunma hattının oluşturulmasına yardımcı olabilir.