OT’de AI: Bilmeniz gereken fırsatlar ve riskler

Yapay zeka (AI), özellikle üretken AI uygulamaları gibi ChatGPT ve Bard, Kasım 2022’den itibaren yaygın olarak kullanıma sunulduklarından beri haber döngüsüne hakim oldular. GPT (Önceden Eğitilmiş Üretken Dönüştürücü), genellikle büyük hacimli metin verileri üzerinde eğitilmiş metin oluşturmak için kullanılır.

Kuşkusuz etkileyici olan gen AI, nasıl kullanılabileceği veya kötüye kullanılabileceği konusunda meşru etik ve pratik endişeleri dile getirirken yeni şarkılar besteledi, resimler oluşturdu ve e-postalar hazırladı (ve çok daha fazlasını). Ancak, kavramı tanıttığınızda gen yapay zeka içine operasyonel teknoloji (OT) uzay, potansiyel etkiler, en iyi nasıl test edileceği ve nasıl etkili ve güvenli bir şekilde kullanılabileceği hakkında önemli soruları gündeme getirir.

OT’de yapay zekanın etkisi, testi ve güvenilirliği

OT dünyasında, operasyonlar tamamen tekrar ve tutarlılıkla ilgilidir. Amaç, herhangi bir durumun sonucunu tahmin edebilmeniz için aynı girdi ve çıktılara sahip olmaktır. Öngörülemeyen bir şey olduğunda, masanın arkasında her zaman, özellikle kritik altyapı ortamlarında, olası sonuçlara göre hızla karar vermeye hazır bir insan operatör vardır.

Bilgi teknolojisinde (BT), veri kaybı gibi sonuçlar genellikle çok daha azdır. Öte yandan, OT’de, bir petrol rafinerisi tutuşursa, potansiyel yaşam maliyeti, çevre üzerindeki olumsuz etkiler, önemli sorumluluk endişeleri ve ayrıca uzun vadeli marka hasarı söz konusudur. Bu, kriz zamanlarında hızlı ve doğru kararlar almanın önemini vurgulamaktadır. Ve sonuçta, bir hatanın sonuçları çok büyük olduğundan, yalnızca yapay zekaya veya diğer araçlara güvenmenin OT operasyonları için mükemmel olmamasının nedeni budur.

AI teknolojileri, kararlar oluşturmak ve uygun yanıtlar sağlamak için mantık oluşturmak için çok fazla veri kullanır. OT’de, AI doğru kararı vermezse, olası olumsuz etkiler ciddi ve geniş kapsamlı olurken, sorumluluk açık bir soru olarak kalır.

Birincisi, Microsoft, bunun için bir plan önerdi. yapay zekanın kamu yönetişimi mevcut ve ortaya çıkan sorunları kamu politikası, yasa ve yönetmelikler aracılığıyla ele almak, AI Risk Yönetimi Çerçevesi yakın zamanda ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından başlatıldı. Plan, toplum yeni yetenekler ortaya çıktıkça yapay zekayı uygun şekilde nasıl kontrol edeceğini belirlemeye çalışırken kritik altyapıyı kontrol eden yapay zeka sistemleri için hükümet liderliğindeki yapay zeka güvenlik çerçevelerini ve güvenlik frenlerini gerektiriyor.

Elevate kırmızı takım ve mavi takım egzersizleri

“Kırmızı ekip” ve “mavi ekip” kavramları, bir sistemin veya ağın güvenliğini test etmeye ve geliştirmeye yönelik farklı yaklaşımları ifade eder. Terimler askeri tatbikatlardan kaynaklandı ve o zamandan beri siber güvenlik topluluğu tarafından benimsendi.

OT sistemlerini daha güvenli hale getirmek için kırmızı ekip ve mavi ekip işbirliği içinde ancak farklı bakış açılarından çalışır: Kırmızı ekip güvenlik açıklarını bulmaya çalışırken mavi ekip bu güvenlik açıklarına karşı savunmaya odaklanır. Amaç, kırmızı takımın gerçek dünyadaki saldırganları taklit ettiği ve mavi takımın tatbikattan elde edilen içgörülere dayanarak yanıt verdiği ve savunmalarını geliştirdiği gerçekçi bir senaryo yaratmaktır.

Siber ekipler, yapay zekayı siber saldırıları simüle etmek ve sistemin her ikisinin de olabileceği yolları test etmek için kullanabilir. saldırıya uğradı ve savundu. Kırmızı takım mavi takım tatbikatında yapay zeka teknolojisinden yararlanmak, vasıflı işgücü eksikliğinin veya pahalı kaynaklar için bütçe eksikliğinin olabileceği beceri açığını kapatmak ve hatta iyi eğitimli ve kadrolu ekiplere yeni bir meydan okuma sağlamak için inanılmaz derecede yardımcı olacaktır. . AI, saldırı vektörlerini belirlemeye ve hatta önceki değerlendirmelerde bulunmamış olabilecek güvenlik açıklarını vurgulamaya yardımcı olabilir.

Bu tür bir alıştırma, kontrol sistemini veya diğer ödül varlıklarını tehlikeye atabilecek çeşitli yolları vurgulayacaktır. Ek olarak, AI, kırmızı bir takımın müdahaleci bir saldırı planını durdurmanın çeşitli yollarını sağlamak için defansif olarak kullanılabilir. Bu, üretim sistemlerini savunmanın ve bir bütün olarak sistemlerin genel güvenliğini iyileştirmenin yeni yollarına ışık tutabilir, sonuçta genel savunmayı geliştirebilir ve kritik altyapıyı korumak için uygun müdahale planları oluşturabilir.

Dijital ikizler için potansiyel + yapay zeka

Birçok gelişmiş kuruluş, OT ortamlarının dijital bir kopyasını, örneğin bir petrol rafinerisinin veya elektrik santralinin sanal bir sürümünü zaten oluşturmuştur. Bu replikalar, ortamlarına uyması için şirketin kapsamlı veri kümesi üzerine kuruludur. Kontrol edilen ve kapatılan izole bir dijital ikiz ortamında, stres testi yapmak veya farklı teknolojileri optimize etmek için yapay zekayı kullanabilirsiniz.

Bu ortam, bir şeyi değiştirdiğinizde, örneğin yeni bir sistem denediğinizde veya farklı boyutta bir boru taktığınızda ne olacağını görmenin güvenli bir yolunu sağlar. Dijital ikiz, operatörlerin teknolojiyi bir üretim operasyonunda uygulamadan önce test etmelerine ve doğrulamalarına olanak tanır. Yapay zekayı kullanarak, verimi artırmanın veya gerekli kesinti sürelerini en aza indirmenin yollarını aramak için kendi ortamınızı ve bilgilerinizi kullanabilirsiniz. Üzerinde siber güvenlik tarafıdaha fazla potansiyel fayda sunar.

Bununla birlikte, gerçek dünyadaki bir üretim ortamında, gerçek dünyada etkilere neden olabilecek bir şey üzerinde erişim veya kontrol sağlamanın inanılmaz derecede büyük riskleri vardır. Bu noktada, bu değişiklikleri gerçek dünyada uygulamadan önce dijital ikizde ne kadar testin yeterli olduğunu görmek için kalır.

Test sonuçları tamamen doğru değilse olumsuz etkiler, sektöre bağlı olarak elektrik kesintilerini, ciddi çevresel etkileri ve hatta daha kötü sonuçları içerebilir. Bu nedenlerden dolayı, AI teknolojisinin OT dünyasına uyarlanması muhtemelen yavaş ve temkinli olacak ve uzun vadeli AI yönetişim planlarının şekillenmesi ve risk yönetimi çerçevelerinin uygulamaya konması için zaman sağlayacaktır.

SOC yeteneklerini geliştirin ve operatörler için gürültüyü en aza indirin

Yapay Zeka, bir güvenlik operasyonları merkezi (SOC) ortamında OT işletmelerinin güvenliğini ve büyümesini desteklemek için üretim ekipmanlarından ve süreçlerden uzakta güvenli bir şekilde de kullanılabilir. Kuruluşlar, anormallikleri gözden geçirmek ve çeşitli OT sistemlerinden kural kümelerini yorumlamak için neredeyse bir SOC analisti gibi hareket etmek için AI araçlarından yararlanabilir.

Bu, yine OT’deki beceri açığını kapatmak için ortaya çıkan teknolojilerin kullanılmasına geri dönüyor ve siber güvenlik. Yapay zeka araçları ayrıca alarm yönetimindeki gürültüyü en aza indirmek veya tavsiye edilen eylemlerle varlık görünürlüğü araçlarında veya risk puanlamasına ve kural yapılarına dayalı olarak verileri gözden geçirmek için kullanılabilir.

AI ve OT için sırada ne var?

Yapay zeka, BT tarafında hızla benimseniyor. Bu benimseme, OT’yi de etkileyebilir, çünkü bu iki ortam giderek daha fazla birleşmeye devam ediyor. BT tarafındaki bir olayın OT sonuçları olabilir, çünkü Sömürge boru hattı bir fidye yazılımı saldırısı boru hattı operasyonlarının durmasıyla sonuçlandığında gösterildi. Bu nedenle BT’de yapay zekanın artan kullanımı, OT ortamları için endişeye neden olabilir.

İlk adım, kullanılabilirliğin tehlikeye atılmamasını sağlamak için benimsemeyi daha düşük etkili alanlarla sınırlandırarak yapay zeka için kontroller ve dengeler oluşturmaktır. Bir OT laboratuvarına sahip kuruluşlar, yapay zekayı daha geniş internete bağlı olmayan bir ortamda kapsamlı bir şekilde test etmelidir.

Dış iletişime izin vermeyen hava boşluklu sistemler gibi, yapay zeka ve diğer yapay zeka teknolojilerinin hassas bilgileri ve ortamları, insanları ortaya koymadan sunabileceği yeteneklerden güvenli bir şekilde yararlanmak için ortam içinde korumalı ve güvenli kalan dahili veriler üzerine inşa edilmiş kapalı yapay zekaya ihtiyacımız var. veya risk altındaki daha geniş çevre.

Geleceğin tadı – bugün

Yapay zekanın sistemlerimizi, güvenliğimizi ve verimliliğimizi iyileştirme potansiyeli neredeyse sonsuzdur, ancak bu ilginç dönemde güvenlik ve güvenilirliğe öncelik vermemiz gerekiyor. Bütün bunlar, bugün yapay zekanın ve makine öğreniminin (ML) faydalarını görmediğimiz anlamına gelmiyor.

Bu nedenle, bir endüstri olarak yapay zeka ve makine öğreniminin OT ortamında sunduğu risklerin farkında olmamız gerekse de, denkleme her yeni teknoloji türü eklendiğinde yaptığımız şeyi yapmalıyız: Bundan nasıl güvenli bir şekilde yararlanılacağını öğrenin. faydaları için.

Matt Wiseman, şirketinde kıdemli ürün müdürüdür. OPSWAT.