Yapay zekanın kendi kendini düzenlemesi neden akıllıca bir iş hamlesidir?

ChatGPT ve diğer metin ve görüntü üreten sohbet robotları, milyonlarca insanın hayal gücünü cezbetti; ancak bu, tartışmalara da yol açtı. Belirsizliklere rağmen işletmeler, ister en son gelişmelerle oynasınlar, isterlerse zaten oyunun içindeler. üretken yapay zeka sohbet robotları veya kuruluşlarında yapay zeka odaklı süreçlerin dağıtılması.

Bu nedenle işletmelerin yapay zekanın öngörülemezliğine ilişkin artan endişelerin yanı sıra son kullanıcılara yönelik daha öngörülebilir ve potansiyel olarak zararlı etkilerine de yanıt vermesi çok önemlidir. Bunu yapmamak yapay zekanın ilerlemesini ve vaadini baltalayacaktır. Hükümetler yapay zekanın etik kullanımına yönelik kurallar oluşturmak için harekete geçse de iş dünyasının beklemeye tahammülü yok.

Firmaların kendi korkuluklarını kurmaları gerekiyor. Teknoloji çok hızlı ilerliyor – şaşırtıcı olmayan bir şekilde yapay zeka düzenlemelerinden çok daha hızlı – ve iş riskleri çok büyük. İlerledikçe öğrenmek cazip gelebilir, ancak maliyetli bir hata yapma potansiyeli, geçici bir yaklaşıma karşı çıkıyor.

Güven kazanmak için kendi kendini düzenleme

İşletmelerin yapay zeka çabalarını kendi kendine düzenlemesinin birçok nedeni vardır; bunların arasında kurumsal değerler ve organizasyonel hazırlık vardır. Ancak risk yönetimi listenin başında yer alabilir. Herhangi bir yanlış adım müşteri gizliliğini, müşteri güvenini ve kurumsal itibarı zedeleyebilir.

Neyse ki işletmelerin yapay zeka uygulamalarına ve süreçlerine güven oluşturmak için yapabileceği çok şey var. Yapay zekanın düşünceli gelişimini ve kullanımını kolaylaştıran temel teknolojilerin doğru seçilmesi cevabın bir parçasıdır. Aynı derecede önemli olan, bu çözümleri geliştiren ekiplerin riskleri nasıl öngörecekleri ve azaltacakları konusunda eğitilmesini sağlamaktır.

Başarı aynı zamanda iyi düşünülmeye de bağlı olacaktır Yapay zeka yönetişimi. İş dünyası ve teknoloji liderleri, kullanılan veri kümeleri ve dil modelleri, risk değerlendirmeleri, onaylar, denetim izleri ve daha fazlası hakkında görünürlüğe ve gözetime sahip olmalıdır. Verileri hazırlayan mühendislerden modelleri oluşturan veri bilimcilerine kadar veri ekipleri, yolun her adımında yapay zeka önyargısını izleme konusunda dikkatli olmalı ve bunun süreçlerde ve sonuçlarda sürdürülmesine izin vermemelidir.

Risk yönetimi şimdi başlamalı

Kuruluşların sonuçta bu önlemlerin bazılarını benimsemekten başka çok az seçeneği olabilir. Şu anda taslak haline getirilen mevzuat, sonunda yapay zekanın tüketicilere adil davranmasını sağlamak için kontrol ve dengeyi zorunlu kılabilir. Şu ana kadar kapsamlı yapay zeka düzenlemesi henüz kanunlaştırılmadı, ancak bunun gerçekleşmesi sadece an meselesi.

Bugüne kadar ABD’de Beyaz Saray, algoritmik ayrımcılığa karşı koruma ve otomatik süreçlerin dışında kalma yeteneği de dahil olmak üzere yapay zekanın geliştirilmesine ve kullanımına rehberlik edecek ilkeleri ortaya koyan bir “Yapay Zeka Hakları Bildirgesi Taslağı” yayınladı. Bu arada federal kurumlar, FTC Yasası ve Eşit Kredi Fırsatı Yasası gibi mevcut düzenlemelerde bulunan gereklilikleri, halk için yapay zeka savunmasının ilk hattı olarak açıklığa kavuşturuyor.

Ancak akıllı şirketler, kapsamlı hükümet kurallarının hayata geçmesini beklemeyecek. Risk yönetimi şimdi başlamalı.

Yapay zeka düzenlemesi: Güveni artırırken riski azaltın

Şu varsayımı düşünün: Sıkıntılı bir kişi, bir sağlık kliniğinin chatbot destekli destek merkezine bir soru gönderir. Kullanıcı “Üzgün ​​hissediyorum” diyor. “Ne yapmalıyım?”

Bu potansiyel olarak hassas bir durum ve yapay zekanın gerekli özeni göstermeden sorunların ne kadar çabuk ortaya çıkabileceğini gösteren bir durum. Diyelim ki kişi kişisel bir krizin ortasındaysa ne olur? Chatbot’un istenen incelikli yanıtı sağlayamaması veya daha kötüsü, zararlı olabilecek bir eylem planı önermesi durumunda sağlık hizmeti sağlayıcısı potansiyel bir sorumlulukla karşı karşıya mı kalacak? Senaryosu zor ve riskli benzer senaryolar her sektörde ortaya çıkabilir.

Bu, farkındalık ve risk yönetiminin neden bazı düzenleyici ve düzenleyici olmayan çerçevelerin odak noktası olduğunu açıklamaktadır. Avrupa Birliği’nin önerilen Yapay Zeka Yasası, yüksek riskli ve kabul edilemez riskli kullanım durumlarını ele almaktadır. ABD’de Ulusal Standartlar ve Teknoloji Enstitüsü’nün Risk Yönetimi Çerçevesi, bireylere ve kuruluşlara yönelik riski en aza indirmeyi ve aynı zamanda “yapay zeka sistemlerinin güvenilirliğini” artırmayı amaçlamaktadır.

Yapay zekanın güvenilirliği nasıl belirlenir?

Yapay zekanın güvenilir olup olmadığına nasıl karar veriliyor? Avrupa Komisyonu’nun Güvenilir Yapay Zeka Yönergeleri, AB’nin Yapay Zeka Taslağı Yasası, Birleşik Krallık’ın Yapay Zeka Güvencesi Yol Haritası ve Yapay Zeka Düzenlemesine ilişkin son Beyaz Kitabı veya Singapur’un Yapay Zeka Doğrulaması gibi farklı bağlamlarda çeşitli metodolojiler ortaya çıkıyor.

AI Verify, “şeffaflık yoluyla güven oluşturmayı” amaçlıyor. Organizasyon Ekonomik İşbirliği ve Kalkınma için. Bunu yapay zeka sistemlerinin kabul edilen ilkelere uymasını sağlayacak bir çerçeve sağlayarak yapar. Yapay zeka etiği. Bu, yaygın olarak paylaşılan bir temanın bir varyasyonudur: Yapay zekanızı geliştirmeden dağıtıma kadar yönetin.

Ancak, hükümetin çeşitli çabaları ne kadar iyi niyetli olursa olsun, işletmelerin mevzuatı beklemek yerine kendi risk yönetimi kurallarını oluşturmaları hala hayati önem taşıyor. Kurumsal yapay zeka stratejileri, güvenli, adil, güvenilir ve şeffaf bazı ortak ilkelerin uygulamaya dahil edilmesi durumunda en büyük başarı şansına sahip olur. Bu ilkelerin eyleme geçirilebilir olması gerekir; bu da onları yapay zeka ardışık düzenlerine sistematik olarak yerleştirecek araçlar gerektirir.

İnsanlar, süreçler ve platformlar

Bunun iyi tarafı, ilaç keşfi, sigorta hasar tahmini ve tahmine dayalı bakım gibi alanlarda zaten gördüğümüz gibi, yapay zeka destekli iş inovasyonunun rekabette gerçek bir farklılaştırıcı olabileceğidir. Ancak ilerlemeler risksiz olmuyor; bu nedenle kapsamlı yönetişimin yapay zeka geliştirme ve dağıtımıyla el ele gitmesi gerekiyor.

Giderek artan sayıda kuruluş, insanları, süreçleri ve platformları dikkate alarak ilk adımlarını planlıyor. Departmanlar arasında temsil edilen yapay zeka eylem ekipleri oluşturuyorlar, veri mimarisini değerlendiriyorlar ve nasıl yapılacağını tartışıyorlar veri bilimi uyum sağlamalıdır.

Proje liderleri tüm bunları nasıl yönetiyor? Bazıları, paydaşları koordine etmek için e-postalar ve video görüşmelerinden ve ilerlemeyi belgelemek ve günlüğe kaydetmek için e-tablolardan biraz daha fazlasıyla başlar. Bu küçük ölçekte işe yarar. Ancak kurumsal çaptaki yapay zeka girişimleri daha da ileri gitmeli ve hangi kararların neden verildiğinin yanı sıra, bir projenin yaşam döngüsü boyunca modellerin performansına ilişkin ayrıntıları da yakalamalıdır.

Sağlam yönetişim en emin yol

Kısacası, özyönetişimin değeri, bir yandan süreçlerin belgelenmesinden, diğer yandan da geliştirildikçe ve uygulama noktasında modeller hakkındaki temel bilgilerden kaynaklanır. Bu, toplamda mevcut ve gelecekteki uyumluluk için eksiksiz bir tablo sağlar.

Bu tür bir yönetişim altyapısının mümkün kıldığı denetim izleri, “Yapay zeka açıklanabilirliği.” Bu, yalnızca açıklanabilirlik için gereken teknik yetenekleri değil, aynı zamanda sosyal değerlendirmeyi de (bir kuruluşun yapay zeka modeli ve uygulaması için bir gerekçe sağlama yeteneği) içerir.

Tüm bunların özeti, sağlam yönetişimin başarılı yapay zeka girişimlerine (müşteri güvenini artıran, riski azaltan ve iş inovasyonunu teşvik eden girişimlere) giden en emin yol olduğudur. Tavsiyem: Hükümet kural ve düzenlemelerinin mürekkebinin kurumasını beklemeyin. Teknoloji politikadan daha hızlı ilerliyor.

Jacob Beswick, Yapay Zeka Yönetişim Çözümleri Direktörüdür. Dataiku.