Düzenleyiciler sert konuştukça yapay zeka önyargısıyla mücadele etmek hiç bu kadar acil olmamıştı

ChatGPT gibi güçlü üretken yapay zeka araçlarının yükselişi, bu neslin “iPhone anı.” Mart ayında, ziyaretçilerin ChatGPT’yi denemesine olanak tanıyan OpenAI web sitesine erişildiği bildirildi. 847 milyon tekil aylık ziyaretçi. Bu popülerlik patlamasının ortasında, birçok ülkenin tüketicileri korumak için hızla harekete geçmesiyle, yapay zeka nesline yönelik inceleme düzeyi hızla arttı.

Nisan ayında İtalya, bunu yapan ilk Batılı ülke oldu. engellemek ChatGPT gizlilik gerekçesiyle, ancak dört hafta sonra yasağı tersine çevirmek için. Diğer G7 ülkeleri ise koordineli bir yaklaşım göz önünde bulundurularak düzenlemeye.

İngiltere ev sahipliği yapacak ilk küresel yapay zeka düzenleme zirvesi Sonbaharda Başbakan Rishi Sunak, ülkenin yapay zekaya karşı “korkuluklar” oluşturmasını teşvik edebileceğini umuyordu. Onun belirtilen amaç Yapay zekanın “güvenli ve sorumlu bir şekilde geliştirilmesini ve benimsenmesini” sağlamaktır.

Düzenleme şüphesiz iyi niyetlidir. Açıkçası pek çok ülke yapay zeka genlerinin oluşturduğu risklerin farkında. Ancak tüm bu güvenlik konuşmaları muhtemelen daha derin bir sorunu maskeliyor: Yapay zeka önyargısı.

Önyargıyı kırmak

‘Yapay zeka önyargısı’ terimi kulağa belirsiz gelse de tanımlanması kolaydır. “Algoritma yanlılığı” olarak da bilinen yapay zeka yanlılığı, insan önyargılarının yapay zeka modellerinin eğitildiği veri setlerine sızmasıyla ortaya çıkar. Bu veriler ve sonraki yapay zeka modelleri, her türlü örnekleme yanlılığını, doğrulama yanlılığını ve insan önyargılarını (örneğin cinsiyet, yaş, milliyet, ırka karşı) yansıtır ve yapay zeka teknolojisinden elde edilen herhangi bir çıktının bağımsızlığını ve doğruluğunu gölgeler.

Yapay zeka nesli daha karmaşık hale geldikçe ve toplumu daha önce olmadığı şekilde etkiledikçe, yapay zeka önyargısıyla mücadele etmek her zamankinden daha acil hale geldi. Bu teknoloji giderek daha fazla kullanılıyor yüz tanıma, kredi puanlama ve suç riski değerlendirmesi gibi görevleri bilgilendirmek. Açıkça görülüyor ki, bu tür hassas sonuçlar söz konusu olduğunda doğruluk çok önemlidir.

Yapay zeka yanlılığının örnekleri halihazırda birçok durumda gözlemlenmiştir. Sanat eseri yaratmak için kullanılan derin öğrenme modeli OpenAI’nin Dall-E 2’si piyasaya sürüldüğünde bir resim oluşturması istendi Fortune 500’deki bir teknoloji kurucusunun fotoğrafları çoğunlukla beyaz ve erkekti. Tanınmış Blues şarkıcısı Bessie Smith’in gospel şarkıcısı Mahalia Jackson’ı etkileyip etkilemediği sorulduğunda ChatGPT soruyu yanıtlayamadı. başka uyarılar olmadanpopüler kültürde farklı ırklardan insanlar hakkındaki bilgisine ilişkin şüpheleri artırıyor.

A çalışmak 2021’de ipotek kredileriyle ilgili yapılan bir araştırma, onayı veya reddi belirlemek için tasarlanan yapay zeka modellerinin, azınlık başvuru sahiplerine krediler için güvenilir öneriler sunmadığını keşfetti. Bu örnekler, AI önyargısının ırk ve cinsiyeti yanlış temsil edebileceğini ve bunun kullanıcılar için ciddi sonuçlar doğurabileceğini kanıtlıyor.

Verileri özenle işlemek

Saldırgan sonuçlar üreten yapay zeka, yapay zekanın öğrenme şekline ve üzerine inşa edildiği veri kümesine bağlanabilir. Veriler belirli bir popülasyonu gereğinden fazla veya az temsil ediyorsa yapay zeka bu önyargıyı tekrarlayacak ve daha da önyargılı veriler üretecektir.

Bu nedenle hükümetler tarafından uygulanan herhangi bir düzenlemenin yapay zekayı doğası gereği tehlikeli olarak görmemesi önemlidir. Aksine, sahip olduğu herhangi bir tehlike büyük ölçüde üzerinde eğitim aldığı verinin bir fonksiyonudur. İşletmeler bundan yararlanmak istiyorsa Yapay zekanın potansiyeliüzerinde eğitim aldıkları verilerin güvenilir ve kapsayıcı olmasını sağlamalıdırlar.

Bunu yapmak için, bir kuruluşun verilerine hem iç hem de dış tüm paydaşların daha fazla erişimi bir öncelik olmalıdır. Modern veritabanları, hem yapılandırılmış hem de yarı yapılandırılmış çok miktarda kullanıcı verisini yönetme becerisine sahip oldukları ve herhangi bir önyargı tespit edildiğinde verileri hızlı bir şekilde keşfetme, tepki verme, düzeltme ve yeniden modelleme yeteneklerine sahip oldukları için burada büyük bir rol oynamaktadır. Büyük veri kümeleri üzerindeki bu daha fazla görünürlük ve yönetilebilirlik, önyargılı verilerin fark edilmeden sızma riskinin daha az olduğu anlamına gelir.

Daha iyi veri iyileştirme

Ayrıca kuruluşlar, veri toplama ve temizlemeye yönelik en iyi uygulamaları uygularken verileri daha iyi seçebilmeleri için veri bilimcilerini eğitmelidir. Bunu bir adım daha ileri götürerek, daha çeşitli insan gruplarının örnekleme yapmasını ve doğal önyargılara işaret edebilmesini sağlamak için veri eğitim algoritmaları mümkün olduğunca çok sayıda veri bilimcisine ‘açık’ ve erişilebilir hale getirilmelidir. Aynı şekilde, modern yazılımlar genellikle “açık kaynaktır” ve uygun veriler de öyle olmalıdır.

Kuruluşların sürekli tetikte olmaları ve bunun bir ürün veya hizmetin üretimine geçmeden önce tamamlanması gereken tek seferlik bir eylem olmadığının bilincinde olmaları gerekir. Devam eden meydan okuma Yapay zeka önyargısı İşletmelere, genel en iyi uygulamaları sağlamak için diğer endüstrilerde kullanılan teknikleri birleştirmeleri çağrısında bulunuyor.

Yiyecek ve içecek endüstrisinden alınan “kör tatma” testleri, siber güvenlik dünyasından kırmızı takım/mavi takım taktikleri veya nükleer enerjide kullanılan izlenebilirlik kavramının tümü, kuruluşlara yapay zeka önyargısıyla mücadelede değerli çerçeveler sağlayabilir. Bu çalışma işletmelerin konuyu anlamalarına yardımcı olacaktır. Yapay zeka modellerigelecekteki olası sonuçları değerlendirin ve bu karmaşık ve gelişen sistemlere yeterli güveni kazanın.

Yapay zekayı düzenlemek için doğru zaman mı?

Önceki yıllarda, ‘Yapay Zekanın düzenlenmesi’ hakkındaki konuşmalar muhtemelen arabayı atın önüne koyuyordu. Toplum üzerindeki etkisi belirsiz olan bir şeyi nasıl düzenleyebilirsiniz? Bir asır önce hiç kimse sigara içmeye düzenleme getirmeyi hayal etmiyordu çünkü tehlikeli olduğu bilinmiyordu. Aynı şekilde yapay zeka da ciddi bir düzenleme tehdidi altında olan bir şey değildi; onun tehlikesine ilişkin herhangi bir algı, bilim kurgu filmleri gerçeklikte hiçbir temeli olmayan.

Ancak yapay zeka ve ChatGPT’deki ilerlemelerin yanı sıra yapay genel zekaya (AGI) yönelik ilerlemeler tüm bunları değiştirdi. Bazı ulusal hükümetler yapay zekayı düzenlemek için birlikte çalışıyor gibi görünürken, paradoksal olarak diğerleri yapay zekanın baş düzenleyicileri olarak pozisyon almak için yarışıyor.

Bu kargaşanın ortasında, yapay zeka önyargısının aşırı derecede politize edilmemesi ve bunun yerine politik çizgileri aşan toplumsal bir sorun olarak görülmesi çok önemli. Dünyanın her yerinde hükümetlerin (veri bilimcilerin, işletmelerin ve akademisyenlerin yanı sıra) bu sorunla mücadele etmek için birleşmeleri gerekiyor.

Ravi Mayuram CTO’dur Kanepe tabanı.