‘Üretici akrabalı yetiştirme’ ve bunun insan kültürüne yönelik riski

Akrabalı yetiştirme, bir popülasyonun üyelerinin genetik olarak birbirine çok benzeyen diğer üyelerle üremesi durumunda genomik bozulmayı ifade eder. Bu genellikle önemli sağlık sorunlarına ve diğer deformasyonlara sahip yavrulara yol açar çünkü resesif genlerin ifadesini güçlendirir. Akraba evliliği yaygınlaştığında – modern hayvancılıkta olduğu gibi – tüm gen havuzu zamanla bozulabilir ve popülasyonun çeşitliliği giderek azaldıkça deformasyonlar daha da artabilir.

dünyasında üretken yapay zekaYapay zeka sistemlerinin uzun vadeli etkinliğini ve insan kültürünün çeşitliliğini potansiyel olarak tehdit eden benzer bir sorun mevcut. Evrimsel bir perspektiften bakıldığında, birinci nesil büyük dil modelleri (LLM’ler) ve diğer nesil yapay zeka sistemleri, kültürel duyarlılıklarımızın özünü temsil etmek için çok büyük miktarlarda metin, görsel ve işitsel içerik kullanılarak, insan yapımı nispeten temiz bir “gen havuzu” üzerinde eğitildi. .

Ancak internet, yapay zeka tarafından üretilen eserlerle dolup taştıkça, yeni yapay zeka sistemlerinin büyük miktarlarda yapay zeka tarafından oluşturulan içerik içeren veri kümeleri üzerinde eğitim alması yönünde önemli bir risk var. Bu içerik doğrudan insan kültürü değil, insan kültürünü taklit etti değişen seviyelerde bozulma ile, dolayısıyla akrabalı yetiştirme yoluyla “gen havuzu” bozulur. Ve gen yapay zeka sistemlerinin kullanımı arttıkça bu sorun daha da hızlanacak. Sonuçta, insan kültürünün kopyaları üzerinde eğitilen daha yeni yapay zeka sistemleri, dünyayı giderek daha fazla çarpıtılmış eserlerle dolduracak ve yeni nesil yapay zeka sistemlerinin insan kültürünün kopyaları üzerinde eğitim almasına neden olacak ve bu böyle devam edecek.

Gen yapay zeka sistemlerini aşağılıyor, insan kültürünü bozuyor

Ortaya çıkan bu soruna “Üretici Akrabalı Yetiştirme” adını veriyorum ve iki rahatsız edici sonuçtan endişeleniyorum. Birincisi, akraba evliliğinin insan dilini, kültürünü ve eserlerini doğru bir şekilde temsil etme yeteneklerini azalttığı için gen yapay zeka sistemlerinin potansiyel olarak bozulması söz konusudur. İkincisi, aslında kolektif hassasiyetlerimizi temsil etmeyen kültürel gen havuzumuza giderek daha fazla “deformiteler” katan doğuştan yapay zeka sistemleri tarafından insan kültürünün çarpıtılması var.

İlk konuda, son araştırmalar, üretken akraba çiftleştirmenin yapay zeka sistemlerini bozabileceğini ve bunların zamanla daha kötü eserler üretmesine neden olabileceğini, örneğin bir fotokopinin fotokopisinin fotokopisini çekebileceğini öne sürüyor. Buna bazen “veri zehirlenmesi” nedeniyle “model çökmesi” adı verilir ve son araştırmalar şunu gösteriyor Temel modellerin bu yinelenen tehlikeye karşı önceden inanıldığından çok daha duyarlı olduğu ortaya çıktı. Bir diğer yeni araştırma bulundu Bir eğitim setinde yapay zeka tarafından oluşturulan veriler arttıkça, üretken modellerin kalitelerinin giderek düşmesine “mahkum” hale geldiği görülüyor.

İkinci meselede – insan kültürünün çarpıtılması – üretken akraba evliliği, kültürümüz insan yaratıcılardan ziyade yapay zeka sistemlerinden daha fazla etkilenene kadar kolektif eserlerimizde giderek daha büyük “deformiteler” ortaya çıkarabilir. Ve yakın tarihli bir ABD federal mahkemesi kararı, yapay zeka tarafından oluşturulan içeriğin telif hakkıyla korunamazYapay zeka eserlerinin insan içeriğinden daha yaygın olarak kullanılmasının, kopyalanmasının ve paylaşılmasının yasal kısıtlamalarla önünü açıyor.

Bu, eserlerinin telif hakkıyla korunan sanatçıların, yazarların, bestecilerin, fotoğrafçıların ve kameramanların yakın zamanda kolektif kültürümüzün yönü üzerinde yapay zeka tarafından üretilen içeriğe göre daha az etkiye sahip olabileceği anlamına gelebilir.

Yapay zeka içeriğini insan içeriğinden ayırma

Akrabalı yetiştirmeye yönelik potansiyel bir çözüm, üretken içeriği insan içeriğinden ayırmak için tasarlanmış yapay zeka sistemlerinin kullanılmasıdır. Pek çok araştırmacı bunun kolay bir çözüm olacağını düşünüyordu ancak göründüğünden çok daha zor olduğu ortaya çıktı.

Örneğin, bu yılın başlarında OpenAI, yapay zeka tarafından oluşturulan metni insan metninden ayırt etmek için tasarlanan bir “Yapay Zeka sınıflandırıcısını” duyurdu. Bu, sahte belgeleri ayırt etmeye veya eğitim ortamlarında kopya çeken öğrencileri işaretlemeye yardımcı olmayı vaat ediyordu. Aynı teknoloji, AI tarafından oluşturulan içeriği eğitim veri kümelerinden filtrelemek ve akraba çiftleşmesini önlemek için kullanılabilir.

Ancak Temmuz 2023 itibarıyla OpenAI, düşük doğruluk oranı nedeniyle AI sınıflandırıcısının artık mevcut olmadığını duyurdu ve şu anda “AI tarafından yazılan metnin tamamını güvenilir bir şekilde tespit etmek imkansız.”

Üretken eserlere filigran ekleme

Bir diğer potansiyel çözüm ise yapay zeka şirketlerinin ürettikleri tüm üretken eserlere “filigran” verileri yerleştirmesidir. Bu, sahte belgelerin ve yanlış bilgilerin belirlenmesine yardımcı olmaktan öğrencilerin kopya çekmesini önlemeye kadar pek çok amaç için değerli olacaktır.

Ne yazık ki, filigranlama muhtemelen en iyi ihtimalle orta derecede etkiliözellikle kolayca düzenlenebilen metin tabanlı belgelerde, filigranı ortadan kaldırırken aynı zamanda akraba yetiştirme sorunlarını da korur. Yine de Beyaz Saray filigranlama çözümleri için baskı yapıyorgeçen ay temel modeller üreten en büyük yapay zeka şirketlerinden yedisinin “filigranlama gibi, içeriğin yapay zeka oluşturulduğunu kullanıcıların bilmesini sağlamak için sağlam teknik mekanizmalar geliştirmeyi” kabul ettiğini duyurdu.

Şirketlerin teknik olarak bu hedefe ulaşıp ulaşamayacaklarını ve çözümleri akrabalı yetiştirmeyi azaltmaya yardımcı olacak şekilde uygulayıp uygulayamayacaklarını zaman gösterecek.

Geriye değil ileriye bakmamız lazım

Akraba evliliği sorununu çözsek bile, yapay zekaya yaygın bir şekilde güvenmenin insan kültürü açısından boğucu olabileceğinden korkuyorum. Bunun nedeni gen yapay zeka sistemlerinin açıkça eğitilmiş geçmişin tarzını ve içeriğini taklit etmek, geriye dönük güçlü bir önyargı sunmak.

İnsan sanatçıların da önceki çalışmalardan etkilendiğini iddia edenlerin olduğunu biliyorum, ancak insan yaratıcılar sürece kendi duyarlılıklarını ve deneyimlerini katarak, düşünceli bir şekilde yeni kültürel yönelimler yaratıyorlar. Mevcut yapay zeka sistemleri hiçbir şey getirmiyor kişisel esin ürettikleri her şeye.

Ve üretken akraba çiftleştirmenin çarpık etkileriyle birleştiğinde, kültürümüzün, geçmişe doğru çekilen görünmez bir güç tarafından bastırıldığı ve “genetik deformasyonların” yaratıcı düşünceleri, duyguları ve içgörüleri tam olarak temsil etmeyen “genetik deformasyonlar” tarafından bastırıldığı bir gelecekle karşı karşıya kalabiliriz. insanlık.

Bu sorunları hem teknik hem de politik korumalarla ele almazsak, kısa süre sonra kendimizi kültürümüzün gerçek insan yaratıcılardan çok üretken yapay zeka sistemlerinden etkilendiği bir dünyada bulabiliriz.

Louis Rosenberg, VR, AR ve AI alanlarında tanınmış bir teknoloji uzmanıdır. Immersion Corporation, Microscribe 3D, Outland Research ve Unanimous AI’yi kurdu. Doktora derecesini Stanford’dan aldı, California Eyalet Üniversitesi’nde kadrolu profesördü ve 300’den fazla patentle ödüllendirildi.