OpenAI, ‘süper zeki’ yapay zekayı kontrol altına almak için yeni bir ekip kuruyor

OpenAI, “süper zeki” AI sistemlerini yönlendirmek ve kontrol etmek için yollar geliştirmek üzere şirketin baş bilim adamı ve şirketin kurucu ortaklarından biri olan Ilya Sutskever liderliğinde yeni bir ekip kuruyor.

İçinde Blog OpenAI’deki hizalama ekibinin liderlerinden Sutskever ve Jan Leike, bugün yayınlanan bir gönderiye göre, insanlarınkini aşan zekaya sahip yapay zekanın önümüzdeki on yıl içinde gelebileceğini tahmin ediyor. Sutskever ve Leike, bu yapay zekanın – gerçekten de sonunda varacağını varsayarsak – mutlaka hayırsever olmayacağını ve onu kontrol etmenin yollarını araştırmayı gerektirdiğini söylüyor.

“Şu anda, potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun haydutlaşmasını önlemek için bir çözümümüz yok” diye yazıyorlar. “İnsan geri bildirimlerinden öğrenmeyi pekiştirmek gibi yapay zekayı hizalamaya yönelik mevcut tekniklerimiz, insanların yapay zekayı denetleme becerisine dayanıyor. Ancak insanlar, yapay zeka sistemlerini bizden çok daha akıllı şekilde güvenilir bir şekilde denetleyemeyecek.”

OpenAI, “süper zeka hizalaması” alanında iğneyi ileriye taşımak için, hem Sutskever hem de Leike tarafından yönetilen ve şirketin bugüne kadar güvence altına aldığı bilgi işlemin %20’sine erişebilecek yeni bir Superallignment ekibi oluşturuyor. OpenAI’nin önceki hizalama ekibinden bilim adamları ve mühendislerin yanı sıra şirket genelindeki diğer kuruluşlardan araştırmacıların katıldığı ekip, önümüzdeki dört yıl içinde süper akıllı yapay zekayı kontrol etmenin temel teknik zorluklarını çözmeyi amaçlayacak.

Nasıl? Sutskever ve Leike’nin “insan düzeyinde otomatik hizalama araştırmacısı” olarak tanımladığı şeyi oluşturarak. Amaç, yapay zeka sistemlerini insan geri bildirimlerini kullanarak eğitmek, yapay zekayı insan değerlendirmesine yardımcı olacak şekilde eğitmek ve nihayetinde hizalama araştırması yapabilen yapay zeka oluşturmaktır. (Burada “hizalama araştırması”, yapay zeka sistemlerinin istenen sonuçlara ulaşmasını sağlamayı ifade eder.)

Yapay zekanın insanlardan daha hızlı ve daha iyi hizalama araştırması ilerlemesi sağlayabileceği OpenAI’nin hipotezidir.

Leike ve meslektaşları John Schulman ve Jeffrey Wu, “Bu konuda ilerleme kaydettikçe, AI sistemlerimiz hizalama çalışmalarımızın daha fazlasını devralabilir ve nihayetinde şu anda sahip olduğumuzdan daha iyi hizalama teknikleri tasarlayabilir, uygulayabilir, inceleyebilir ve geliştirebilir.” açıklamak önceki bir blogda postalamak. “Kendi haleflerinin insanlarla daha uyumlu olmasını sağlamak için insanlarla birlikte çalışacaklar. İnsan araştırmacılar, bu araştırmayı kendi başlarına oluşturmak yerine yapay zeka sistemleri tarafından yapılan hizalama araştırmasını gözden geçirme çabalarına giderek daha fazla odaklanacaklar.”

Elbette hiçbir yöntem kusursuz değildir ve Leike, Schulman ve Wu gönderilerinde OpenAI’nin birçok sınırlamasını kabul ediyor. Değerlendirme için yapay zekanın kullanılması, bu yapay zekadaki tutarsızlıkları, önyargıları veya güvenlik açıklarını artırma potansiyeline sahiptir. Ve hizalama probleminin en zor kısımlarının mühendislikle ilgili olmayabileceği ortaya çıkabilir.

Ancak Sutskever ve Leike, denemeye değer olduğunu düşünüyor.

“Süper zeka hizalaması temelde bir makine öğrenimi sorunudur ve harika makine öğrenimi uzmanlarının – halihazırda hizalama üzerinde çalışmıyor olsalar bile – bunu çözmede kritik öneme sahip olacağını düşünüyoruz” diye yazıyorlar. “Bu çabanın meyvelerini geniş çapta paylaşmayı planlıyoruz ve OpenAI dışı modellerin uyumluluğuna ve güvenliğine katkıda bulunmayı işimizin önemli bir parçası olarak görüyoruz.”

kim kimdir ne zaman nasıl nelerdir nedir ne işe yarar tüm bilgiler
dünyadan ilginç ve değişik haberler en garip haberler burada

Yorum yapın