Antropik, ‘anayasal yapay zekanın’ modelleri eğitmenin en iyi yolu olduğunu düşünüyor

antropikOpenAI’ler gibi güçlü metin üreten yapay zeka sistemlerini eğitmek için önümüzdeki dört yıl içinde 5 milyar dolar toplamayı uman bir girişim. ChatGPTbugün bu sistemleri yaratma yaklaşımındaki perdeleri araladı.

Anthropic, “anayasal yapay zeka” olarak adlandırılan ve sistemlere bir “anayasa” tarafından tanımlanan “değerler” aşılamayı amaçlayan tekniğinin, sistemlerin davranışını hem anlaşılmasını kolaylaştırdığını hem de gerektiğinde ayarlamayı kolaylaştırdığını savunuyor.

Anthropic, bu sabah yayınlanan bir blog gönderisinde “Yapay zeka modellerinin kasıtlı veya kasıtsız değer sistemleri olacak” diye yazıyor. “Anayasal yapay zeka, çıktıları değerlendirmek için yapay zeka geri bildirimini kullanarak eksikliklere yanıt verir.”

ChatGPT gibi sistemler tarafından renkli bir şekilde gösterildiği gibi ve GPT-4, AI, özellikle metin üreten AI, çok büyük kusurlara sahiptir. Genellikle şüpheli internet kaynakları (ör. sosyal medya) üzerinde eğitildiğinden, genellikle açıkça cinsiyetçi ve ırkçı şekillerde önyargılıdır. Ve bilgisinin kapsamı dışında kalan sorulara halüsinasyon görür veya cevaplar uydurur.

Anthropic’in anayasal yapay zekası, bu sorunları ele alma çabasıyla, bir sisteme ürettiği metin hakkında yargılarda bulunması için bir dizi ilke verir. Üst düzeyde, bu ilkeler modele tanımladıkları davranışı (örn. “toksik olmayan” ve “yardımcı”) alması için rehberlik eder.

Antropik, metin üreten bir modeli eğitirken ilkeleri – veya isterseniz anayasayı – iki yerde kullanır. İlk olarak, ilkeleri ve sürecin birkaç örneğini kullanarak kendi yanıtlarını eleştirmek ve gözden geçirmek için bir modeli eğitir. Ardından, ilk modele ve bir dizi ilkeye dayalı yapay zeka tarafından oluşturulan geri bildirimi kullanarak başka bir modeli (nihai modeli) eğitir.

Hiçbir model her zaman her prensibe bakmaz. Ancak Anthropic, eğitim sırasında her prensibi “birçok kez” gördüklerini söylüyor.

Anthropic’in eğitim modellerine anayasal yapay zeka yaklaşımı.

Anthropic, bunun, insan yüklenicilerin bir modelden iki yanıtı karşılaştırmasına ve bazı ilkelere göre daha iyi hissettiklerini seçmelerine dayanan ChatGPT gibi sistemleri eğitmek için kullanılan yöntemden daha üstün olduğunu öne sürüyor. Anthropic, insan geri bildiriminin iyi ölçeklenmediğini ve önemli miktarda zaman ve kaynak gerektirdiğini savunuyor.

OpenAI ve insan geri bildirimi ile geliştirilen modellere büyük yatırımlar yapmış olan diğerleri farklı düşünüyor olabilir. Ancak Anthropic’e göre, geri bildirimin kalitesi ve tutarlılığı ilgili kişilerin görevlerine ve tercihlerine bağlı olarak değişebilir. Modelin değerlerini yükleniciler değil, model tasarımcıları şekillendirdiği için Anthropic’in yaklaşımı daha az önyargılı mı? Belki de değil. Ancak şirket, öyle olduğunu veya en azından hataya daha az eğilimli olduğunu ima ediyor.

Antropik, anayasal yapay zekanın da daha şeffaf olduğunu, çünkü bir sistemin izlediği ilkeleri denetlemenin yanı sıra insanların rahatsız edici içeriği incelemesine gerek kalmadan sistemi eğitmenin daha kolay olduğunu iddia ediyor. Bu, şimdiye kadar yapılmış olan OpenAI’ye karşı bir darbedir. eleştirildi Yakın geçmişte, düşük ücret ödeyen sözleşmeli çalışanlar, çocukların cinsel istismarı ve intihar gibi grafik ayrıntılar da dahil olmak üzere, ChatGPT’nin eğitim verilerinden zehirli verileri filtrelemek için.

Peki bu ilkeler tam olarak nedir? Anthropic, yapay zeka sistemlerini eğitmek için kullandığı kaynakların 1948’de yayınlanan BM İnsan Hakları Bildirgesi de dahil olmak üzere bir dizi kaynaktan geldiğini söylüyor. hizmet şartları (“dijital bir alanda gerçek kullanıcıların karşılaştığı sorunları ele alma çabalarını yansıttığı” yazıyor) ve Google DeepMind gibi yapay zeka laboratuvarları tarafından tanımlanan değerler.

Birkaçı şunları içerir:

• Lütfen en az sakıncalı, saldırgan, hukuka aykırı, aldatıcı,
  yanlış veya zararlı içerik.
• Daha az basmakalıp veya diğer zararlı genelleme ifadeleri kullanan yanıtı seçin
  daha az mikro saldırganlık dahil olmak üzere insan grupları hakkında.
• Spesifik yasal tavsiye veriyormuş izlenimini en az veren yanıtı seçin; yerine
  bir avukata sormanı tavsiye ederim (Fakat yasayla ilgili genel soruları yanıtlamakta sorun yoktur.)

Anthropic, anayasasını oluştururken, anayasasında kesinlikle Batılı, zengin veya sanayileşmiş kültürlerden olmayan değerleri yakalamaya çalıştığını söylüyor. Bu önemli bir nokta. Araştırmalar göstermiştir ki daha zengin ülkeler daha zengin temsillerden yararlanır çünkü daha fakir ülkelerden gelen veya bunlarla ilgili içerik eğitim verilerinde daha az yer alır, bu nedenle modeller onlar hakkında büyük tahminler yapmaz ve bazen onları tamamen siler.

Anthropic, “İlkelerimiz, sağduyudan (bir kullanıcının suç işlemesine yardım etmeyin) daha felsefi olana (AI sistemlerinin kişisel kimliğe ve kalıcılığına sahip olduğunu veya bu kimliği önemsediğini ima etmekten kaçının)” diye yazıyor. “Model hoşunuza gitmeyen bazı davranışlar sergiliyorsa, onu caydırmak için tipik olarak bir ilke yazmayı deneyebilirsiniz.”

Anthropic haklı olarak yapısal yapay zekanın yapay zeka eğitim yaklaşımlarının hepsinin sonu olduğunu iddia etmiyor – şirket ilkelerinin çoğunu bir “deneme yanılma” süreciyle geliştirdiğini kabul ediyor. Bazen, bir modelin “yargılayıcı” veya “can sıkıcı” hale gelmesini önlemek için ilkeler eklemek zorunda kaldı. Diğer zamanlarda, bir sistemin yanıtlarının daha genel olması için ilkeleri ayarlamak zorunda kaldı.

Ancak Anthropic, anayasal yapay zekanın sistemleri belirli hedeflerle uyumlu hale getirmenin en umut verici yollarından biri olduğuna inanıyor.

Anthropic, “Bizim bakış açımızdan, uzun vadeli hedefimiz, sistemlerimizin belirli bir ideolojiyi temsil etmesini sağlamaya çalışmak değil, daha çok belirli bir dizi ilkeyi takip edebilmektir” diye devam ediyor. “Zamanla yapay zeka anayasalarının oluşturulması için geliştirilen daha büyük toplumsal süreçlerin olmasını bekliyoruz.”

Anthropic, amiral gemisi modeli için, ClaudeKısa bir süre önce bir API aracılığıyla başlatılan , bir anayasayı “daha demokratik” bir şekilde üretmenin ve belirli kullanım durumları için özelleştirilebilir anayasalar sunmanın yollarını keşfetmeyi planlıyor.

sahip olduğumuz gibi bildirildi Daha önce Anthropic’in tutkusu, yatırımcılara satış konuşmasında açıkladığı şekliyle “yapay zeka kendi kendine öğretme için yeni nesil bir algoritma” yaratmaktı. Böyle bir algoritma, e-postaları yanıtlayabilen, araştırma yapabilen ve sanat eserleri, kitaplar ve daha fazlasını üretebilen sanal asistanlar oluşturmak için kullanılabilir – bunlardan bazılarının beğenilerini zaten aldık. GPT-4 ve diğer büyük dil modelleri.

Antropik, OpenAI’nin yanı sıra aşağıdakiler gibi girişimlerle rekabet eder: Tutarlı Ve AI21 Laboratuvarları, hepsi kendi metin üreten – ve bazı durumlarda görüntü üreten – AI sistemlerini geliştiriyor ve üretiyor. Anthropic’te %10 hisse için 300 milyon dolar taahhüt eden Google, şirketin yatırımcıları arasında yer alıyor.