Yapay zeka ajanları halihazırda insan uygarlığını nasıl simüle ediyor?

Yapay zeka (AI) büyük dil modelleri (LLM) gibi OpenAIPopüler GPT-3, 3.5 ve 4, nasıl yaşadığımız, iletişim kurduğumuz ve davrandığımız hakkında zengin miktarda bilgi kodluyor ve araştırmacılar bu bilgiyi kullanmaya yönelik sürekli olarak yeni yollar buluyor.

A son çalışma Stanford Üniversitesi araştırmacıları tarafından yürütülen araştırma, doğru tasarımla yüksek lisans eğitimlerinin insan davranışını dinamik ve ikna edici derecede gerçekçi bir şekilde simüle etmek için kullanılabileceğini gösterdi.

“Üretken Aracılar: İnsan Davranışının Etkileşimli Simülakrları” başlıklı çalışma, etkileşimlerini hatırlayan, aldığı bilgileri yansıtan ve uzun ve kısa vadeli hedefleri temel alarak planlayan bir yapay zeka aracı mimarisi oluşturmada üretken modellerin potansiyelini araştırıyor. sürekli genişleyen bir bellek akışı. Bu yapay zeka ajanları, sıradan görevlerden karmaşık karar alma süreçlerine kadar bir insanın günlük yaşamlarındaki davranışlarını simüle etme yeteneğine sahip.

Üstelik bu etmenler bir araya getirildiğinde, büyük bir nüfusun etkileşimlerinden ortaya çıkan daha karmaşık sosyal davranışları taklit edebilirler. Bu çalışma, özellikle nüfus dinamiklerinin simüle edilmesinde birçok olasılığın önünü açıyor ve toplumsal davranışlar ve etkileşimler hakkında değerli bilgiler sunuyor.

Üretken aracılar için sanal bir ortam

Araştırmada araştırmacılar, büfeler, okullar, barlar ve daha fazlası gibi çeşitli nesnelerden oluşan bir sanal alan oyun ortamı olan Smallville’deki üretken etmenleri simüle etti.

Çevre, bir Yüksek Lisans tarafından desteklenen 25 üretken aracı tarafından barındırılmaktadır. LLM, temsilcinin davranışının, mesleğinin, tercihlerinin, anılarının ve diğer temsilcilerle ilişkilerinin ayrıntılı bir tanımını içeren bir bilgi istemiyle başlatılır. LLM’nin çıktısı, aracının davranışıdır.

Ajanlar, eylemleri aracılığıyla çevreleriyle etkileşime girerler. Başlangıçta doğal dilde “Isabella kahve içiyor” gibi bir eylem ifadesi oluştururlar. Bu ifade daha sonra Smallville’de somut hareketlere dönüştürüldü.

Ayrıca etmenler birbirleriyle doğal dil diyaloğu aracılığıyla iletişim kurarlar. Konuşmaları önceki anılarından ve geçmiş etkileşimlerinden etkilenir.

İnsan kullanıcılar ayrıca aracılarla bir anlatıcının sesi aracılığıyla konuşarak, ortamın durumunu değiştirerek veya bir aracıyı doğrudan kontrol ederek etkileşime girebilir. İnteraktif tasarımın amacı birçok olasılığa sahip dinamik bir ortam yaratmaktır.

Hatırlamak ve yansıtmak

SmallVille ortamındaki her aracı, aracının deneyimlerini doğal dilde kaydeden kapsamlı bir veritabanı olan bir bellek akışıyla donatılmıştır. Bu bellek akışı, aracının davranışında çok önemli bir rol oynar.

Her eylem için, aracı, planlamaya yardımcı olmak üzere ilgili bellek kayıtlarını alır. Örneğin, bir etmen başka bir etmenle ikinci kez karşılaştığında, o etmenle olan geçmiş etkileşimlerin kayıtlarını alır. Bu, temsilcinin önceki konuşmaları takip etmesine veya birlikte tamamlanması gereken görevleri takip etmesine olanak tanır.

Ancak hafızanın geri getirilmesi önemli bir zorluk teşkil etmektedir. Simülasyon uzunluğu arttıkça aracının bellek akışı da uzar. Bellek akışının tamamını LLM bağlamına sığdırmak modelin dikkatini dağıtabilir. Bellek akışı çok uzun olduğunda LLM’nin bağlam penceresine sığmayacaktır. Bu nedenle, LLM ile her etkileşim için, aracının bellek akışından en ilgili bitleri alması ve bunları bağlam olarak modele sağlaması gerekir.

Bu sorunu çözmek için araştırmacılar, ajanın hafızasının her bir parçasının mevcut durumuyla ilgisini ölçen bir geri getirme fonksiyonu tasarladılar. Her anının alaka düzeyi, onun gömülmesinin mevcut durumla karşılaştırılmasıyla ölçülür (gömmeler metnin farklı anlamlarını temsil eden ve benzerlik araması için kullanılan sayısal değerlerdir). Belleğin güncelliği de önemlidir; bu, daha yeni anılara daha fazla önem verildiği anlamına gelir.

Buna ek olarak araştırmacılar, hafıza akışının bazı kısımlarını periyodik olarak özetleyerek “yansımalar” olarak adlandırılan daha üst düzey soyut düşüncelere dönüştüren bir işlev tasarladılar. Bu yansımalar birbirinin üzerinde katmanlar oluşturarak, aracının kişiliğinin ve tercihlerinin daha incelikli bir resmine katkıda bulunur ve gelecekteki eylemler için hafızanın geri getirilmesinin kalitesini artırır.

Bellek ve yansımalar, yapay zeka sisteminin LLM için zengin bir bilgi istemi oluşturmasını sağlar ve daha sonra bunu her bir aracının eylemlerini planlamak için kullanır.

Ajanları harekete geçirmek

Planlama projenin bir başka ilgi çekici yönüdür. Araştırmacıların, ajanların doğrudan eylemler gerçekleştirmesine ve aynı zamanda uzun vadeli plan yapabilmesine olanak tanıyan bir sistem tasarlaması gerekiyordu. Bunu başarmak için planlamada hiyerarşik bir yaklaşım benimsediler.

Model ilk önce aracının durumunun bir özetini alır ve uzun vadeli bir hedef için üst düzey bir plan oluşturması istenir. Daha sonra her adımı yinelemeli olarak alır ve önce saatlik programlarda, ardından 5-15 dakikalık görevlerde daha ayrıntılı eylemler oluşturur. Etmenler ayrıca ortamları değiştikçe ve yeni durumları gözlemledikçe veya diğer etmenlerle etkileşime girdikçe planlarını güncellerler. Planlamaya yönelik bu dinamik yaklaşım, temsilcilerin çevrelerine uyum sağlamasını ve onunla gerçekçi ve inandırıcı bir şekilde etkileşime girebilmesini sağlar.

Simülasyon çalıştırıldığında ne olur? Her temsilci bazı temel bilgilerle, günlük rutinlerle ve başarılması gereken hedeflerle başlar. Bu hedefleri planlayıp gerçekleştirirler ve birbirleriyle etkileşime girerler. Bu etkileşimler aracılığıyla aracılar birbirlerine bilgi aktarabilirler. Yeni bilgiler nüfusa yayıldıkça topluluğun davranışları da değişir. Ajanlar, diğer ajanların davranışlarının farkına vardıkça planlarını ve hedeflerini değiştirerek veya ayarlayarak tepki verirler.

Araştırmacıların deneyleri, üretken etmenlerin açıkça talimat verilmeden kendi aralarında koordinasyon sağlamayı öğrendiklerini gösteriyor. Örneğin ajanlardan biri bir Sevgililer Günü partisi düzenleme hedefiyle yola çıktı. Bu bilgi sonunda diğer ajanlara da ulaştı ve birçoğu partiye katıldı. (Demo yapıldı çevrimiçi yayınlandı.)

Çalışmanın etkileyici sonuçlarına rağmen tekniğin sınırlamalarını kabul etmek önemlidir. Üretken ajanlar, insan davranışını simüle etmede diğer LLM tabanlı yöntemleri geride bırakırken, zaman zaman hafızayı geri getirmede bocalıyor. İlgili anıları gözden kaçırabilirler veya tam tersine, var olmayan ayrıntıları anılarına ekleyerek “halüsinasyon” görebilirler. Bu onların davranışlarında ve etkileşimlerinde tutarsızlıklara yol açabilir.

Dahası, araştırmacılar temsilcilerin davranışlarında beklenmedik bir tuhaflığa dikkat çekti: aşırı derecede kibar ve işbirlikçiydiler. Bu özellikler bir yapay zeka asistanında arzu edilir olsa da, çatışma ve anlaşmazlıkları da içeren insan davranışının tüm yelpazesini doğru bir şekilde yansıtmazlar.

İnsan davranışının simülakrları

Araştırma, araştırma camiasında ilgi uyandırdı. Stanford araştırmacıları yakın zamanda kaynak kodunu yayınladı sanal ortamları ve üretken aracılar için.

Bu, diğer araştırmacıların, ünlü risk sermayesi şirketi Andreessen Horowitz (a16z) gibi önemli kuruluşların kendi çalışmalarını geliştirmelerine olanak tanıdı. çevrenin kendi versiyonları.

Smallville’in sanal temsilcileri eğlenceli olsa da araştırmacılar, çalışmalarının geniş kapsamlı, pratik uygulamalara sahip olduğuna inanıyor.

Böyle bir uygulama, sosyal ağlar gibi kitlesel kullanıcı ürünlerindeki dinamiklerin prototipini oluşturmaktır. Araştırmacılar, bu üretken modellerin yanlış bilgilerin yayılması veya trolleme gibi olumsuz sonuçların tahmin edilmesine ve azaltılmasına yardımcı olabileceğini umuyor. Araştırmacılar, farklı bir aracı popülasyonu oluşturarak ve bunların bir ürün bağlamındaki etkileşimlerini gözlemleyerek, ortaya çıkan hem olumlu hem de olumsuz davranışları inceleyebilirler. Aracılar aynı zamanda karşı gerçekleri denemek ve farklı politikaların ve davranışlardaki değişikliklerin sonuçları nasıl değiştirebileceğini simüle etmek için de kullanılabilir. Bu kavram sosyal simulakrların temelini oluşturur.

Ancak üretken ajanların potansiyeli risksiz değildir. Gerçek insanları ikna edici bir şekilde taklit eden, yanlış bilginin büyük ölçekte yayılması gibi kötü niyetli faaliyetleri potansiyel olarak artıran botlar oluşturmak için kullanılabilirler. Buna karşı koymak için araştırmacılar, bir düzeyde şeffaflık ve hesap verebilirlik sağlamak amacıyla aracıların davranışlarına ilişkin denetim günlüklerinin tutulmasını öneriyor.

Araştırmacılar, “İleriye baktığımızda, üretken aracıların tasarım araçlarından sosyal bilgi işlem sistemlerine ve sürükleyici ortamlara kadar birçok etkileşimli uygulamada rol oynayabileceğini öneriyoruz” diye yazıyor.