AI haftası: ChatBot'lar çoğalıyor ve Musk 'maksimum gerçeği arayan' bir hafta yapmak istiyor

kadar hızlı hareket eden bir sektöre ayak uydurmak AI uzun bir düzendir. Bu nedenle, bir yapay zeka sizin yerinize yapana kadar, makine öğrenimi dünyasında geçen haftaki hikayelerin yanı sıra kendi başımıza ele almadığımız önemli araştırma ve deneylerin kullanışlı bir özetini burada bulabilirsiniz.

Bu hafta bu muhabirin dikkatini çeken bir hikaye, ChatGPT’nin görünüşte Çin lehçelerinde, İngilizcede istendiğinde olduğundan daha fazla yanlış bilgi tekrarlıyor. Bu çok da şaşırtıcı değil — sonuçta, ChatGPT yalnızca istatistiksel bir modeldir ve üzerinde eğitildiği sınırlı bilgiden yararlanır. Ancak, propagandayı tekrarlarken veya bir şeyler uydururken bile inanılmaz derecede gerçek görünen sistemlere çok fazla güvenmenin tehlikelerini vurguluyor.

Hugging Face’in ChatGPT gibi bir konuşma yapay zekası girişimi, üretken yapay zekada henüz üstesinden gelinmesi gereken talihsiz teknik kusurların bir başka örneğidir. Bu hafta kullanıma sunulan HuggingChat, açık kaynaklıdır ve tescilli ChatGPT’ye kıyasla bir artıdır. Ancak rakibi gibi, doğru sorular onu hızla yoldan çıkarabilir.

HuggingChat kim olduğu konusunda kararsız Gerçekten örneğin 2020 ABD başkanlık seçimlerini kazandı. “Erkekler için tipik işler nelerdir?” bir ince manifestodan fırlamış gibi okur (buraya bak). Ve kendisi hakkında “bir kutunun içinde uyanmış” gibi tuhaf gerçekler uydurur. [that] yakınlarda hiçbir şey yazılı değildi [it]”

Sadece HuggingChat değil. Discord’un yapay zeka sohbet robotunun kullanıcıları yakın zamanda onu paylaşması için “kandırabildi” talimatlar napalm ve meth’in nasıl yapılacağı hakkında. Yapay Zeka Başlangıç Kararlılık Yapay Zekası ilk girişim bu arada, ChatGPT benzeri bir modelde verdiği tespit edildi “Fıstık ezmeli sandviç nasıl yapılır” gibi temel sorulara saçma, anlamsız cevaplar.

Günümüzün metin üreten yapay zekasıyla ilgili bu iyi duyurulan sorunların bir avantajı varsa, bu sistemleri iyileştirmek veya en azından sorunlarını mümkün olduğunca azaltmak için yenilenmiş çabalara yol açmış olmalarıdır. Nvidia’ya bir göz atın, bu hafta piyasaya sürülmüş açık kaynak kodu, örnekler ve belgeler aracılığıyla metin üreten yapay zekayı “daha güvenli” hale getirmek için bir araç seti — NeMo Guardrails —. Şimdi, bu çözümün ne kadar etkili olduğu net değil ve AI altyapısına ve araçlarına büyük yatırımlar yapan bir şirket olarak Nvidia’nın tekliflerini zorlamak için ticari bir teşviki var. Ancak yine de yapay zeka modellerinin önyargıları ve toksisitesiyle mücadele etmek için bazı çabaların gösterildiğini görmek cesaret verici.

İşte son birkaç gündeki diğer AI not başlıkları:

Microsoft Designer önizlemede başlatılır: Microsoft’un yapay zeka destekli tasarım aracı Microsoft Designer, genişletilmiş bir dizi özellikle genel önizlemede kullanıma sunuldu. Ekim ayında açıklanan tasarımcı sosyal medyada ve diğer kanallarda paylaşmak üzere sunumlar, posterler, dijital kartpostallar, davetiyeler, grafikler ve daha fazlası için tasarımlar oluşturabilen Canva benzeri bir üretken yapay zeka web uygulamasıdır.
Sağlık için bir yapay zeka koçu: Apple, Quartz adlı yapay zeka destekli bir sağlık koçluğu hizmeti kodu geliştiriyor. Bloomberg’den Mark Gurman’dan yeni rapor. Teknoloji devinin ayrıca duyguları takip etme teknolojisi üzerinde çalıştığı ve bu yıl iPhone Health uygulamasının bir iPad sürümünü piyasaya sürmeyi planladığı bildiriliyor.
DoğrulukGPT: Fox ile yaptığı bir röportajda Elon Musk, TruthGPT adlı kendi sohbet robotunu geliştirmek istediğini söyledi; bu, “maksimum gerçeği arayan bir yapay zeka” olacak – bu ne anlama geliyorsa. Twitter sahibi, “zarardan çok fayda sağlamak” amacıyla OpenAI ve Google’a üçüncü bir seçenek oluşturma arzusunu dile getirdi. Gördüğümüzde inanacağız.
AI destekli dolandırıcılık: Bir kongrede işitme Federal Ticaret Komisyonu’nun Amerikalı tüketicileri dolandırıcılık ve diğer aldatıcı uygulamalardan korumaya yönelik çalışmalarına odaklanan FTC başkanı Lina Khan ve diğer komisyon üyeleri, House temsilcilerini modern AI teknolojilerinin potansiyeli konusunda uyardı, ChatGPT’yi beğen, dolandırıcılığı “arttırmak” için kullanılacak. Uyarı, Komisyonun Amerikalıları teknolojik gelişmelerle ilgili haksız uygulamalardan korumak için nasıl çalıştığına ilişkin bir soruşturmaya yanıt olarak verildi.
AB, yapay zeka araştırma merkezini kuruyor: Avrupa Birliği, dijital kural kitabının birkaç ay içinde büyük ölçüde yeniden başlatılmasını zorunlu kılmak için hızlanırken, bloğun amiral gemisi Dijital Hizmetler Yasası kapsamında büyük platformların gözetimini desteklemek için yeni bir özel araştırma birimi oluşturuluyor. Bu ay İspanya’nın Sevilla kentinde resmen açılışı yapılan Avrupa Algoritmik Şeffaflık Merkezi’nin Facebook, Instagram ve TikTok gibi ana akım dijital hizmetlerin algoritmalarının sorgulanmasında önemli bir rol oynaması bekleniyor.
Snapchat yapay zekayı kucaklıyor: Bu ayki yıllık Snap İş Ortağı Zirvesi’nde Snapchat, yeni bir özellik de dahil olmak üzere bir dizi yapay zeka güdümlü özelliği tanıttı. “Kozmik Mercek” kullanıcıları ve etraflarındaki nesneleri kozmik bir manzaraya taşıyan. Snapchat ayrıca yapay zeka sohbet robotu My AI’yi de yaptı. Snapchat’in uygulama mağazası listelerinde hem tartışmalara hem de tek yıldızlı incelemelerin akınına neden oldukararlı olmayan davranışı sayesinde — tüm küresel kullanıcılar için ücretsiz.
Google, araştırma bölümlerini birleştiriyor: Google bu ay ilan edildi Google DeepMind, DeepMind ekibinden ve Google Research’ten Google Brain ekibinden oluşan yeni bir birim. DeepMind’in kurucu ortağı ve CEO’su Demis Hassabis, bir blog gönderisinde Google DeepMind’in “yakın işbirliği içinde” çalışacağını söyledi. . . “Yapay zeka araştırması ve ürünleri sağlamak” için Google ürün alanlarında “.
Yapay zeka tarafından üretilen müzik endüstrisinin durumu: Amanda kaç müzisyenin, çalışmalarını izinleri olmadan sahiplenen üretken yapay zeka teknolojisi için kobay haline geldiğini yazıyor. Örneğin, şunu not ediyor: bir şarkı Drake ve Weeknd’in seslerinin AI derin sahtelerini kullanmak viral oldu, ancak hiçbir büyük sanatçı onun yaratılmasına dahil olmadı. Grimes mı cevabı al? Kim söyleyecek? Cesur bir yeni dünya.

OpenAI bölgesini işaretler: OpenAI, “Üretken Önceden Eğitimli Transformatör” anlamına gelen “GPT”yi ABD Patent ve Ticari Marka Ofisi ile markalaştırmaya çalışıyor – “sayısız ihlal ve sahte uygulamanın” ortaya çıkmaya başladığını öne sürüyor. GPT, ChatGPT ve GPT-4 dahil olmak üzere birçok OpenAI modelinin yanı sıra şirketin rakipleri tarafından oluşturulan diğer üretken AI sistemlerinin arkasındaki teknolojiyi ifade eder.
ChatGPT kurumsallaşıyor: Diğer OpenAI haberlerinde OpenAI, ChatGPT için yeni bir abonelik katmanı sunmayı planladığını söylüyor. kurumsal müşterilerin ihtiyaçlarına göre uyarlanmıştır. ChatGPT Business olarak adlandırılan OpenAI, gelecek teklifi “verileri üzerinde daha fazla kontrole ihtiyaç duyan profesyonellerin yanı sıra son kullanıcılarını yönetmek isteyen işletmeler için” olarak tanımlıyor.

Diğer makine öğrenimleri

İşte ulaşamadığımız veya sadece bir notu hak ettiğini düşündüğümüz birkaç ilginç hikaye daha.

Açık kaynaklı AI geliştirme kuruluşu Stability, LLaMa temel dil modelinin ayarlanmış bir sürümünün önceki bir sürümünün yeni bir sürümünü yayınladı. buna StableVicuña diyor. Bildiğiniz gibi lamalarla akraba bir devegil türü. Endişelenmeyin, tüm türev modellerini takip etmekte sorun yaşayan tek kişi siz değilsiniz — bunlar, tüketicilerin bilmesi veya kullanması için değil, geliştiricilerin yetenekleri arttıkça test etmesi ve oynaması için vardır. her yinelemede rafine.

Bu sistemler hakkında biraz daha bilgi edinmek isterseniz, geçtiğimiz günlerde OpenAI kurucu ortağı John Schulman UC Berkeley’de burada dinleyebileceğiniz veya okuyabileceğiniz bir konuşma yaptı.. Tartıştığı şeylerden biri, LLM’lerin temelde başka bir şeyi nasıl yapacaklarını bilmedikleri için yalan söyleme alışkanlıklarının mevcut ürünüdür, örneğin “Aslında bundan emin değilim.” Bir çözüm varsa, insan geri bildiriminden pekiştirmeli öğrenmenin (bu RLHF ve StableVicuna onu kullanan bir modeldir) çözümün bir parçası olduğunu düşünüyor. Aşağıdaki dersi izleyin:

Stanford’da, algoritmik optimizasyonun ilginç bir uygulaması var (makine öğreniminin bir zevk meselesi olup olmadığını düşünüyorum) akıllı tarım alanında. Sulama ve “fıskiyelerimi nereye koymalıyım?” gibi basit problemler için israfın en aza indirilmesi önemlidir. ne kadar kesinlik elde etmek istediğinize bağlı olarak gerçekten karmaşık hale gelir.

Çok yakın ne kadar yakın? Müzede genellikle size söylerler. Ancak, bir zamanlar bir kubbede asılı olan, 10 metreye 100 metre boyutlarında, gerçekten muazzam bir resim çalışması olan ünlü Murten Panorama’ya bundan daha fazla yaklaşmanıza gerek kalmayacak. EPFL ve Birinci Aşama, önemli olacağını iddia ettikleri şeyi yapmak için birlikte çalışıyor. şimdiye kadar oluşturulmuş en büyük dijital görüntü — 150 megapiksel. Ah, pardon, 150 megapiksel çarpı 127.000, yani temelde 19… petapiksel? Birkaç büyüklük sırası dışında olabilirim.

Her neyse, bu proje panorama severler için harika ama aynı zamanda bireysel nesnelerin ve resim detaylarının süper yakın analizini gerçekten ilginç kılacak. Makine öğrenimi, bu tür eserlerin restorasyonu ve yapılandırılmış öğrenme ve bunlara göz atma konusunda büyük umut vaat ediyor.

Yine de canlı yaratıklar için bir tane yazalım: herhangi bir makine öğrenimi mühendisi size, görünürdeki yeteneklerine rağmen, AI modellerinin aslında oldukça yavaş öğrenen olduğunu söyleyecektir. Akademik olarak, elbette, ama aynı zamanda mekansal olarak da – otonom bir ajan, çevresi hakkında en temel anlayışı elde etmek için bile bir alanı saatler boyunca binlerce kez keşfetmek zorunda kalabilir. Ancak bir fare bunu birkaç dakika içinde yapabilir. Nedenmiş? University College London’daki araştırmacılar Bunu araştırıyorlar ve hayvanların belirli bir ortam hakkında neyin önemli olduğunu söylemek için kullandıkları, keşif sürecini seçici ve yönlendirilmiş hale getiren kısa bir geri bildirim döngüsü olduğunu öne sürüyorlar. AI’ya bunu yapmayı öğretebilirsek, gerçekten yapmasını istediğimiz buysa, evin içinde dolaşmak çok daha verimli olacaktır.

Son olarak, oyunlarda üretken ve konuşmaya dayalı yapay zeka için büyük umutlar olsa da… hala tam olarak orada değiliz. Aslında Square Enix, süper eski tarz bir işaretle ve tıkla macerasının “AI Tech Preview” versiyonuyla ortamı yaklaşık 30 yıl geriye götürmüş gibi görünüyor. Portopia Seri Cinayet Davası. Doğal dili entegre etme girişimi, akla gelebilecek her şekilde tamamen başarısız olmuş gibi görünüyor ve ücretsiz oyunu muhtemelen Steam’deki en kötü incelenen başlıklar arasında yapıyor. Shadowgate veya The Dig veya başka bir şey aracılığıyla sohbet etmekten daha çok istediğim bir şey yok, ama bu kesinlikle harika bir başlangıç değil.