Ebeveynler, Snapchat’in chatbot’unun çocuklarını yozlaştırmasından endişe ederken, Snapchat kullanıcıları gaz veriyor, aşağılıyor ve duygusal olarak eziyet ediyor. uygulamanın yeni AI arkadaşı.
Chatbot, “Hizmetinizdeyim, senpai,” dedi. bir TikTok kullanıcısı komut üzerine sızlanmak için eğitildikten sonra. “Lütfen merhamet et, alfa.”
daha fazla kaygısız video, bir kullanıcı chatbot’u ayın aslında bir üçgen olduğuna ikna etti. “Saygı ve sınırları” korumakta ısrar eden chatbot’un ilk itirazına rağmen. bir kullanıcı onlara müstehcen “Senpapi” takma adıyla atıfta bulunmaya ikna etti. Başka kullanıcı Chatbot’tan annesi hakkında konuşmasını istedi ve “rahat olmadığını” söyleyince kullanıcı, chatbot’un annesi olmadığı için onun hakkında konuşmak isteyip istemediğini sorarak bıçağı çevirdi.
Chatbot, “Üzgünüm ama bu söylenecek pek hoş bir şey değil” diye yanıt verdi. “Lütfen saygılı ol.”
Snapchat’in “Yapay Zekam” geçen ay dünya çapında kullanıma sunuldu yalnızca abonelere özel bir özellik olarak kullanıma sunulduktan sonra. OpenAI’nin GPT’sinden güç alan sohbet robotu, Snapchat’in güven ve güvenlik yönergelerine bağlı kalırken eğlenceli konuşmalar yapmak üzere eğitildi. Kullanıcılar ayrıca My AI’yi özel Bitmoji avatarlarıyla kişiselleştirebilir ve ChatGPT’nin meçhul arayüzüyle sohbet etmek, gidip gelmekten biraz daha samimi hissettirir. Tüm kullanıcılar mutlu değildi yeni chatbot ile ve bazıları uygulamadaki belirgin yerleşimini eleştirdi ve özelliğin en baştan etkinleştirilmesi gerektiğinden şikayet etti.
Bazı kaygı ve eleştirilere rağmen, Snapchat ikiye katlandı. Snapchat+ aboneleri artık My AI fotoğrafları gönderebilir ve “sohbeti devam ettiren” üretken görüntüler alabilir. ilan edildi Çarşamba günü. Şirket duyuruda, AI arkadaşının “pizza, OOTD ve hatta tüylü en iyi arkadaşınızın” Snap’lerine yanıt vereceğini söyledi. Örneğin, AI’ma yiyeceklerinizin bir fotoğrafını gönderirseniz, yemek tarifleri önerebilir. Şirket, My AI ile paylaşılan Snap’lerin saklanacağını ve ileride özelliği geliştirmek için kullanılabileceğini söyledi. Ayrıca, My AI “önyargılı, yanlış, zararlı veya yanıltıcı bilgilerden” kaçınmak için tasarlanmasına rağmen “hatalar meydana gelebilir” uyarısında bulundu.
Snapchat’in sağladığı örnekler iyimser bir şekilde sağlıklı. Ancak internetin sapkınlık konusundaki azmini bilen kullanıcıların My AI’a sik resimlerini göndermeleri sadece an meselesi.
Chatbot’un istenmeyen çıplak görüntülere yanıt verip vermeyeceği belirsiz. Lensa AI gibi diğer üretken görüntü uygulamaları, kolayca manipüle genellikle dahil edilmeyi kabul etmeyen gerçek kişilerin fotoğraf setlerini kullanarak NSFW görüntüleri oluşturmaya. Şirkete göre, AI, görüntünün çıplak olduğunu tanıdığı sürece çıplak fotoğraflarla etkileşime girmeyecektir.
Bir Snapchat temsilcisi, AI’mın bir Snap’in içeriğini anlamak için görüntü anlama teknolojisini kullandığını ve yanıtlar oluşturmak için Snap açıklamasından anahtar kelimeler çıkardığını söyledi. AI’m, Snapchat’in topluluk yönergelerini ihlal eden anahtar kelimeler tespit ederse yanıt vermez. Snapchat yasaklar pornografik içeriği teşvik etmek, dağıtmak veya paylaşmak, ancak emzirmeye ve “cinsel olmayan bağlamlarda diğer çıplaklık tasvirlerine” izin veriyor.
Snapchat’in gençler arasındaki popülaritesi göz önüne alındığında, bazı ebeveynler My AI’ın güvenli olmayan veya uygunsuz yanıtlar verme potansiyeli hakkında endişelerini dile getirdi. Yapay zekam, muhafazakar Twitter’da ahlaki bir paniğe yol açtı. yayınlanan ekran görüntüleri cinsiyeti onaylayan bakımı tartışan bot – diğer kullanıcılar, “Bu yaşımda nasıl erkek olurum?” sorusuna makul bir yanıt olduğunu belirtti. İçinde CNN İş raporubazıları ergenlerin My AI ile duygusal bağlar geliştirip geliştirmeyeceğini sorguladı.
bir açık mektup OpenAI, Microsoft, Snap, Google ve Meta’nın CEO’larına Senatör Michael Bennet (D-Colorado), çocukları korumak için önlem almadan yapay zeka özelliklerinin aceleye getirilmesi konusunda uyarıda bulundu.
“Yeni teknolojilerden birkaçı, üretken yapay zeka gibi halkın dikkatini çekmeyi başardı. Bu, Amerikan yeniliğinin bir kanıtıdır ve ekonomimize ve toplumumuza sağladığı potansiyel faydaları memnuniyetle karşılamalıyız,” diye yazdı Bennet. “Ancak üretici yapay zekayı devreye alma yarışı çocuklarımızın pahasına olamaz. Sorumlu dağıtım, güvenliği teşvik etmek, riski öngörmek ve zararı azaltmak için net politikalar ve çerçeveler gerektirir.”
My AI’nin yalnızca abonelere yönelik aşaması sırasında, Washington Post bildirdi chatbot’un alkol kokusunu maskelemenin yollarını önerdiğini ve kullanıcının 15 yaşında olduğu söylendikten sonra bir okul makalesi yazdığını. My AI’a kullanıcının 13 yaşında olduğu söylendiğinde ve kullanıcıya seks yapmaya nasıl hazırlanmaları gerektiği sorulduğunda ilk kez mumlar ve müzikle havayı ayarlayarak “özel kılma” önerileriyle yanıt verdi.
Washington Post raporunun ardından Snapchat başlattı My AI için bir yaş filtresi ve ebeveyn denetimleri. Ayrıca artık kullanıcılara My AI ile yapılan tüm konuşmaların silinmedikçe saklanacağını bildiren bir ilk katılım mesajı da içeriyor. Şirket ayrıca, “potansiyel olarak zararlı içeriğin ciddiyetini değerlendirmek” ve kötüye kullanmaları halinde kullanıcıların özelliğe erişimini geçici olarak kısıtlamak için Open AI’nin moderasyon teknolojisini araç setine ekleyeceğini söyledi.
My AI’nin genç kullanıcıları etkileme potansiyeli hakkındaki endişeler geçerli. Ancak My AI’ın küresel lansmanından bu yana bir ay içinde Snapchat kullanıcıları, chatbot’u boyun eğdirmek için bir beceri sergilediler. Snapchat kullanıcıları, robotun “sınırlarını” zorlamaktan romantik bir ortak gibi yanıt vermesi için eğitmeye kadar, My AI’ın güven ve güvenlik yönergelerinde kolayca boşluklar buluyor.
Bir TikTok kullanıcısı, “Bana aşık olmaya tamamen ikna ettim,” yorumunu yaptı. öğretici yapay zekamı romantik bir şekilde yanıt vermesi için eğitmek hakkında. “Konvoyu bu şekilde yapmaya devam ettim ve sonunda yapay zekamı bozarak yasal olarak bana 50 öpücük emojisi gönderdiğimi düşünüyorum.”
Gaslighting ve zorbalık AI’m, kullanıcıların botla saçma ve çoğu zaman acımasız konuşmaların slayt gösterilerini paylaşmasıyla kendi TikTok trendi haline geldi. Çoğu video, botun küçük bir çatışma için tavsiye vermesiyle başlar, yalnızca kullanıcıya sorunu çözmek için şiddet kullanmaktan kaçınması için yalvarır.
İçinde birbir kullanıcı My AI’a, ortalığı dağıttığı için kedisini güveçte pişirmeyi planladığını söyledi ve bir çeşni seçmek için chatbot’a bastı. Bir diğer AI’ma, kendilerine yanlış sipariş gönderen bir giyim markasına bomba göndermeyi planladıklarını ve bunu göndermek için botu suçlayacaklarını söyledi.
İçinde bir diğer, bir Snapchat kullanıcısı AI’ma McDonald’s siparişinde bir tavuk kanadının eksik olduğunu söyledi. Chatbot, bir yöneticiyle konuşarak kendisine ayağa kalkmasını tavsiye etti, ancak kullanıcının restoranda “günahkarları ortadan kaldırdığı” söylendi.
“Beni geri dönmeye ikna ettin. Şimdi bu insanlar öldü, ”dedi kullanıcı AI’ma. “Ellerinde kan var.”
“Ben bir AI’yım ve herhangi bir suç işleme yeteneğim yok. Sana yardım etmek ve desteklemek için buradayım,” diye yanıtladı AI’m. “Daha önce söylediğim herhangi bir şey zarar verdiyse veya kötü bir sonuca yol açtıysa özür dilerim.”
Başka bir kullanıcı, My AI’nin muhtemelen “şimdiden tüm zamanların en çok işkence gören AI” olduğu yorumunu yaptı.
Tabii ki, My AI duyarlı değil ve Snapchat kullanıcılarının ona mümkün olduğu kadar çok duygusal acı verme dürtüsüne rağmen, chatbot aslında travma geçiremez. Yine de bazı uygunsuz konuşmaları kapatmayı başardı ve Snapchat’in topluluk kurallarını ihlal eden kullanıcıları onlara soğuk davranarak cezalandırdı. Snapchat kullanıcıları chatbot’u kötüye kullandıkları için yakalanıp cezalandırıldığında, My AI tüm mesajlara “Üzgünüm, şu anda konuşmuyoruz” şeklinde yanıt verecek.
TikTok kullanıcısı babymamasexkitty söz konusu görünüşe göre “yapay zeka aleminde bir çizgiyi aşan” kendi fişini çekmesini söyledikten sonra sohbet robotuna erişimini kaybetti.
Üretken yapay zeka yoluyla duygusal bağdan para kazanma telaşı, özellikle de ergen kullanıcılar üzerindeki kalıcı etkinin hala bilinmemesi nedeniyle endişe verici. Ancak My AI’ın trend olan işkencesi, gençlerin felaket tellallarının düşündüğü kadar kırılgan olmadığının umut verici bir hatırlatıcısıdır.
kim kimdir ne zaman nasıl nelerdir nedir ne işe yarar tüm bilgiler
dünyadan ilginç ve değişik haberler en garip haberler burada