Bedrock ile Amazon üretken AI yarışına giriyor

Amazon, şapkasını üretken AI halkasına atıyor. Ancak yapay zeka modellerini tamamen kendi başına oluşturmak yerine, modelleri AWS’de barındırması için üçüncü tarafları işe alıyor.

AWS bugün, AI21 Labs, antropik Ve Kararlılık AI. “Sınırlı ön izleme” olarak sunulan Bedrock ayrıca, AWS tarafından kurum içinde eğitilmiş bir model ailesi olan Titan FM’lere (temel modeller) erişim sunar.

AWS’de Üretken Yapay Zekadan Sorumlu Başkan Yardımcısı Vasi Philomin, TechCrunch’a bir telefon görüşmesinde “Makine öğrenimini gerçek dünyaya uygulamak – gerçek iş sorunlarını geniş ölçekte çözmek – en iyi yaptığımız şey” dedi. “Orada bulunan her uygulamanın üretken yapay zeka ile yeniden tasarlanabileceğini düşünüyoruz.”

Bedrock’un ilk çıkışı, üretken AI uygulamaları oluşturmak için gereken teknolojiye artan yatırımlarına ek olarak, AWS’nin son birkaç ay içinde üretken AI girişimleriyle yakın zamanda imzaladığı ortaklıklar tarafından bir şekilde telgraflandı.

Geçtiğimiz Kasım ayında Stability AI, tercih edilen bulut sağlayıcısı olarak AWS’yi seçti ve Mart ayında Hugging Face ve AWS, öncekinin metin oluşturma modellerini AWS platformuna getirmek için iş birliği yaptı. Daha yakın zamanlarda, AWS başlattı yeni başlayanlar için üretken bir yapay zeka hızlandırıcı ve yapay zeka modellerini eğitmek için “yeni nesil” altyapı oluşturmak üzere Nvidia ile birlikte çalışacağını söyledi.

Ana kaya ve özel modeller

Bedrock, 2030 yılına kadar 110 milyar dolara yakın bir değere sahip olabilecek üretken yapay zeka pazarı için Amazon’un şimdiye kadarki en güçlü oyunu. binaen Grand View Research’ün tahminlerine göre.

Bedrock ile AWS müşterileri, bir API aracılığıyla AWS dahil olmak üzere çeşitli farklı sağlayıcıların yapay zeka modellerinden yararlanmayı tercih edebilir. Ayrıntılar biraz belirsiz – Amazon, biri için resmi fiyatlandırmayı açıklamadı. Ama şirket yaptı Bedrock’un “kurumsal ölçekte” yapay zeka uygulamaları geliştiren büyük müşterileri hedeflediğini vurgulayarak, onu bazı yapay zeka modeli barındırma hizmetlerinden ayırıyor. Tekrarlamak (artı mevcut rakipler Google Cloud ve Azure).

Üretken yapay zeka modeli satıcılarının AWS’nin erişimi veya potansiyel gelir paylaşımı tarafından Bedrock’a katılmaya teşvik edildiği varsayılabilir. Ancak Amazon, model lisanslama veya barındırma sözleşmelerinin şartlarını açıklamadı.

Bedrock’ta barındırılan üçüncü taraf modelleri, çok dilli olan ve İspanyolca, Fransızca, Almanca, Portekizce, İtalyanca ve Felemenkçe metin oluşturabilen AI21 Labs’ın Jurassic-2 ailesini içerir. Anthropic’in Bedrock’taki modeli Claude, bir dizi konuşma ve metin işleme görevini gerçekleştirebilir. Bu arada, Stability AI’nin metinden görüntüye Bedrock tarafından barındırılan modeller paketi, Kararlı Difüzyonresimler, sanat eserleri, logolar ve grafik tasarımlar üretebilir.

Görsel Kaynakları: Amazon

Amazon’un ısmarlama tekliflerine gelince, Titan FM ailesi şu anda iki modelden oluşuyor ve muhtemelen gelecekte daha fazlası da gelecek: metin üreten bir model ve bir gömme model. OpenAI’ninkine benzeyen metin oluşturma modeli GPT-4 (ancak performans açısından eşit olması gerekmez), blog gönderileri ve e-postalar yazmak, belgeleri özetlemek ve veritabanlarından bilgi çıkarmak gibi görevleri gerçekleştirebilir. Gömme modeli, sözcükler ve tümcecikler gibi metin girdilerini, metnin anlamsal anlamını içeren, gömme olarak bilinen sayısal temsillere çevirir. Philomin, Amazon.com’daki aramaları güçlendiren modellerden birine benzediğini iddia ediyor.

AWS müşterileri, hizmeti Amazon’un bulut depolama planı olan Amazon S3’teki birkaç etiketli örneğe yönlendirerek herhangi bir Bedrock modelini özelleştirebilir; en az 20 tane yeterlidir. Amazon, temel modelleri eğitmek için hiçbir müşteri verisinin kullanılmadığını söylüyor.

Philomin, “AWS’de … makine öğrenimini demokratikleştirmede ve onu kullanmak isteyen herkes için erişilebilir hale getirmede kilit bir rol oynadık” dedi. “Amazon Bedrock, temel modellerle üretken yapay zeka uygulamaları oluşturmanın ve ölçeklendirmenin en kolay yoludur.”

Elbette, üretici yapay zekayı çevreleyen yanıtlanmamış yasal sorular göz önüne alındığında, tam olarak kaç müşterinin ısıracağı merak ediliyor.

Microsoft, OpenAI modellerini kurumsal müşterilere yönelik ek özelliklerle bir araya getiren üretici yapay zeka model paketi Azure OpenAI Hizmeti ile başarıya ulaştı. Microsoft, Mart ayı itibarıyla 1.000’den fazla müşterinin Azure OpenAI Hizmetini kullandığını söyledi. Blog yazısı.

Ama orada bekleyen birkaç dava OpenAI ve Stability AI dahil olmak üzere şirketlerden gelen, çoğunlukla sanat eseri olmak üzere telif hakkıyla korunan verilerin üretken modelleri eğitmek için izinsiz kullanıldığını iddia eden davacılar tarafından getirilen üretken AI teknolojisi. (Üretken yapay zeka modelleri, genellikle web’den ayrım gözetmeksizin kazınmış örnek görüntüler ve metin üzerinde “eğitim” yaparak sanat, kod ve daha fazlasını oluşturmayı “öğrenir”). dava mahkemelerde yol almak, atıf veya kredi vermeyen kod üreten modellerin gerçekten ticarileştirilip ticarileştirilemeyeceğini belirlemeye çalışıyor ve Avustralyalı bir belediye başkanı, yanlışlıklar nedeniyle OpenAI’ye karşı bir karalama davası açmakla tehdit etti. fışkıran üretici modeline göre ChatGPT.

Açıkçası Philomin, Amazon’un Titan FM ailesinin tam olarak hangi veriler üzerinde eğitildiğini söylemeyi reddederek pek güven uyandırmadı. Bunun yerine Titan modellerinin, AWS müşterilerinin özelleştirme için sağladığı verilerdeki “zararlı” içeriği tespit edip kaldırmak, kullanıcıların girdiği “uygunsuz” içeriği reddetmek ve nefret söylemi, küfür ve şiddet içeren çıktıları filtrelemek için tasarlandığını vurguladı.

Tabii en iyisi bile filtreleme sistemleri ChatGPT tarafından gösterildiği gibi aşılabilir. ChatGPT ve benzer modellere yönelik sözde hızlı enjeksiyon saldırıları, kötü amaçlı yazılım yazmak, açık kaynak kodundaki açıkları belirlemek ve iğrenç bir şekilde cinsiyetçi, ırkçı ve yanlış bilgilendirme içerik. (Üretici AI modelleri, eğitim verilerindeki önyargıları artırma eğilimindedir veya – ilgili eğitim verileri biterse – basitçe bir şeyler uydurur.)

Ancak Philomin bu endişeleri bir kenara attı.

“Kendimizi bu teknolojilerin sorumlu kullanımına adadık” dedi. “Dışarıdaki düzenleme ortamını izliyoruz… hangi verileri kullanabileceğimize ve hangilerini kullanamayacağımıza bakmamıza yardımcı olan birçok avukatımız var.”

Philomin’in güvence verme girişimleri bir yana, markalar ters gidebilecek her şey için kancaya takılmak istemeyebilir. (Bir dava durumunda, AWS müşterilerinin mi, AWS’nin kendisinin mi yoksa soruna neden olan modelin oluşturucusunun mu sorumlu tutulacağı tam olarak açık değildir.) Ancak bireysel müşteriler, özellikle de ayrıcalık için herhangi bir ücret yoksa, sorumlu tutulabilir.

CodeWhisperer, Trainium ve Inferentia2 GA’da piyasaya sürüldü

Konuyla ilgili olarak ve bugünkü büyük üretken AI hamlesiyle aynı zamana denk gelen Amazon, CodeWhispererAI destekli kod oluşturma hizmeti, herhangi bir kullanım kısıtlaması olmaksızın geliştiriciler için ücretsizdir.

Hareket, CodeWhisperer’ın Amazon’un umduğu gibi bir artış görmediğini gösteriyor. Baş rakibi GitHub’s yardımcı pilot, Ocak ayı itibarıyla binlercesi kurumsal müşteri olan bir milyondan fazla kullanıcıya sahipti. CodeWhisperer’ın kesinlikle telafi etmesi gereken bir zemin var ve bunu CodeWhisperer Professional Tier’ın eş zamanlı lansmanı ile kurumsal tarafta yapmayı hedefliyor. CodeWhisperer Professional Tier, AWS Identity and Access Management entegrasyonu ile çoklu oturum açmanın yanı sıra güvenlik açıklarını taramaya daha yüksek sınırlar ekler.

CodeWhisperer, Haziran ayı sonunda kullanıma sunuldu. AWS IDE Araç Seti ve yukarıda belirtilen Yardımcı Pilot’a bir tür yanıt olarak AWS Toolkit IDE uzantıları. Milyarlarca halka açık açık kaynak kodu satırı ve Amazon’un kendi kod tabanının yanı sıra halka açık forumlardaki belgeler ve kodlar konusunda eğitim alan CodeWhisperer, Java, JavaScript ve Python gibi dillerdeki tüm işlevleri yalnızca bir yoruma veya birkaç tuşa basarak otomatik olarak tamamlayabilir.

Görsel Kaynakları: Amazon

CodeWhisperer artık birkaç ek programlama dilini destekliyor — özellikle Go, Rust, PHP, Ruby, Kotlin, C, C++, Shell komut dosyası oluşturma, SQL ve Scala — ve daha önce olduğu gibi benzerlik taşıdığını öne sürdüğü işlevlerle ilişkili lisansı vurguluyor ve isteğe bağlı olarak filtreliyor eğitim verilerinde bulunan mevcut snippet’lere.

Vurgulama, GitHub’ın Copilot ile karşılaştığı yasal zorlukları ortadan kaldırma girişimidir. Başarılı olup olmadığını zaman gösterecek.

Philomin, “Geliştiriciler bu araçlarla çok daha üretken olabilir” dedi. “Geliştiricilerin her konuda güncel olması zor… Bunun gibi araçlar, onların bu konuda endişelenmelerine gerek kalmamasına yardımcı oluyor.”

Daha az tartışmalı bir bölgede, Amazon bugün şirket tarafından desteklenen Elastic Cloud Compute (EC2) Inf2 bulut sunucularını genel kullanıma sunuyor AWS Çıkarımı2 geçen yıl Amazon’un re:Invent konferansında önizlemesi yapılan çipler. Inf2 bulut sunucuları, yapay zeka çalıştırma sürelerini hızlandırmak için tasarlanmıştır ve görünürde daha iyi verim ve iyileştirilmiş genel çıkarım fiyatı performansı için daha düşük gecikme sağlar.

Ayrıca, Amazon EC2 Trn1n bulut sunucuları tarafından desteklenmektedir. AWS trenyumAmazon’un AI eğitimi için özel olarak tasarlanmış çipinin de bugün itibarıyla genel olarak müşterilerin kullanımına sunulduğunu duyurdu. Amazon, 1600 Gbps’ye kadar ağ bant genişliği sunduklarını ve büyük, yoğun ağ kullanan modeller için Trn1’e göre %20’ye kadar daha yüksek performans sağlamak üzere tasarlandıklarını söylüyor.

Hem Inf2 hem de Trn1n, Google’ınki gibi Google ve Microsoft’un rakip teklifleriyle rekabet eder. TPU AI eğitimi için çipler.

Philomin kendinden emin bir şekilde, “AWS, üretken yapay zeka için en etkili bulut altyapısını sunuyor” dedi. “Müşterilerin ihtiyaçlarından biri, bu modellerle uğraşmak için doğru maliyetler… Birçok müşterinin bu modelleri üretime sokmamasının nedenlerinden biri de bu.”

Onların savaşan sözleri — üretken yapay zekanın büyümesi bildirildiğine göre Azure’a diz çöktürdü. Amazon da aynı kaderi paylaşacak mı? Bu belirlenecek.