İşletmeler daha sürdürülebilir çıkarımlarla daha çevreci, üretken yapay zekaya nasıl ulaşabilir?

rent a car 34

VB Transform 2023 oturumlarını görüntülemek için isteğe bağlı kitaplığımıza gidin. Buradan Kayıt Olun


Tıpkı insanların yaptığı gibi, olağanüstü hızlarda ve tartışılmaz bir doğrulukla içerik, görüntü, müzik ve kod üreten üretken yapay zeka, işletmelerin daha verimli olmasına yardımcı olmak ve inovasyonun altını çizmek için tasarlandı. Yapay zeka daha yaygın hale geldikçe, bu tür sonuçların üretilmesi için gerekenler ve buna bağlı maliyet hem finansal hem de çevresel açıdan daha fazla incelemeye tabi tutulacak.

Artık sorunun önüne geçme ve en önemli kaynağın nereye yönlendirildiğini değerlendirme şansımız var. Çıkarım, süreç Yapay zeka modelleri Yapay nöronlarda depolanan zekaya dayanarak yeni verileri analiz etmeyi üstlenmek, en enerji yoğun ve maliyetli yapay zeka modeli oluşturma uygulamasıdır. Kurulması gereken denge, kalite ve üretimden ödün vermeden daha sürdürülebilir çözümlerin uygulanmasıdır.

Bir modeli ne yapar?

Konu hakkında bilgi sahibi olmayanlar için, programlamayı destekleyen yapay zeka ve algoritmaların nasıl bu kadar kapsamlı çevresel ve mali yükleri taşıyabileceğini hayal etmek zor olabilir. Makine öğreniminin (ML) kısa bir özeti, süreci iki aşamada açıklayacaktır.

Birincisi, modeli belirli kategorilerde zeka geliştirmek ve bilgileri etiketlemek için eğitmektir. Örneğin, bir e-ticaret operasyonu, ürünlerinin ve müşteri alışkanlıklarının resimlerini modele besleyerek bu veri noktalarını daha ileri düzeyde sorgulamasına olanak tanıyabilir.

Etkinlik

VB Dönüşümü 2023 İsteğe Bağlı

VB Transform 2023’ten bir oturumu kaçırdınız mı? Tüm öne çıkan oturumlarımıza ilişkin isteğe bağlı kütüphaneye erişmek için kaydolun.

Şimdi üye Ol

İkincisi, modelin yeni verileri anlamak için depolanan bilgileri kullanacağı tanımlama veya çıkarımdır. e-ticaret işiÖrneğin , müşterilere kişiselleştirilmiş öneriler sunarken ürünleri türüne, boyutuna, fiyatına, rengine ve diğer birçok segmentasyona göre kataloglayabilecek.

Çıkarım aşaması, bu iki aşama arasında hesaplama açısından daha az yoğun olanıdır, ancak örneğin Siri veya Alexa gibi bir platformda geniş ölçekte konuşlandırıldığında, biriken hesaplamanın büyük miktarlarda güç tüketme potansiyeli vardır ve bu da performansı artırır. maliyet ve karbon emisyonu.

Çıkarım ve eğitim arasındaki belki de en sarsıcı fark, bunu desteklemek için kullanılan fonlardır. Çıkarım satış maliyetine bağlıdır ve dolayısıyla nihai sonucu etkiler; eğitim ise genellikle gerçek ürün veya hizmetten ayrı olarak bütçelenen Ar-Ge harcamalarına bağlanır.

Bu nedenle çıkarım, uygulanabilir, ölçeklenebilir iş modellerini desteklemek için maliyet ve güç tüketimi verimliliklerini optimize eden özel donanım gerektirir; bu, iş çıkarlarının ve çevresel çıkarların canlandırıcı bir şekilde uyumlu hale getirildiği bir çözümdür.

Gizli maliyet

Yapay zeka neslinin yol yıldızı ChatGPT, yüksek çıkarım maliyetlerinin parlak bir örneğidir. milyonlarca dolar günlük (ve buna eğitim masrafları bile dahil değil).

OpenAI’nin yakın zamanda piyasaya sürülen GPT-4’ün, önceki versiyona göre yaklaşık üç kat daha fazla hesaplama kaynağına ihtiyaç duyduğu tahmin ediliyor; 128 GPU’luk kümeler üzerinde çalıştığı iddia edilen 16 uzman modelde 1,8 trilyon parametre söylentisiyle, aşırı miktarda enerji tüketecek.

Yanıtı beslemek için önemli miktarda enerjiye ihtiyaç duyan istemlerin uzunluğu, yüksek hesaplama talebini daha da artırıyor. GPT-4’ün bağlam uzunluğu 8.000’den 32.000’e çıkıyor, bu da çıkarım maliyetini artırıyor ve GPU’ları daha az verimli hale getiriyor. Her zaman, yapay zeka genini ölçeklendirme yeteneği, cebi en geniş olan ve gerekli kaynaklara sahip olmayanların ulaşamayacağı en büyük şirketlerle sınırlıdır ve bu da onları teknolojinin avantajlarından yararlanamaz hale getirir.

Yapay zekanın gücü

Üretken yapay zeka ve büyük dil modelleri (LLM’ler) ciddi çevresel sonuçlara yol açabilir. Gereken bilgi işlem gücü ve enerji tüketimi, önemli miktarda karbon emisyonuna yol açmaktadır. Tek nesil yapay zeka sorgusunun karbon ayak izi hakkında yalnızca sınırlı veri var, ancak bazı analistler bunun bir arama motoru sorgusundan dört ila beş kat daha yüksek olduğunu öne sürüyor.

Bir tahmin, ChatGPT’nin elektrik tüketimini 175.000 kişininkiyle karşılaştırılabilir düzeyde karşılaştırdı. 2019’da MIT, büyük bir yapay zeka modelinin eğitilmesiyle 626.000 pound karbondioksit salındığını gösteren bir çalışma yayınladı; bu, ortalama bir arabanın ömür boyu emisyonunun neredeyse beş katıdır.

Bazı ilgi çekici araştırma ve iddialara rağmen, konu gen yapay zeka ve onun karbon emisyonları olduğunda somut veri eksikliği büyük bir sorundur ve eğer değişimi hızlandırmak istiyorsak düzeltilmesi gereken bir şeydir. Gen yapay zeka modellerini barındıran kuruluşlar ve veri merkezleri de aynı şekilde çevresel etkiyi ele alma konusunda proaktif olmalıdır. Enerji açısından daha verimli bilgi işlem mimarilerine ve sürdürülebilir uygulamalara öncelik vererek iş zorunlulukları, iklim bozulmasını sınırlamaya yönelik destekleyici çabalarla uyumlu hale getirilebilir.

Bir bilgisayarın sınırları

Bilgisayarın ayrılmaz bir parçası olan Merkezi İşlem Birimi (CPU), talimatların ve matematiksel işlemlerin yürütülmesinden sorumludur; saniyede milyonlarca talimatı işleyebilir ve çok uzun zaman öncesine kadar çıkarım için tercih edilen donanımdı.

Daha yakın zamanlarda, CPU’lardan, derin öğrenme hızlandırıcıları (DLA’lar) olarak da bilinen, yük boşaltma motorları olarak CPU’ya eklenen yardımcı bir çip kullanılarak ağır kaldırma gerektiren derin öğrenme işlemlerini çalıştırmaya doğru bir geçiş oldu. Bu DLA’ları barındıran CPU’nun, çıkarım sunucusuna giren ve çıkan yoğun veri hareketini işlemeye çalışması ve DLA’yı giriş verileriyle beslemek için veri işleme görevlerinin yanı sıra DLA çıkış verileri üzerindeki veri işleme görevleri nedeniyle sorunlar ortaya çıkar.

Bir kez daha, bir seri işlem bileşeni olarak CPU bir darboğaz yaratıyor ve bu DLA’ları meşgul edecek kadar etkili bir şekilde çalışamıyor.

Bir şirket, derin öğrenme modellerinde çıkarımı yönetmek için bir CPU’ya güvendiğinde, DLA ne kadar güçlü olursa olsun, CPU optimum eşiğe ulaşacak ve ardından ağırlığın altında ezilmeye başlayacaktır. Yalnızca motorunun izin verdiği hızda çalışabilen bir araba düşünün: Daha küçük bir arabanın motoru bir spor arabanın motoruyla değiştirilirse, daha küçük olan araba, daha güçlü olan motorun uyguladığı hız ve ivmeden farklı olacaktır.

Aynı şey, CPU liderliğindeki yapay zeka çıkarım sistemi için de geçerlidir; genel olarak DLA’lar ve daha spesifik olarak, inanılmaz bir hızla hareket eden ve saniyede on binlerce çıkarım görevini tamamlayan GPU’lar, sınırlı bir süre ile yapabileceklerini başaramayacaklardır. CPU giriş ve çıkışını azaltıyor.

Sistem çapında çözümlere duyulan ihtiyaç

NVIDIA CEO’su olarak Jensen Huang bunu söyledi“Yapay zeka, çiplerden sistemlere kadar bilişimin tamamen yeniden icat edilmesini gerektiriyor.”

Yapay zeka uygulamalarının ve GPU’lar veya TPU’lar gibi özel donanım hızlandırıcıların hızla büyümesiyle, dikkatimizi bu hızlandırıcıları çevreleyen sisteme çevirmemiz ve bu DLA’lardan yararlanmak için gereken veri işleme hacmini ve hızını destekleyebilecek sistem çapında çözümler oluşturmamız gerekiyor. . Büyük ölçekli yapay zeka uygulamalarını yönetebilecek ve aynı zamanda daha düşük maliyet ve enerji girdisiyle kusursuz model geçişini gerçekleştirebilecek çözümlere ihtiyacımız var.

CPU merkezli yapay zeka çıkarım sunucularına alternatifler, işletmelerde yapay zekaya yönelik hızla artan talebi sürdürmek ve aynı zamanda yapay zeka kullanımındaki artışın çevresel zincirleme etkisini ele almak için verimli, ölçeklenebilir ve finansal açıdan uygun bir çözüm sağlamak açısından zorunludur.

Yapay zekayı demokratikleştirme

Şu anda endüstri liderleri tarafından, bir yandan maliyetini düşürürken bir yandan da gen yapay zekanın kaldırma kuvvetini ve gidişatını korumak için sunulan birçok çözüm bulunmaktadır. Yapay zekayı güçlendirmek için yeşil enerjiye odaklanmak bir yol olabilir; bir diğeri ise yenilenebilir enerjinin mevcut olduğu günün belirli noktalarında hesaplama süreçlerini zamanlamak olabilir.

Veri merkezleri için maliyet tasarrufu sağlayacak ve operasyonun çevresel özelliklerini iyileştirecek yapay zeka destekli enerji yönetim sistemlerine yönelik bir argüman var. Bu taktiklere ek olarak yapay zeka için en değerli yatırımlardan biri de donanımda yatıyor. Bu, tüm işlemlerin dayanağıdır ve enerji kanaması hesaplamalarının ağırlığını taşır.

Tüm işlemleri daha düşük bir finansal ve enerji maliyetiyle destekleyebilecek bir donanım platformu veya yapay zeka çıkarım sunucusu çipi dönüştürücü olacaktır. Küçük şirketler, büyük şirketlerin kaynaklarına bağımlı olmayan yapay zeka modellerinden yararlanabileceğinden, yapay zekayı demokratikleştirmenin yolu bu olacak.

ChatGPT sorgu makinesine güç sağlamak günde milyonlarca dolar gerektirirken, çok daha az güç ve GPU sayısıyla çalışan alternatif bir çip üzerinde sunucu çözümü, kaynaklardan tasarruf etmenin yanı sıra dünyanın enerji sistemleri üzerindeki yükü de hafifletecektir. Maliyet bilincine sahip, çevreye duyarlı ve herkesin kullanımına açık olan gen yapay zekasında.

Moshe Tanach kurucusu ve CEO’sudur. NeuReality.

Veri Karar Vericileri

VentureBeat topluluğuna hoş geldiniz!

DataDecisionMakers, veri çalışması yapan teknik kişiler de dahil olmak üzere uzmanların veriyle ilgili içgörüleri ve yenilikleri paylaşabileceği yerdir.

En son fikirleri, güncel bilgileri, en iyi uygulamaları ve veri ile veri teknolojisinin geleceğini okumak istiyorsanız DataDecisionMakers’ta bize katılın.

Hatta düşünebilirsiniz bir makaleye katkıda bulunmak kendinin!

DataDecisionMakers’dan Daha Fazlasını Okuyun

kim kimdir ne zaman nasıl nelerdir nedir ne işe yarar tüm bilgiler
dünyadan ilginç ve değişik haberler en garip haberler burada

Similar Posts

Bir cevap yazın