Kneron, nöral işlem birimi (NPU) güncellemesiyle GPU eksikliğini hedefliyor

hakkında endişelerle bir küresel GPU sıkıntısı AI için, uç AI başlangıcı Kneron sinirsel işlem birimi (NPU) teknolojisi için rekabetçi bir alternatif olarak bir fırsat görüyor.

Kneron bugün, en yeni KL730 NPU’sunu duyuruyor ve şirket, kendi ürünlerinden dört kata kadar daha fazla enerji verimliliği sunduğunu iddia ediyor. önceki modeller Yeni çip ayrıca trafo tabanlı yapay zeka modelleri olan GPT’yi hızlandırmaya yardımcı olmak için özel olarak üretildi.

Kneron’un silikonu büyük ölçüde otonom araçlar ve tıbbi ve endüstriyel uygulamalar gibi uç uygulamaları hedefliyor, ancak şirket aynı zamanda kurumsal dağıtımlar için de potansiyel görüyor. Kneron, Qualcomm Ve Foxconn ve dağıtımları vardır miktar uç sunucularda.

Kneron’un kurucusu ve CEO’su Albert Liu, VentureBeat’e “Bir NPU, bir GPU’ya kıyasla daha fazla çekirdeğe sahiptir” dedi. “Çekirdekler daha verimli ve incelikli bağlantıyla daha odaklı.

Kneron’un NPU’larının içindeki teknoloji

Liu, bir GPU’nun yapay zeka için amaca yönelik oluşturulmuş bir cihaz olmadığını savundu.

Liu, “GPU donanımı özellikle oyun oynamak için tasarlandı ve şu anda Nvidia, yalnızca bir GPU’nun yapay zeka yapabileceğini söylemeye çalışan hepimizin beynini yıkamaya çalışıyor” dedi.

Nvidia’nın GPU teknolojisi, elbette pazar lideridir ve modern büyük dil modellerinin (LLM’ler) ve üretken yapay zekanın üzerine inşa edildiği temeldir. Liu, bunun her zaman böyle olacağını düşünmediğini ve kuruluşların yapay zeka taleplerini karşılamanın yollarını giderek daha fazla ararken, şirketinin geniş bir pazar ayak izi oluşturacağını umduğunu söyledi.

Kneron’un çipleri bir yeniden yapılandırılabilir AI mimarisi GPU’da kullanılandan farklı bir mimari olan yapay zekayı hızlandırmak için. KL730 ile mimari ayrıca GPT’nin trafo tabanlı yapay zeka modelleri için özel olarak optimize edilmiştir.

Kneron, NPU pazarında köklü bir yer edinmiştir.

KL730, Kneron’un transformatörler için optimize edilmiş ilk yongası değil – şirket, bu yeteneğe sahip olan KL530 silikonunu iki yıl önce duyurdu. Kneron’un silikonundaki trafo modelinin orijinal kullanım durumu, otonom araç üreticilerine yardımcı olmaktı. Liu, trafo modellerinin gerçek zamanlı zamansal korelasyon tespiti kullanım durumlarında çok yardımcı olabileceğini söyledi.

2020’de en azından Liu için net olmayan şey, transformatörlerin LLM’leri ve üretken yapay zekayı etkinleştirmek için yaygın olarak kullanılacağıydı. LLM’lerin ihtiyaçlarını karşılamaya yardımcı olmak için Liu, şirketinin AI çipini GPT tarzı uygulamalar için büyüttüğünü söyledi.

Liu, “Yeniden yapılandırılabilir AI mimarisi, neredeyse her tür yeni modeli desteklemek için çip içindeki yapıyı dinamik olarak değiştirebilir” dedi.

KL730’un kademeli gücü

Yeni KL730 ile Kneron, NPU silikonunda bazı önemli performans iyileştirmeleri yaptı.

Liu, KL703’ün önceki nesillere göre daha iyi performansa sahip olduğunu ve ayrıca kümelenebileceğini söyledi. Bu nedenle, belirli bir kullanım durumu için tek bir çip yeterli değilse, daha büyük bir dağıtımda birden çok KL703 birlikte kümelenebilir.

Kneron’un silikonu günümüzde büyük ölçüde çıkarım kullanım durumlarında kullanılsa da, Liu, birden fazla KL730’u bir araya getirme yeteneğinin, teknolojinin makine öğrenimi (ML) eğitimi için de daha geniş bir şekilde kullanılmasını sağlayacağından umutlu.

“Sunucu uygulamaları için, Kneron’un hali hazırda şu türde müşterileri var: Naver, Chunghwa Telekom Ve Quantadedi Liu. “Foxconn stratejik yatırımcılarımızdan biri ve yapay zeka sunucuları için bizimle yakın işbirliği içinde çalışıyorlar.”