FedML, MLOps araçlarını merkezi olmayan bir yapay zeka bilgi işlem ağıyla birleştirmek için 11,5 ABD doları artırdı

Kuruluşlar arasında yapay zekaya olan ilgi artmaya devam ediyor. anket şirketlerin yaklaşık üçte ikisinin bu yıl yapay zeka ve makine öğrenimi harcamalarını artırmayı veya sürdürmeyi planladığını görüyoruz. Ancak çoğu zaman bu şirketler, çeşitli yapay zeka biçimlerini üretime dağıtırken engelleyicilerle karşılaşıyor.

Rexer Analytics’ten bir 2020 anketi kurmak yapay zeka modellerinin yalnızca %11’inin her zaman dağıtıldığı. Başka bir yerde, bir Gartner analisti tahmini büyük veri projelerinin %85’e yakını başarısız oluyor.

USC-Amazon Güvenilir Makine Öğrenimi Merkezi’nin açılış direktörü Salman Avestimehr, zorlukların üstesinden gelmekten ilham alarak şirketlerin yapay zeka modellerini bulutta veya uçta eğitmesine, devreye almasına, izlemesine ve iyileştirmesine olanak tanıyan bir startup kurdu. İsminde FedMLRoad Capital ve Finality Capital’in katılımıyla Camford Capital liderliğinde 56,5 milyon $’lık bir değerlemeyle 11,5 milyon $’lık başlangıç ​​fonu topladı.

TechCrunch’a bir e-posta röportajında ​​Avestimehr, “Birçok işletme, şirkete özgü veya sektör verileri üzerinde özel AI modellerini eğitmeye veya ince ayar yapmaya isteklidir, böylece AI’yı çeşitli iş ihtiyaçlarını karşılamak için kullanabilirler” dedi. “Maalesef özel yapay zeka modellerinin oluşturulması ve sürdürülmesi, yüksek veri, bulut altyapısı ve mühendislik maliyetleri nedeniyle çok pahalı. Ayrıca, özel AI modellerini eğitmek için özel veriler genellikle hassastır, düzenlenir veya silolanır.”

Avestimehr, FedML’nin şirketlerin ve geliştiricilerin verileri, modelleri ve bilgi işlem kaynaklarını paylaşarak yapay zeka görevleri üzerinde birlikte çalışmasına olanak tanıyan “işbirliğine dayalı” bir yapay zeka platformu sağlayarak bu engellerin üstesinden geldiğini iddia ediyor.

FedML, açık kaynak topluluğundan herhangi bir sayıda özel yapay zeka modeli veya modeli çalıştırabilir. Müşteriler, platformu kullanarak bir ortak çalışan grubu oluşturabilir ve AI uygulamalarını cihazları (örn. PC’ler) arasında otomatik olarak senkronize edebilir. Ortak çalışanlar, AI modeli eğitimi için kullanılacak sunucular ve hatta mobil cihazlar gibi cihazlar ekleyebilir ve eğitimin ilerlemesini gerçek zamanlı olarak izleyebilir.

Son zamanlarda FedML, OpenAI’ler gibi “etki alanına özgü” büyük dil modelleri (LLM’ler) oluşturmak için bir eğitim hattı olan FedLLM’yi piyasaya sürdü. GPT-4 özel veriler üzerinde. Avestimehr, Hugging Face’s ve Microsoft’un DeepSpeed’i gibi popüler LLM kitaplıklarıyla uyumlu olan FedLLM’nin, güvenlik ve mahremiyeti korurken özel yapay zeka geliştirme hızını artırmak için tasarlandığını söylüyor. (Açık olmak gerekirse, jüri tam olarak bunu başarıp başarmadığı konusunda dışarıda.)

Bu şekilde FedML, diğer MLOps platformlarından pek farklı değildir – “MLOps”, yapay zeka modellerini üretime alma ve ardından bunları sürdürme ve izleme sürecini kolaylaştırmaya yönelik araçlara atıfta bulunur. var Galileo Ve Arize birlikte Seldon, Qwak Ve kuyruklu yıldız (birkaç isim). AWS, Microsoft ve Google Cloud gibi yerleşik şirketler de bir şekilde MLOps araçları sunar (bkz.: Bilge Yapıcı, Azure Makine Öğrenimivesaire.)

Ancak FedML’nin yapay zeka ve makine öğrenimi model araçlarını geliştirmenin ötesinde tutkuları var.

Avestimehr’in söylediğine göre amaç, dağıtıma hazır olduklarında modelleri barındırmak ve sunmak için CPU ve GPU kaynaklarından oluşan bir “topluluk” oluşturmaktır. Ayrıntılar henüz çözülmedi, ancak FedML, kullanıcıları jetonlar veya diğer tazminat türleri aracılığıyla platforma bilgi işlem yapmaya teşvik etmeyi amaçlıyor.

Yapay zeka modeli sunumu için dağıtılmış, merkezi olmayan bilgi işlem yeni bir fikir değil — Gensys, Çalıştır.AI Ve yaprakları deneyenler – ve deneyenler – arasındadır. Yine de Avestimehr, FedML’nin bu bilgi işlem paradigmasını bir MLOps paketiyle birleştirerek daha fazla erişim ve başarı elde edebileceğine inanıyor.

Avestimehr, “FedML, geliştiricilerin ve işletmelerin büyük ölçekli, tescilli ve özel LLM’leri daha düşük maliyetle oluşturmasını sağlayarak özel yapay zeka modellerini mümkün kılıyor” dedi. “FedML’yi diğerlerinden ayıran şey, makine öğrenimi modellerini her yerde eğitme, dağıtma, izleme ve iyileştirme ve birleştirilmiş veriler, modeller ve bilgi işlem üzerinde işbirliği yaparak maliyeti ve pazara sunma süresini önemli ölçüde azaltma yeteneğidir.”

Bu noktaya kadar, 17 kişilik bir işgücüne sahip olan FedML’nin, “birinci kademe” otomotiv tedarikçisi dahil olmak üzere yaklaşık 10 ödeme yapan müşterisi ve yeni fonlama dahil en büyük toplam 13,5 milyon doları var. Avestimehr, platformun dünya çapında 3.000’den fazla kullanıcı tarafından kullanıldığını ve 10.000’den fazla cihazda 8.500’den fazla eğitim işi gerçekleştirdiğini iddia ediyor.

Avestimehr kendinden emin bir şekilde, “Veri veya teknik karar vericiler için FedML, özel, uygun fiyatlı yapay zeka ve büyük dil modellerini gerçeğe dönüştürüyor,” dedi. “Birleştirilmiş öğrenme teknolojisi temeli, MLOps platformu ve geliştiricilerin özel modelleri eğitmesine, sunmasına ve gözlemlemesine yardımcı olan işbirlikçi yapay zeka araçları sayesinde, özel alternatifler oluşturmak erişilebilir bir en iyi uygulamadır.”