CalypsoAI, üretken yapay zeka modellerine korkuluk eklemek için 23 milyon dolar artırdı

Şirketler giderek kucaklayan üretken AI. Ancak teknolojiyi mevcut iş akışlarına katmakla birlikte gelen tüm engelleyicileri ve zorlukları mutlaka dikkate almıyorlar.

yakın tarihli birinde anket KPMG tarafından yapılan bir araştırmaya göre işletmelerin %90’ı, üretken yapay zeka kullanmanın riskleri hakkında “orta ila yüksek derecede önemli” endişeleri olduğunu ve bu risklerin nasıl azaltılacağı konusunda şüpheleri olduğunu söyledi. Bu arada yalnızca %6, şirketlerinin yerinde olgun bir yapay zeka yönetişim programına sahip olduğunu hissettiklerini söyledi.

Neil Sereybrany’nin kurduğu kısmen bu nedenlerden dolayıdır. CalypsoAIdahili olarak geliştirilen ve ayrıca üçüncü taraf AI uygulamalarını dağıtımlarından önce test etmek, doğrulamak ve izlemek için yazılım geliştiren bir girişim.

Sereybrany, TechCrunch’a bir e-posta röportajında ​​”CalypsoAI’nin platformu, yapay zeka kullanımının güvenli, güvenli ve güvenilir bir şekilde sağlayabileceği gücü ve rekabet avantajını destekliyor” dedi.

Bu çıtayı yüksek tutuyor. Ancak yatırımcılar açıkça CalypsoAI’nin teslim etme yeteneğine inanıyor. Girişim bugün, Lockheed Martin Ventures, Hakluyt Capital ve Expeditions Fund’ın katılımıyla Paladin Capital Group liderliğindeki A-1 Serisi turunda 23 milyon dolar topladığını duyurdu.

A-1 dilimine, eski YouTube CEO’su Susan Wojcicki ve kız kardeşi 23andMe’nin kurucu ortağı Anne Wojcicki de dahil olmak üzere önemli melekler de katkıda bulundu. CalypsoAI bugüne kadar 38,2 milyon dolar topladı.

CalypsoAI, bir kuruluşun altyapısı içinde bir kapsayıcı olarak dağıtılan araçlarının işletmelerin aşağıdakiler gibi büyük dil modellerinin kullanımını izlemesine ve şekillendirmesine olanak tanıdığını iddia ediyor: ChatGPT, modellerin toksisitesi, kullanıcı etkileşimi ve daha fazlasıyla ilgili istatistikleri gösteren panolar aracılığıyla. Sereybrany, CalypsoAI’nin üretken AI araçlarından gelen saldırıları tespit ederken hassas şirket verilerinin modellerde paylaşılmasını engelleyebileceğini söylüyor.

Sereybrany, “Her şirket, üretken yapay zeka çözümlerinin faydalarından, yani net üretkenlik kazanımlarından yararlanmak isterken, aynı zamanda siber saldırılara maruz kalmadıklarından ve çalışanların hassas bilgileri halka açık modellere ifşa etmediğinden emin olmak isterler” diye ekledi. “CalypsoAI’yi uygulayarak, CISO’lar ve BT liderleri, üretken yapay zeka çözümlerini kuruluşlarında güvenli ve emniyetli bir şekilde uygulamayı ciddi bir şekilde düşünmeye başlayabilir ve bu da ek risk olmadan işlerine verimlilik katmalarına olanak tanır.”

Kesinlikle, kurumsal sektörde bir tür üretken yapay zeka korkuluk çözümü için talep var. Apple, JPMorgan Chase ve Verizon gibi şirketler, çalışanların özel bilgileri yanlışlıkla açığa çıkarabileceği korkusuyla yasaklanmış veya kısıtlanmış dahili olarak ChatGPT benzeri araçların kullanımı. Bu aynı şirketlerin çoğu üretken yapay zekaya karşı temkinli. toksisite Ve yanlış bilgilendirme sorunlarbugün mevcut olan en iyi modelleri bile rahatsız etmeye devam ediyor.

Devasa potansiyel adreslenebilir pazara bakan sektör, talebi karşılamak için yükseldi. Microsoft, ChatGPT de dahil olmak üzere OpenAI’nin üretken yapay zeka modellerinin yanı sıra yönetişim ve uyumluluk özellikleri sağlayan Azure OpenAI Hizmetini sunar. Başka bir yerde, Salesforce kısa süre önce Einstein Güven Katmanımetin oluşturan modellerin hassas verileri tutmasını engellemeye çalışır.

Bununla birlikte, bu korkulukların pratikte ne kadar iyi çalıştığı açık bir sorudur. Bir satıcının iddialarını sorgulayan araştırmacılar yakın zamanda ortaya çıkardı kusurlar Nvidia’nın yapay zeka destekli uygulamaları daha doğru ve güvenli hale getirmeyi amaçlayan araç seti NeMo Guardrails’te, araç setinin korumalarının atlanmasına olanak tanır.

Sereybrany – ne pahasına olursa olsun – CalypsoAI ürünlerinin saldırılara karşı dayanıklı olduğu konusunda ısrar etti. Aynı nefeste, CalypsoAI’nin müşterilerinden herhangi bir veri tutmadığını, bunun yerine yalnızca çalışanlardan bir şirketin tercih ettiği modele bilgi akışını kolaylaştırdığını vurguladı.

Sereybrany, “Kuruluşta LLM’leri güvence altına almak kritik bir girişim haline geldi ve bu da CalypsoAI’nin stratejik olarak yapay zeka çözümlerini kullanmak isteyen işletmelerin ihtiyaçlarını ele almasına yol açtı” dedi. “Üretimlerini ilerletmek için üretken AI çözümlerini güvenli bir şekilde kullanmak isteyen birçok kuruluşla CalypsoAI, kurumsal organizasyonları güvence altına almak için mümkün olan en iyi ürünü geliştirme ve en iyi yetenekleri çekme becerimize güveniyor.”

Sereybrany, CalypsoAI’nin en son dilimden gelen finansmanı ürün geliştirme, işe alma ve şirketin pazara açılma girişimlerini yönlendirmek için kullanacağını söylüyor. CalypsoAI’nin şu anki çalışan sayısı 35’tir ve girişim kısa süre önce Dublin’de bir ofis açtı – CalypsoAI’nin önümüzdeki iki yıl içinde iş gücünü ikiye katlama planının bir parçası.

“Şirketimiz büyümeye ve genişlemeye devam ettikçe, büyümemizi desteklemek için yeni yatırımcılar getirmenin değerinin farkındayız” diye devam etti. “Vizyonumuzu ve hedeflerimizi paylaşan yatırımcılarla ortaklık kurarak yenilik yapmaya ve işimizi ileriye götürmeye devam edebiliriz.”

kim kimdir ne zaman nasıl nelerdir nedir ne işe yarar tüm bilgiler
dünyadan ilginç ve değişik haberler en garip haberler burada

Yorum yapın