Dört yatırımcı, AI etiğinin neden sonradan düşünülemeyeceğini açıklıyor

Milyonlarca dolar AI’ya akın ediyor. Yine de, Siyah müstakbel ev sahiplerine yönelik ipotek ayrımcılığının kanıtladığı gibi, AI modelleri zaten önyargıdan etkileniyor.

Bu teknolojinin inşasında etiğin nasıl bir rol oynadığını ve belki de daha da önemlisi, onu finanse etmek için acele eden yatırımcıların nereye uyum sağladığını sormak mantıklıdır.

Bir kurucu kısa süre önce TechCrunch+’a inovasyon bu kadar hızlıyken etik hakkında düşünmenin zor olduğunu söyledi: İnsanlar sistemler kurar, sonra onları bozar ve sonra düzenler. Bu nedenle, bu yeni teknolojilerin kurucular tarafından etik akılda tutularak inşa edildiğinden emin olmak için bazı sorumluluklar yatırımcılara düşüyor.

Bunun gerçekleşip gerçekleşmediğini görmek için TechCrunch+, alandaki dört aktif yatırımcıyla yapay zekada etik hakkında nasıl düşündükleri ve kurucuların önyargılar ve doğru şeyi yapma konusunda daha fazla düşünmeye nasıl teşvik edilebileceği hakkında konuştu.

Katılmak için daha fazla yatırımcı arayarak merceğimizi genişletiyoruz TechCrunch anketlerisektörlerindeki zorluklar hakkında en iyi profesyonelleri sorguladığımız yer.

Bir yatırımcıysanız ve gelecekteki anketlere katılmak istiyorsanız, doldurun bu form.

Bazı yatırımcılar, firmanın destekleyebileceği kararları almaya devam edip etmeyeceklerini belirlemeye yardımcı olmak için bir kurucunun etiği konusunda durum tespiti yaparak bu sorunu çözdüklerini söylediler.

Lightship Capital’in müdürü Alexis Alston, “Kurucu empati bizim için büyük bir yeşil bayraktır” dedi. “Böyle insanlar anlıyor ki biz piyasa getirisi ararken aynı zamanda yatırımlarımızın dünya üzerinde olumsuz bir etki yaratmamasını da arıyoruz.”

Diğer yatırımcılar, zor sorular sormanın buğdayı samandan ayırmaya yardımcı olabileceğini düşünüyor. General Catalyst’in genel müdürü Deep Nishar, “Herhangi bir teknoloji, ister önyargı, azaltılmış insan etkinliği, mahremiyet ihlalleri veya başka bir şey olsun, istenmeyen sonuçları beraberinde getirir” dedi. “Yatırım sürecimiz, bu tür istenmeyen sonuçları belirlemeye, bunları kurucu ekiplerle tartışmaya ve bunları hafifletmek için önlemlerin yürürlükte olup olmadığını değerlendirmeye odaklanıyor.”

Hükümet politikaları da AI’yı hedefliyor: AB geçti makine öğrenimi yasalarıve ABD tanıttı AI görev gücü için planlar AI ile ilişkili risklere bakmaya başlamak için. buna ek olarak AI Haklar Bildirgesi geçen yıl tanıtıldı. Ve birçok üst düzey VC firmasının para enjekte etmesiyle Çin’deki AI çabalarıAI içindeki küresel etiğin sınırlar arasında da nasıl uygulanabileceğini sormak önemlidir.

Yatırımcıların durum tespitine nasıl yaklaştıklarını, aradıkları yeşil bayrakları ve yapay zeka düzenlemelerinden beklentilerini öğrenmek için okumaya devam edin.

Şunlarla konuştuk:

Alexis Alston, müdür, Lightship Capital

Bir yapay zeka şirketine yatırım yaparken, yapay zeka modelinin önyargıyı nasıl öne sürdüğü veya ele aldığı konusunda ne kadar durum tespiti yapıyorsunuz?

Bizim için modelin tam olarak hangi verileri aldığını, verilerin nereden geldiğini ve nasıl temizlediklerini anlamak önemlidir. Modellerimizin önyargıyı azaltmak veya ortadan kaldırmak üzere eğitilebileceğinden emin olmak için yapay zeka odaklı GP’mizle oldukça fazla teknik özen gösteriyoruz.

Daha koyu ellerimizi yıkamak için muslukların otomatik olarak açılmasını sağlayamadığımızı ve Google görsel aramanın “yanlışlıkla” Siyah teni primatlarla eşitlediği zamanları hepimiz hatırlıyoruz. Portföyümüzde buna benzer modellerin kalmamasını sağlamak için elimden gelen her şeyi yapacağım.

ABD’nin AB’ye benzer makine öğrenimi yasalarını geçirmesi, ülkenin bu sektörde gördüğü inovasyon hızını nasıl etkiler?

Hükümetimizdeki teknik bilgi ve karmaşıklık eksikliği göz önüne alındığında, ABD’nin makine öğrenimi konusunda eyleme geçirilebilir ve doğru yasalar çıkarma yeteneğine çok az inancım var. Zamanında yasama ve teknik uzmanların yasa koyucularımızı bilgilendirmek için görev güçlerinin bir parçası olması söz konusu olduğunda çok uzun bir kuyruğumuz var.

Aslında, yasalarımızın genellikle nasıl yapılandırıldığı göz önüne alındığında, mevzuatın makine öğreniminin gelişme hızında herhangi bir büyük değişiklik yaptığını görmüyorum. On yıl önce ABD’de tasarımcı ilaçlarla ilgili mevzuat için dibe doğru yarışa benzer şekilde, mevzuat asla ayak uyduramadı.