Microsoft, yapay zeka tarafından oluşturulan görüntülere ve videolara filigran ekleme sözü verdi

Balenciaga Papa. Sahte Pentagon patlamaları. Yapay zeka tarafından oluşturulan görüntüleri gerçek olandan ayırmak, bazen felaket etkisi yaratmak için giderek daha zor hale geliyor.

Bir çözüm belirsizliğini koruyor. Ancak Microsoft, yıllık Build konferansında tanıtılan yeni medya kaynak özellikleriyle bir girişimde bulunuyor.

için başlatılıyor Bing Görüntü Oluşturucu ve TasarımcıMicrosoft’un sosyal medyada ve diğer kanallarda paylaşmak üzere sunumlar, posterler ve daha fazlası için tasarımlar oluşturabilen Canva benzeri web uygulaması olan yeni medya kaynak özellikleri, tüketicilerin bir görüntünün veya videonun yapay zeka tarafından oluşturulup oluşturulmadığını doğrulamasını sağlayacak. Kriptografik yöntemler kullanılarak, önümüzdeki aylarda kullanıma sunulması planlanan özellikler, yapay zeka tarafından oluşturulan içeriği görüntü veya videonun kaynağı hakkında meta verilerle işaretleyecek ve imzalayacak.

Görünür bir filigran kadar basit değil. İmzayı okumak için sitelerin, Adobe, Arm, Intel, Microsoft ve görsel medya platformu Truepic’in girdileriyle oluşturulmuş bir özellik olan Coalition for Content Provenance and Authenticity (C2PA) birlikte çalışabilir belirtimini benimsemesi gerekir. Ancak o zaman site, içerik yapay zeka tarafından oluşturulduğunda, değiştirildiğinde veya Tasarımcı veya Görüntü Oluşturucu tarafından oluşturulduğunda tüketicileri uyarabilir.

Öyleyse soru şu ki, bu kadar çok görüntü oluşturma aracı benzer medya kaynak standartlarını benimsemediğinde Microsoft’un çabaları büyük bir fark yaratacak mı? C2PA yapmak sahip olmak destek dahil olmak üzere kendi üretici yapay zeka araçlarını kısa bir süre önce piyasaya süren Adobe’nin entegrasyon Google’ın Bard sohbet botu ile. Ancak üretken yapay zeka alanındaki en önde gelen oyunculardan biri olan Stability AI, Microsoft’un önerdiği türden bir özelliği benimsemeye istekli olduğunun sinyalini vermedi.

Standartlar bir yana, Microsoft’un bir medya kaynağı izleme mekanizmasını benimseme hamlesi, üretici yapay zeka hakim oldukça daha geniş sektör trendleriyle uyumludur. Mayıs ayında, Google kullanacağını söyledi gömülü meta veri üretken yapay zeka modelleri tarafından oluşturulan görsel medyayı işaret etmek için. Ayrı olarak, Shutterstock ve üretken yapay zeka girişimi MidJourney benimsedi yönergeler içeriğin üretici bir yapay zeka aracı tarafından oluşturulduğuna dair bir işaretçi yerleştirmek için.