Şirket, “insanları aktif olarak aldatmaya çalışan bireyleri ve kuruluşları” kınamaya çalışırken Meta, Facebook, Instagram ve Threads’te yapay zeka tarafından oluşturulan görselleri tespit etmek ve etiketlemek için çalışıyor.
Meta’nın AI görüntüleme aracı kullanılarak oluşturulan fotogerçekçi görüntüler zaten AI olarak etiketlendi, ancak şirketin küresel ilişkiler başkanı Nick Clegg, Salı günü bir blog yazısında şirketin, tarafından geliştirilen AI tarafından oluşturulan görüntülerdeki etiketlemeden kurtulmak için çalışacağını duyurdu. rakip hizmetler.
Meta’nın yapay zeka görüntüleri halihazırda diğer kuruluşlara görüntünün yapay zeka tarafından geliştirildiğini söyleyebilecek meta veriler ve görünmez filigranlar içeriyor ve şirket, Google, OpenAI, Microsoft, Adobe vb. gibi diğer şirketler tarafından kullanıldığında bu tür işaretleri tanımlamak için araçlar geliştiriyor. kullanılabilir. Clegg, Midjourney ve Shutterstock’un yapay zeka görsel oluşturucularında yer aldığını söyledi.
Clegg, “İnsan ve sentetik içerik arasındaki ayrım bulanıklaştıkça insanlar çizginin nerede olduğunu bilmek istiyor” dedi.
“İnsanlar genellikle yapay zeka tarafından oluşturulan içerikle ilk kez karşılaşıyor ve kullanıcılarımız bize bu yeni teknolojinin şeffaflığını takdir ettiklerini söylediler. Bu nedenle insanlara gördükleri fotogerçekçi içeriğin yapay zeka kullanılarak oluşturulduğunu göstermemiz önemli.”
Clegg, özelliğin geliştirildiğini ve önümüzdeki aylarda etiketlerin tüm dillerde uygulanacağını söyledi.
Clegg, “Dünya çapında bir dizi önemli seçimin yaşanacağı gelecek yıl bu yaklaşımı benimsiyoruz” dedi.
Clegg, bunun görüntülerle sınırlı olduğunu ve ses ve video üreten AI araçlarının şu anda bu etiketleri içermediğini ancak şirketin, çevrimiçi olarak yayınlandığında bu içeriği ifşa etmesine ve etiketlemesine izin vereceğini belirtti.
Şirketin ayrıca, kamuoyunu önemli bir konuda maddi olarak yanıltma riski yüksek olan “dijital olarak oluşturulmuş veya değiştirilmiş” görselleri, videoları veya sesleri daha açık bir şekilde etiketleyeceğini söyledi.
Şirket ayrıca, içerikte görünmez işaretler olmasa veya bu işaretler kaldırılmış olsa bile yapay zeka tarafından oluşturulan içeriği otomatik olarak tanıyacak gelişen teknolojiyi araştırdı.
Clegg, “Bu çalışma özellikle önemlidir, çünkü bu önümüzdeki yıllarda giderek daha tartışmalı bir alan haline gelecektir” dedi.
“Yapay zeka tarafından oluşturulan içerikle aktif olarak insanları kandırmaya çalışan kişi ve kuruluşlar, bunu tespit etmek için güvenlik önlemlerini atlamanın yollarını arayacak. Sektörümüz ve toplumumuz genelinde bir adım önde olmanın yollarını aramaya devam etmeliyiz.”
Yapay zeka deepfake’leri, ABD Başkanı Joe Biden’ın oylarının yapay zeka tarafından oluşturulduğu şüphesiyle yapılan otomatik çağrıların, seçmenleri New Hampshire’daki Demokrat ön seçimlerine katılmaktan caydırmasıyla ABD başkanlık seçim döngüsüne çoktan girdi.
Avustralya’daki Nine News de geçen hafta Victoria Hayvan Adaleti Partisi Milletvekili Georgie Purcell’in, akşam haberlerinde yayınlanan bir görüntüde belini açığa çıkaracak ve göğsünü değiştirecek şekilde imajını değiştirdiği için eleştirildi. Ağ, Adobe’nin AI görüntüleme araçlarına sahip Photoshop ürünündeki “otomasyonu” suçladı.