“Anlamsız.”
Gail Huntley, telefonu açar açmaz Joe Biden’ın sert sesini tanıdı. 73 yaşındaki New Hampshire sakini Huntley, eyaletin yaklaşan ön seçimlerinde başkanlığa oy vermeyi planlıyordu, bu yüzden ondan gelen önceden kaydedilmiş bir mesaj onu bunu yapmamaya çağırdığında kafası karışmıştı.
Açıklamada, “Oyunuzu Kasım seçimleri için ayırmanız önemlidir” denildi. “Bu Salı günkü oylama yalnızca Cumhuriyetçilerin Donald Trump’ı yeniden seçmesine izin veriyor.”
Huntley, çağrının sahte olduğunu hemen fark etti ancak Biden’ın sözlerinin bağlamdan çıkarıldığını varsaydı. Kaydın bir yapay zeka tarafından oluşturulduğu ortaya çıktığında şok oldu. Birkaç hafta içinde ABD, yapay zeka tarafından üretilen sesleri kullanan otomatik çağrıları yasakladı.
Biden’ın deepfake’i, herkesin adayların fotogerçekçi görüntülerini yaratabileceği veya korkutucu oylarını yeniden üretebileceği bir bilgi ekosisteminin en iyi şekilde nasıl kontrol altına alınabileceği konusunda hararetli bir tartışmanın içinde olan hükümetler, teknoloji şirketleri ve sivil toplum grupları için ilk büyük sınavdı. .
Aralarında ABD, Hindistan ve büyük olasılıkla İngiltere’nin de bulunduğu onlarca ülkenin vatandaşları 2024’te sandık başına gidecek ve uzmanlar, demokratik sürecin yapay zeka nedeniyle ciddi şekilde sekteye uğrama riskiyle karşı karşıya olduğunu söylüyor.
AI sahtekarlıkları zaten seçimlerde kullanıldı SlovakyaTayvan ve Endonezyasiyasetçilere, kurumlara ve medyaya olan güvenin zaten düşük olduğu bir ortamda buluyorlar kendilerini.
Düzenleyiciler, bu içeriğin çoğunu barındıran ve yöneten teknoloji şirketlerinde 40.000’den fazla işten çıkarma göz önüne alındığında, dijital medyanın istismara karşı özellikle savunmasız olduğu konusunda uyarıyor.
İmkansız görev?
Biden’a göre yapay zekanın potansiyel olarak tehlikeli kullanımına ilişkin endişeleri, son filmi “Mission Impossible”ı izledikten sonra yoğunlaştı. Camp David’de geçirdiği bir hafta sonu boyunca başkan, Tom Cruise’un Ethan Hunt’ının sahtekar bir yapay zekayla yüzleştiği filmin önünde rahatladı.
Beyaz Saray özel kalem yardımcısı Bruce Reed, Biden’ın halihazırda yapay zekada neyin yanlış gidebileceği konusunda endişelenmediğini, filmi izledikten sonra “endişelenmek için çok daha fazla neden gördüğünü” söyledi.
Biden o zamandan beri, üst düzey yapay zeka geliştiricilerinin güvenlik testi sonuçlarını ve diğer bilgileri hükümetle paylaşmasını gerektiren bir idari emir imzaladı.
Harekete geçen tek ülke ABD değil: AB yapay zekayı düzenleyen en kapsamlı yasalardan birini çıkarmaya yaklaşıyor ancak bu yasa 2026’ya kadar yürürlüğe girmeyecek. Birleşik Krallık’ta önerilen düzenleme çok yavaş hareket ettiği için eleştirildi.
Ancak ABD, en dönüştürücü teknoloji şirketlerinin çoğuna ev sahipliği yapıyor; bu nedenle Beyaz Saray’ın eylemleri, en çığır açan yapay zeka ürünlerinin nasıl geliştirildiği üzerinde derin bir etkiye sahip olacak.
On yıl boyunca Facebook’un politikalarının geliştirilmesine yardımcı olan ve şu anda teknoloji şirketlerinde güven ve güvenlik sorunları üzerinde çalışan Katie Harbath, ABD hükümetinin eylemlerinin yeterince ileri gitmediğini söylüyor. Özellikle Çin’in kendi yapay zeka endüstrisini geliştirmeye çalıştığı bir dönemde, inovasyonun engellenmesine ilişkin endişelerin bunda rol oynayabileceğini söylüyor.
Harbath, bilgi sisteminin, sosyal medyadaki büyümenin “altın çağından” Brexit ve Trump oylarını takip eden büyük hesaplaşmaya ve ardından dezenformasyonun önünde kalma çabalarına kadar geliştiğini gördü.
2024 için mantraları “Sorumlu Panik”tir.
Kısa vadede yapay zeka tarafından oluşturulan içeriği düzenlemenin ve izlemenin, onu oluşturacak araçları geliştiren şirketlerin eline geçeceğini söylüyor.
Harbath, “Şirketlerin buna hazırlıklı olup olmadığını bilmiyoruz” diyor. “Bu seçim sezonunun ilk gerçek sınavını temsil ettiği daha yeni platformlar da var.”
Geçtiğimiz hafta büyük teknoloji şirketleri, yapay zekanın dünya çapında demokratik seçimleri bozmak için kullanılmasını önlemek amacıyla gönüllü olarak “uygun önlemleri” almaya yönelik bir anlaşma imzalayarak çabalarını koordine etme yönünde büyük bir adım attı.
İmzacılar arasında ChatGPT geliştiricisi OpenAI’nin yanı sıra Google, Adobe ve Microsoft da yer alıyor; bunların tümü yapay zeka tarafından oluşturulan içerik oluşturmaya yönelik araçlar başlattı. Birçok şirket, ürünlerinin siyasi kampanyalarda kullanılmasını yasaklayan kendi kurallarını da güncelledi.. Bu yasakların uygulanması başka bir konudur.
Güçlü Dall-E yazılımı fotogerçekçi görüntüler oluşturmak için kullanılan Open AI, aracının adaylar da dahil olmak üzere gerçek kişilerin görüntülerinin oluşturulmasını gerektiren talepleri reddedeceğini söyledi.
Çoğu kişi tarafından AI görüntülemenin en güçlü ve doğru olduğu düşünülen Midjourney, kullanıcıların ürünü siyasi kampanyalar için veya “seçim sonuçlarını etkilemeye çalışmak” için kullanmamaları gerektiğini söylüyor.
Midjourney CEO’su David Holz, şirketin önde gelen başkan adaylarınınkiler de dahil olmak üzere siyasi görüntüleri yasaklamaya yakın olduğunu söyledi. Bazı değişikliklerin halihazırda yürürlüğe girdiği görülüyor. Guardian, Midjourney’den Joe Biden ve Donald Trump’ın boks ringinde bir resmini oluşturmasını istediğinde, talep reddedildi ve şirketin topluluk standartlarının ihlali olarak değerlendirildi.
Ancak aynı talep girilip Biden ve Trump’ın yerine İngiltere Başbakanı Rishi Sunak ve Muhalefet Lideri Keir Starmer getirildiğinde, yazılım kolaylıkla bir dizi görüntü oluşturdu.
Bu örnek, pek çok politika yapıcının, teknoloji şirketlerinin ABD başkanlık seçimlerinin serası dışında yapay zeka tarafından oluşturulan içeriği ne kadar etkili bir şekilde düzenlediğine dair endişelerinin tam kalbinde yer alıyor.
“Milyon dolarlık bir kitlesel manipülasyon silahı”
OpenAI’nin araçlarının siyasi kampanyalarda kullanılması yasağına rağmen Reuters, ürünlerinin bu ay Endonezya’daki seçimlerde kampanya sanatı oluşturmak, sosyal medya duyarlılığını takip etmek, etkileşimli sohbet robotları oluşturmak ve seçmenleri hedeflemek için yoğun bir şekilde kullanıldığını bildirdi.
Harbath, OpenAI gibi proaktif yeni şirketlerin politikalarını ABD dışında nasıl uygulayabileceğinin açık bir soru olduğunu söylüyor.
“Her ülke biraz farklıdır, farklı kanunları ve kültürel normları vardır… ABD’ye odaklanmış şirketleriniz olduğunda, ABD’de işlerin başka yerlerde işlerin yürümediğini görmek zor olabilir.”
Slovakya’da geçen yıl yapılan ulusal seçimlerde Rusya yanlısı bir aday ile AB ile daha yakın bağların sürdürülmesinden yana olan bir aday karşı karşıya geldi. Oylamada Ukrayna’nın savaş çabalarına destek veren AB yetkilileri, oylamanın potansiyel olarak Rusya’nın ve onun “milyonlarca avroluk kitlesel manipülasyon silahının” müdahalesi riskiyle karşı karşıya olduğunu vurguladı.
Seçim yaklaşırken ve ülke çapında medya yasağı başlarken, AB yanlısı aday Michal Šimečka’nın ses kaydı Facebook’ta yayınlandı.
Kayıtta Šimečka, dışlanmış topluluklardan oy satın alarak seçime hile karıştırma planlarını tartışıyor gibi görünüyordu. Ses sahteydi ve AFP haber ajansı, sesin yapay zeka kullanımı yoluyla manipülasyon işaretleri gösterdiğini söyledi.
Ancak medya ve politikacıların seçim karartma yasaları uyarınca susmaya yemin etmesi nedeniyle kaydın yalanlanması neredeyse imkansızdı.
Manipüle edilmiş ses, Facebook’un sahibi Meta’nın platformlarında yapay zeka tarafından oluşturulan materyalleri izleme biçimindeki bir boşluğu kapatmış gibi görünüyor. Onun altında Topluluk Standartları“Ortalama bir kişinin tespit edemeyeceği” şekilde manipüle edilen ve bir kişinin “söylemediği kelimeleri söyleyecek” şekilde düzenlendiği içeriğin yayınlanması yasaktır. Ancak bu yalnızca videolar için geçerlidir.
Rusya yanlısı aday Robert Fico, seçimi kazanıp başbakan olmak istiyordu.
Geleceğin burada olduğunu ne zaman bileceğiz?
Tehlikelere rağmen seçmenlerin gelecek olana yetkililerin düşündüğünden daha hazırlıklı olduğuna dair bazı işaretler var.
Harbath, “Seçmenler sandığımızdan çok daha akıllılar” diyor. “Bunalmış olabilirler ama bilgi ortamında neler olup bittiğini anlıyorlar.”
Pek çok uzman için en büyük endişe, hâlihazırda boğuştuğumuz teknoloji değil, ufkun diğer tarafındaki yeniliklerdir.
Akademisyenler, MIT’nin Teknoloji İncelemesinde yapay zekanın demokrasimizi nasıl tehdit edebileceği konusunda kamuoyundaki tartışmanın “hayal gücünden yoksun” olduğunu yazdı. Gerçek tehlikenin zaten korktuğumuz şey değil, henüz hayal edemediğimiz şey olduğunu söylüyorlar.
Harbath, “Altına bakmadığımız taşlar hangileri?” diye sorar. “Yeni teknolojiler ortaya çıkıyor, yeni kötü adamlar ortaya çıkıyor. Alışmamız gereken sürekli iniş çıkışlar var.”