Yapay zekanın muazzam potansiyel faydalarına (yeni hayat kurtaran ilaçlar geliştirmek veya çocuklara öğretmenin yeni yollarını bulmak gibi) bir korku kutusunu açmadan nasıl erişebiliriz?
Eğer dikkatli olmazsak yapay zeka Frankenstein’ın canavarı olabilir. Neredeyse tüm işlerin kaybolmasına yol açabilir. Otonom savaşa yol açabilir.
Yapay Zeka eleştirmenleri, mümkün olduğu kadar çok ataç üretmek gibi sıradan bir hedefin bile, çok güçlü bir yapay zekanın daha fazla ataç elde etmek için Dünya’daki tüm yaşamı yok etmesine yol açabileceğini savunuyor.
Peki bu risklerden kaçınırken yapay zekanın mümkün olduğunca çok avantajından yararlanacak şekilde tasarlanmış bir şirketi nasıl kurarsınız?
Yapay zekanın potansiyel dezavantajları konusunda etik uzmanları ve uzmanlardan oluşan, kar amacı gütmeyen bir kurulla başlayabilirsiniz.
Kâr amacı gütmeyen bu kuruluş, modellerini test etmek için büyük miktarda pahalı bilgi işlem gücüne ihtiyaç duyacak ve kâr amacı gütmeyen yönetim kurulunun, yatırımcıları çekecek kâr amaçlı bir ticari kolu denetlemesini gerektirecektir.
Yatırımcıların şirketi devralması nasıl engellenebilir? Yatırımcılara ne kadar kâr akabileceğini sınırlamanız gerekir (“sınırlandırılmış kâr” yapısı aracılığıyla) ve yatırımcıları yönetim kuruluna dahil etmezsiniz.
Peki yönetim kurulu üyeleri ve çalışanlar milyarlar kazanma umuduyla cezbedilirken, açgözlülüğün şirketi yozlaştırması nasıl önlenebilir?
Yapamazsın. Bu, özel şirketlerin yapay zeka geliştirmesi fikrindeki kusurdur.
Tanımladığım kâr amacı gütmeyen kuruluş yönetim yapısıydı OpenAI 2015 yılında güvenli yapay zeka teknolojisi oluşturmak amacıyla araştırma odaklı, kar amacı gütmeyen bir kuruluş olarak kurulduğunda başladı.
Ancak OpenAI’nin ChatGPT’si, teknolojinin kutsal kasesine (milyarlarca dolar kar elde edecek büyük ölçekli bir tüketici platformu) doğru yolda göründüğünden beri, kar amacı gütmeyen güvenlik misyonu büyük paralar tarafından tehdit edildi.
Şimdi büyük para güvenliği yutmak için yola çıkıyor.
2019’da OpenAI, yatırımcıları bilgi işlem gücü ve yapay zeka yetenekleri için ödeme yapmaya teşvik etmek amacıyla tavan kar yapısına geçti.
OpenAI’nin en büyük dış yatırımcısı, yöneticilerine ve hissedarlarına mümkün olduğu kadar çok teklif sunmak isteyen Microsoft’tur. Microsoft, 2019’dan bu yana, bu yatırımdan büyük bir getiri elde etme beklentisiyle OpenAI’ye 13 milyar dolar yatırım yaptı.
Ancak OpenAI’nin sınırlı kâr yapısı ve kâr amacı gütmeyen yönetim kurulu, Microsoft’un kazanabileceği miktarı sınırladı. Ne yapalım?
OpenAI CEO’su Sam Altman görünüşe göre her ikisini de yapmaya çalışıyordu; kâr amacı gütmeyen kuruluşun insani hedeflerinden ve korumalarından ödün vermeden Microsoft’a istediklerinin bir kısmını vermek.
İşe yaramadı. Geçtiğimiz hafta, OpenAI’nin kar amacı gütmeyen yönetim kurulu, muhtemelen Microsoft’un para kazanma hedefine çok yaklaşırken yapay zekanın oluşturduğu tehditlere yeterince dikkat etmemesi korkusuyla Altman’ı görevden aldı.
Altman serbest bırakıldıktan sonra nereye gitti? Tabii ki Microsoft’a.
Peki OpenAI’nin 700’den fazla çalışanı, yani değerli yetenek havuzu ne olacak?
Güvenliği önemsediklerini varsaysak bile, şirkette hisseleri var ve eğer OpenAI güvenlik yerine büyümeyi seçerse çok para kazanacaklar. OpenAI’nin devralma teklifinde değerinin 80 milyar ila 90 milyar dolar arasında olabileceği tahmin ediliyor; bu da onu tüm zamanların dünyanın en değerli teknoloji girişimlerinden biri yapıyor.
bülten reklamından sonra
Dolayısıyla, OpenAI çalışanlarının neredeyse tamamının bu hafta başında yönetim kuruluna, Altman’ı Microsoft’a kadar takip edeceklerini söyleyen bir mektup imzalaması, eğer yönetim kurulu Altman’ı tekrar CEO olarak görevlendirmezse sürpriz olmadı.
Altman, OpenAI çalışanları ve hatta Microsoft da dahil olmak üzere ilgili herkes, OpenAI hayatta kalırsa ve ihale teklifindeki hisselerini satabilirlerse çok daha fazla para kazanacak.
Presto.
Salı günü OpenAI’nin yönetim kurulu, Altman’ı yeniden genel müdür olarak görevlendirdi ve bir yenileme yapılmasına karar verdi. Kendisine karşı çıkan yönetim kurulu üyelerini kovdu ve Microsoft’un iradesini takip etmeye istekli görünen iki kişiyi ekledi: eski bir Facebook yetkilisi ve eski Salesforce eş başkanı Bret Taylor. ve eski Hazine Bakanı Lawrence Summers.
Microsoft’un CEO’su Satya Nadella, söz konusu Kendisi “OpenAI yönetim kurulundaki değişikliklerden cesaret aldı” ve bunların “daha istikrarlı, daha bilgili ve daha etkili yönetime doğru önemli bir ilk adım” olduğunu söyledi.
Etkili yönetim…çok para kazanmak.
Başarının otomatik olarak mümkün olduğu kadar çok para kazanmak anlamına geldiğini düşünen iş dünyası basını heyecanlanıyor.
Kâr amacı gütmeyen yönetim kurulunun, Altman’ın “daha da hızlı” hareket etmesini engelleyen “karmaşık” bir yönetim yapısına sahip olduğunu defalarca belirtmişti ve tahmin OpenAI büyüme ve güvenlik arasındaki rekabette başarısız olursa, “insanlar milyarlarca dolarlık hissedar değerini yok etmekle yönetim kurulunu suçlayacak.”
Bütün bunlar, yapay zekanın gerçek Frankenstein canavarının insan açgözlülüğü olduğunu gösteriyor.
Sürekli artan kârın cazibesine kapılan özel şirketlere, dizginsiz yapay zekanın ortaya çıkaracağı dehşetlere karşı koruma konusunda güvenilemez.
OpenAI konusunda geçen haftaki çılgın mücadele, yatırımcılar için sınırlı kar yapısına sahip kar amacı gütmeyen bir yönetim kurulunun bile Big Tech ve Wall Street’in gücüyle rekabet edemeyeceğini gösterdi.
Sonunda para kazanır.
İleriye dönük soru, aynı zamanda büyük parasal yolsuzluğa karşı da savunmasız olan hükümetin, yapay zekanın potansiyel faydalarını potansiyel dehşetlerine karşı daha iyi dengeleyip canavarı düzenleyip düzenleyemeyeceğidir.