OpenAI’nin bu hafta güçlü CEO’sunun kaotik bir şekilde işten çıkarılması ve yeniden işe alınması teknoloji dünyasını şok etti. Ancak yapay zeka uzmanları, güç mücadelesinin kurumsal yönetim kurulu odasının ötesine geçen sonuçları olduğunu söyledi. Yapay zeka sektörünün çevresel referanslarını ve Silikon Vadisi’nin ilk olma konusundaki güçlü arzusunu vurguluyor ve teknolojinin güvenliği hakkında acil soruları gündeme getiriyor.
“Şu anda baktığımız yapay zeka olgunlaşmamış. Standart yok, profesyonel organizasyon yok, sertifika yok. Carnegie Mellon Üniversitesi’nde makine öğrenimi ve kamu politikası profesörü Rayid Ghani, “Herkes bunu nasıl yapacağını, kendi iç normlarını bulmaya çalışıyor” dedi. “Yapılan yapay zekanın geliştirilmesi için bir avuç insan gerekiyor ve bu bir avuç insanın etkisi orantısız.”
Sam Altman ile OpenAI yönetim kurulu arasındaki anlaşmazlık Cuma günü, yönetim kurulunun Altman’ı “kurulla iletişiminde tutarlı bir şekilde açık olmadığı için” CEO olarak görevden aldığı yönündeki beklenmedik duyuruyla başladı.
Blog yazısı, startup’a yaklaşık 13 milyar dolar yatırım yapan OpenAI’nin azınlık sahibi Microsoft için bile herhangi bir uyarı yapılmadan ortaya çıktı.
Kurul, geçici bir CEO olan ve o zamanlar OpenAI’nin baş teknoloji sorumlusu olan Mira Murati’yi seçti, ancak Pazar günü bir başkasını, eski Twitch CEO’su Emmett Shear’ı atadı. Altman aynı gün müzakereler için girişimin genel merkezine döndü; O akşam Microsoft, onu yeni bir yapay zeka bölümünün başına geçmesi için işe aldığını duyurdu.
Pazartesi günü, OpenAI’nin yaklaşık 750 çalışanının %95’inden fazlası, Altman’ın yeniden işe alınmaması halinde işten ayrılacaklarını belirten açık bir mektup imzaladı; İmzacılar arasında Murati ve birçok kişinin Altman’ın çöküşünün mimarı olduğuna inandığı OpenAI’nin kurucu ortağı ve baş bilim adamı Ilya Sutskever de vardı.
Çarşamba günü Altman yeniden CEO oldu. OpenAI’nin yönetim kurulu, dayanışma amacıyla istifa eden ancak yeniden görevlendirilen Altman ve şirket başkanı Greg Brockman olmadan ve her ikisini de kovma yönünde oy veren iki üye olmadan yeniden oluşturulmuştu.
Yapay zeka üreten şirketlere yönelik kapsamlı düzenlemelerin yokluğunda, geliştiricilerin zayıf yönleri ve kendine özgü özellikleri büyük önem kazanıyor.
OpenAI destanının gelecekteki AI düzenlemeleri için ne anlama gelebileceği sorulduğunda Birleşik Krallık Bilim, İnovasyon ve Teknoloji Bakanlığı (DSIT) bir açıklamada şunları söyledi: “Bu ticari bir karar olduğu için bu konu hakkında yorum yapmak DSIT’e kalmıştır. Beyaz Saray da ABD’de bu konuda yorum yapmadı. Connecticut’tan Senatörler Richard Blumenthal ve Missouri’den Josh Hawley, gözetimi yürüten Senato alt komitesinin başkanları Altman’ın açıklaması Bu yılın başlarında yorum taleplerine yanıt vermedi; Blumenthal ve Hawley iki partili bir yapay zeka yasa tasarısı önerdiler.”koruma raylarını dikmek“.
Ghani, daha olgun bir sektörde düzenlemelerin tüketicileri ve tüketici odaklı ürünleri tepedeki savaşlardan koruyacağını söyledi. Bireysel yapay zeka üreticileri o kadar önemli olmayacak ve aralarındaki anlaşmazlıklar halk üzerinde daha az etkiye sahip olacaktır.
“Yapay zekanın sözcüsü olarak tek bir kişiye güvenmek çok riskli, özellikle de o kişi inşaattan sorumluysa. Kendi kendini düzenleyen olmamalıdır. Bu ne zaman işe yaradı? Önemli alanlarda öz denetimimiz yok, bunu neden burada yapalım?” diye sordu.
Yapay zekaya karşı siyasi savaş
OpenAI’deki mücadele aynı zamanda şirketteki karar alma süreçlerinde şeffaflık eksikliğini de ortaya çıkardı. En son teknolojiye sahip yapay zekanın geliştirilmesi, kapalı kapılar ardında faaliyet gösteren küçük, gizli bir kadronun elindedir.
Ghani, “OpenAI’deki personel değişikliğinin ChatGPT veya Dall-E’nin doğasını nasıl değiştireceği hakkında hiçbir fikrimiz yok” dedi. Şu anda ChatGPT gibi kamuya açık bir test programı bulunmuyor ve şirketler güncellemeler konusunda şeffaf değil. Bunu, elinizde tuttuğunuz cihazın yazılımında yapılan değişiklik ve düzeltmelerin ayrıntılarını içeren bir iPhone veya Android yazılım güncellemeleriyle karşılaştırın.
“Şu anda kalite kontrolü için halka açık bir yöntemimiz yok. “Her kuruluş bunu kendi kullanım durumları için yapacaktır” dedi. “Ancak, insanlar için sonuçların profilini çıkarmak ve riski azaltmak amacıyla ChatGPT gibi şeyleri sürekli olarak test etmenin ve sonuçları izlemenin bir yoluna ihtiyacımız var. Eğer böyle bir aracımız olsaydı şirket daha az kritik olurdu. Tek umudumuz, onu inşa eden insanların ne yaptıklarını bilmeleridir.”
New York Üniversitesi İşletme Fakültesi İşletme ve İnsan Hakları Merkezi direktör yardımcısı Paul Barrett, ilaç şirketlerinin yaptığı gibi yapay zeka üreticilerinin ürünlerinin güvenliğini ve etkinliğini göstermelerini gerektiren düzenleme çağrısında bulunarak bu görüşe katıldı.
“OpenAI’nin kontrolü için yapılan mücadele, dijital endüstrinin bu nispeten olgunlaşmamış dalındaki değişkenliğin ve yapay zeka sistemlerinin korunmasına ilişkin önemli kararların kurumsal iç çatışmalardan etkilenebileceği tehlikesinin değerli bir hatırlatıcısıdır.” Büyük miktarlarda para ve büyük egolar – oyundalar. Öngörülemeyen yapay zeka sistemlerinin ne zaman güvenli bir şekilde halka sunulabileceğine ilişkin kararlar bu faktörlere göre verilmemelidir” dedi.
hızlanma v gecikme
Altman ile yönetim kurulu arasındaki bölünmenin en azından kısmen ideolojik olduğu ortaya çıktı; Altman ve Brockman, “hızlandırıcılar” (yapay zekanın mümkün olduğu kadar hızlı bir şekilde devreye alınması gerektiğine inanan kişiler) ve “hız azaltıcılar” (yapay zekanın) “hızlandırıcılar” olarak tanımlanan bir kampa mensuptu. daha yavaş ve daha güçlü korkuluklarla geliştirilmesi gerektiği bilinmektedir. Altman’ın dönüşüyle birlikte eski grup ganimeti devralır.
Cornell Üniversitesi’nde hükümet profesörü ve üniversitenin Kamu Politikası Okulu’ndaki Teknoloji Politikası Enstitüsü müdürü Sarah Kreps, “Bu durumda kazanmış gibi görünen insanlar hızlandırıcılar” dedi.
bülten reklamından sonra
Kreps, Meta patronu Mark Zuckerberg’in mantrasını tamamen benimseyen, yeniden doğmuş bir OpenAI görebildiğimizi söyledi: “Hızlı hareket et ve işleri kır.” Daha hızlı veya daha dikkatli hareket etme arasındaki tartışmada çalışanların ayaklarıyla oy kullandığını belirtti.
“Gelecekte yapay zeka araştırmalarının tüm hızıyla ilerleyeceğini göreceğiz. O zaman soru şu oluyor: Tamamen güvensiz mi olacak yoksa deneme yanılma mı olacak? OpenAI, Facebook’un hızlı hareket etme modelini takip edebilir ve ürünün her zaman toplumsal faydayla uyumlu olmadığının farkına varabilir” dedi.
Kreps, OpenAI, Google, Microsoft ve diğer teknoloji devleri arasındaki yapay zeka silahlanma yarışını hızlandıran şeyin büyük miktarda sermaye ve birinci olma arzusu olduğunu söylüyor. Bir şirket belirli bir keşif yapmazsa, diğeri hızlı bir şekilde yapacaktır. Bu daha az dikkatli olunmasına yol açar.
“OpenAI’nin önceki liderliği, riskin farkında olma konusunda tüm doğru şeyleri söylemişti, ancak yapay zekaya ne kadar çok para akarsa, hızlı hareket etme teşviki de o kadar artar ve bu risklerin daha az farkında olur” dedi.
Tam gaz ileri
Silikon Vadisi güreş maçı, tanınmış startup şirketinin ve amiral gemisi ürünü ChatGPT’nin geleceğini sorguya çekti. Altman, geçtiğimiz haftalarda yapay zeka elçisi olarak dünya turuna çıkmıştı. Birkaç gün önce San Francisco’daki APEC konferansında Joe Biden, Çinli Xi Jinping ve diğer diplomatlarla konuşmuştu. İki hafta önce, Altman ile güçlü bir ortaklık kuran ve şirketi için kullanan genç adamlarla ilgilenen Microsoft patronu Satya Nadella’nın katıldığı muhteşem bir demo gününde geliştiricilere kendi ChatGPT sürümlerini oluşturma yeteneğini ilk kez tanıtmıştı. .
Ancak eğer kendi yöneticileri bu kadar berbat bir iş yapıyorsa uluslar, stratejik ortaklar ve müşteriler OpenAI’ye nasıl güvenebilirlerdi?
Business Carnegie Mellon School’da etik profesörü Derek Leben, “Yönetim kurulunun, Altman’ı görevden alma nedenlerine ilişkin, kurulun işe aldığı CEO’ya bile net bir açıklama yapmaması çok kötü görünüyor” dedi. Leben, Altman’ın hikayenin baş kahramanı olan halkla ilişkiler savaşından zaferle çıktığını söylüyor. Kreps kabul etti.
Yavaşlama savunucuları adına konuşan Leben, bu destanın, her ne kadar beceriksiz terimlerle de olsa, endişeleri konusunda ciddi olduklarını kanıtladığını söyledi. Yapay zeka şüphecileri, Altman ve diğerlerini yapay zekanın gelecekte yok olacağını öngördükleri için eleştirdi; bu tür endişelerin yapay zekanın şu anda verdiği gerçek zararı göz ardı ettiğini ve yalnızca yapay zeka yaratıcılarını yücelttiğini savundu.
“İnsanların şirketi yakmaya istekli olması, güvenliği yalnızca art niyetle kılıf olarak kullanmadıklarını gösteriyor. Kötü sonuçları önlemek için şirketi kapatmaya hazır olduklarını söylerken samimiler” dedi.
Uzmanlar, OpenAI’nin halefi olan savaşın yapay zekanın gelişimini yavaşlatmayacağı konusunda hemfikirdi.
“Yapay zekanın güvenliği konusunda daha az endişeleniyorum. Yapay zekanın iyi de olsa kötü de olsa güvenli olacağını düşünüyorum. Bunu kullanmak zorunda olan insanlar için endişeleniyorum” dedi Ghani.
Johana Bhuiyan raporlamaya katkıda bulundu