Bölüm Açıklaması
.
Konular:
(00:00) OpenAI'daki pembe dizi.
(02:26) Tarihte bugün: Deep Blue ve Alphazero.
(05:00) OpenAI'ın closedAI oluşu.
(07:07) Kar amacı gütmeyen kuruluş
(11:58) Kovulma.
(13:53) Custom GPT.
(15:58) Project Q*
(17:54) Para para para.
(21:12) Devletlerin rolü.
(23:30) Patreon Teşekkürleri
.
Kaynaklar:
Haber: Google shared AI knowledge with the world — until ChatGPT caught up
The inside story of how ChatGPT was built from the people who made it
Tüm bölümler ve daha fazlası için podbeemedia.com'u ziyaret et!
----- Podbee Sunar -------
Bu podcast reklam içermektedir.
Bölüm Transkripti
3.301 kelime · ~17 dk okuma
Selam flarsızlar. Bugün bir gündem bölümü yapalım dedim. Uzun serilerden sonra araya iyi gidiyor. Aslında ne zamandır dünyanın en popüler yapay zeka girişimi olan OpenAI hakkında bir şeyler yapmak istiyordum.
Ama o kadar hızlı ilerliyor ki her şey. Gözümde büyüdükçe büyüdü içerik. Fakat geçtiğimiz günlerdeki dramatik olaylar ayağımızı suya dayadırmak için iyi bir fırsat. Bunu tepmeyelim.
Eğer siz de benim gibi olan biteni ilk seferinde muhtemelen hızlandırılmış bir taht kavgası yaşandığını düşündünüz. Yapay zeka denince bugün çoğunuzun aklına bir isim, bir yüz gelmiyordur ama geliyorsa da bu muhtemelen Sam Altman'ınkidir. Ve Altman kendi kurduğu şirketten sorgusu sualsiz bir anda kovuldu. 24 saat içinde geri gelir gibi oldu.
Transkriptin tamamını okuTranskripti daralt
Yok hala kovulmuş vaziyettesin dediler. Sonra Microsoft da işe başlıyor gibi oldu. Yok burada da başlamıyorsun dediler. Çalışanlar toplu istifa tehdidinde bulununca hakikaten geri döndü ve bu sefer kendisini kovduranlara kovdurttu.
İşte Silikon Vadisi'nde taht oyunları böyle oynanır. Ya kazanırsınız ya da Tesla'nıza binip 10 milyon dolarlık evinize dönersiniz herhalde. Başka ne yapacaksınız? Zaten bir düzine başka şirketin yönetim kurulundasınızdır.
Bir şey olmaz. Kısacası olan bitenler. Zenginin dramasının züğürdün çenesini yorması olarak görülebilir. Ben öyle görmüştüm en azından.
Ama yüzeyin biraz altını kazıyınca ortaya çıkan tablo beni endişelendirdi. Esas kavga kişiler arasında değil, etik kaygılarıyla rekabetin arttırdığı ticari kaygılar arasında. Ve bu kavgada son roundu bence iyiler kazanmadı. Çoğumuz OpenAI'ın adını 2022'nin sonunda duymuşuzdur.
Ana ürünleri ChatGPT, sadece iki ay içinde 100 milyon kullanıcıya ulaşıp o ana kadar en hızlı yayılan tüketici teknolojisi olmuştu. Modasa'nın geçtiğini düşünüyorsanız, bugün 180 milyon aktif kullanıcısı var. 100 milyondan fazla da haftalık aktif kullanıcısı var. Diğer rakamlar aylık.
Tabii chat GPT'nin popüler kültürü etkisini böyle kullanıcı sayısıyla anlatmak epey yetersiz. 10 yıllardır gelecek gelecek denen ve artık duyarsızlaştığımız yapay zekanın bir anda kapımızda bitiverme anıydı o. Ne ara bu seviyeye geldik dedik hepimiz. Zamanında IBM Deep Blue'nun Kasparov'u yenmesi de çok önemli bir sembolik adım olarak görülmüştü.
25 sene olmuş bu arada. Kendinizi yaşlı hissedin biraz. Fakat onun iki büyük farkı vardı. Birinci fark, her ne kadar satranç zekanın bir sembolü olsa da kimse gerçekten de onun genel insan zekasının ölçütü olduğunu düşünmüyordu.
Eninde sonunda kısıtlı hamle sayısı var. Brute Force ile deneme yanılma ile çözülecek bir şey. Zaten maçın hemen ardından bir sonraki hedef de Go oyunu haline geldi. Çünkü çok daha fazla olasılık var.
O deneme yanılma pratik değildi. O zamanki bilgisayarlar bir amatörü bile Go Google'ın bünyesine yeni katılan DeepMind'in geliştirdiği bilgisayar Avrupa Go şampiyonunu yendi. Sonraki senede dünyadaki en iyi oyuncuları. Tamam, bir ışık daha aşılmış oldu ama bu programların temel mantığı yıllar öncesiyle aynıydı.
Esas devrim 1-2 sene içinde AlphaGo Zero ile geldi. Herhangi bir uzman programlaması gerekmeden ve her olası hamleyi hesaplamaya çalışmadan sıfırdan Go öğrenebiliyordu. Kendi mantığında ufak bir değişiklik yapıyor. Önceki versiyonuyla birkaç yüz tane oyun oynuyor.
Eğer bunların çoğunu kazanıyorsa o değişikliği faydalı bulup bünyesine katıyordu. Sadece birkaç günlük kendi kendine eğitim sonrası tüm Go programlarını ve tabii tüm insanları yener hale geldi. Çok kısa bir süre içinde DeepMind bu yaklaşımı genelleştirdi. AlphaZero dedi ona da.
Belki onu duymuşsunuzdur. AlphaZero tek bir oyun üstüne uzmanlaşmış değildi. Birçok benzer oyunu kendi kendine öğrenebiliyordu. Sadece 9 saatlik bir eğitim sonrası, dünyadaki o sırada en iyi satranç programı olan Stockfish ile karşılaştı.
100 maçın 28'ini kazanıp 72'sini beraber bitirdi. Bir maç bile kaybetmedi AlphaZero. Gerçi buradaki kurallar biraz Stockfish aleyhineydi. Şu anki versiyonu da çok daha iyi o zamankinden ama onlar işin biraz ayrıntısı.
Önemli olan neural netlere dayanan yani insan beynini taklit eden bir yapıyla belli bir iş için tasarlanmış en ileri algoritmaların seviyesine zahmetsizce ulaşılmış olmasıydı. Esas devrim bu. Fakatça onuzun haberi olmamıştır veya unutmuşsunuzdur. Niye popüler kültüre etkisi o kadar çok olmadı?
İşte burada Chat GPT ile arasındaki ikinci farka geliyoruz. Hiçbirimiz AlphaZero'yu tecrübe etmedik. Haberlerde okuduk, vayanısını dedik, sonra da hayatımıza devam ettik. Bir satranç veya Go ürünü olarak bile çıkmadı piyasaya.
Bir araştırma projesi olarak başlayıp bitti. ChatGPT ise benzer bir teknolojiyi herkesin eline alıp oynayabileceği bir halde sundu. Devrimi ilk defa tecrübe ettik. Peki ChatGPT nereden çıktı?
Aslında tam da buradan çıktı. DeepMind, Google bünyesinde bağımsız bir şirket gibi çalışırken bir sürü makale yayınladı. Keza Google'ın öz evladı olan takımlar da yani kendi bünyesindeki diğer takımlar da 2011'den beri yüzlerce makale ile Bu konudaki yöntemlerini, bulgularını paylaştılar. Bir üniversite misali.
Mesela GPT'nin T'si olan Transformer kavramı 2017 yılında yayınlanan bir makaleden çıktı. O makalenin yazarlarının hemen hepsi Google Brain ve Google Research çalışanıydı. O dönemde OpenAI sadece iki senelik bir oluşum. Aralarında Sam Altman ve Elon Musk'ın olduğu bir grup kafadar, Bunu kar amacı gütmeyen bir kuruluş olarak kurmuşlar.
Amaçları da yapay zekanın ticari bir teknolojiden ziyade tüm insanlığa fayda sağlaması, açık bir teknoloji olarak fayda sağlaması. Yani öyle patentlerin arkasında saklanmaması. Web üstüne yaptığım bölümü hatırlıyor musunuz? Her gün kullandığımız web aslında bir uygulama demiştim.
Bedava ve açık olmak zorunda değildi. Kurucusun ısrarıyla öyle oldu. Bunlar da bir benzerini yapay zeka için düşünüyorlar. GPT'nin ilk versiyonu AlphaZero ile aynı dönemde.
Demin bahsettiğim makaleden hemen sonra çıktı. Halkın kullandığı bir şey değil. İkinci versiyon da hemen ertesi sene çıktı. Fakat daha o zamandan itibaren paylaştıkları şeyleri sınırlamaya başladılar.
Çünkü biri o modelleri alıp kötü şeyler için kullanabilirdi. Yani en baştan öyle idealist takılmaları belki para çekmek içindi. Ama böyle bir teknolojinin açık kalması bence de pek akıl kârı değil. Neredeyse kimsenin onu geliştirecek kaynağı yok sıfırdan.
Fakat bir kere geliştirildi mi, neredeyse herkesin o modeli alıp üstünde biraz oynayarak onu herhangi bir şey için kullanacak kaynağı var. İlerleyen senelerde işin içinde ticari rekabet de giriyor. O zaman open'e yayın, open kısmı daha da kapanıyor. GPT-4 çıktığında hiçbir şey paylaşılmadı.
Bunu da açık açık söylediler. Aynı dönemde Google da kendi bulgularını paylaşmayı durdurdu. Yahu yıllardır millete bedava üniversite olduk. Bizim teknolojimizle bize basıp geçtiler dediler.
Açıklık kısmının kaderi bu. Gelelim işin diğer kısmına. Kar yoksa nereden geliyor bu değirmenin suyu? Sonuçta bir yapay zeka araştırmacısı kuru ekmek karşılığı çalışmayacak.
Bunların ortalama kazançları 270 bin dolarmış senelik. Endüstri genelindeki ortalama. Yani bir de iyiysen herhalde bir cerrahtan fazla kazanıyorsundur. Birkaç yüz kişi çalıştırırsan böyle en az 100 milyon doları buna ayırman lazım her sene.
Bunun üstüne bir de işletim masrafları var yani o dünya kadar veriyi işliyorsun, depoluyorsun. O saçma sapan promptlarımızın OpenAI'ye maliyeti bugün günlük 700 bin dolar. Tabii ilk kurulduğunda ölçek böyle değildi ama yine de ciddi bir para gerekeceği belliydi. Kurucular da bağlantılarını kullanarak zaman toplam 1 milyar dolarlık bağış sözü veriyorlar.
Fakat o paranın çok az bir kısmı geliyor. Birkaç sene içinde toplam 130 milyon kadarı. Lafa gelince herkes uçup kaçmış da pamuk eller cebe değince ölü taklidi yapmışlar. Pamuk ellerini cebine atan az sayıdaki insandan biri Elon Musk'tı.
Onun da tam olarak ne kadar verdiği muamma. Önceleri 100 milyon verdim diyordu. Sonra 50 milyona düşürdü. Sonra birileri vergi beyanlarına dalıp onun da abartı olabileceğini söyledi.
Yani adamın hata payı bizim 7 sülalenin hayal edebileceği paradan fazla. Her halükarda ama ilk senelerdeki bütçenin en büyük kısmı ondan gelmiş. Yine de para eninde sonunda suyunu çekiyor, bir şeylerin değişmesi lazım. 2018'de Musk, OpenAI yönetiminden ayrıldı.
Resmi gerekçesi, Tesla'daki yapay zeka çalışmalarının bir çıkar çatışması yaratmasıydı. Fakat sonradan anlaşıldığı üzere orada bir taht kavgası dönmüş. Hikayenin versiyonuna göre ya teknolojinin fazla hızlı geliştiğinden korktuğu için ya tam tersini rakiplerinden geri kaldıklarını düşündüğü için ya da bildiğin düz iktidar hırsıyla bir teklifte bulunuyor. Para vermeye devam ederim ama düdüğü çalmak şartıyla.
Başa geçmek istiyor yani. Diğerleri de bunu reddedince ayrılıyor. Para babalarının kaybından sonra OpenAI ayakta kalmak için acayip bir dönüşüm geçiriyor. Şirket yapısının diagramlarını görünce ben fenalık geçirmiştim.
Çok basitleştirirsek bünyesinde kar amacı güden bir şirket kurdu ve oraya yatırım aldı. Yani en tepede kar amacı gütmeyen, teknik olarak vakıf değil ama biz vakıf diyelim zaman kazanmak için, orijinal kuruluşumuz var, onun yönetim kurulu belli. Bu vakıf bir holding sahibi. Holding, kendisi bir şey üretmeyen, onun yerine başka şirketlerin hisselerini tutan şirket demek.
Alfabet mesela bir holding. Google dahil birkaç şirketin çoğunluk hissesini tutuyor. OpenAI'deki holding neyi tutuyor? Yeni kurdukları limited şirketin hisselerini tutuyor.
O da kar amacı güden bir şirket. Fakat ilginç bir şirket. Limitli kar. Koyduğunun en fazla yüz katını kazanabileceksin.
gömmüş. İlerleyen yıllarda daha da arttırdı. On üç milyar doları buldu katkıları. Yani öyle zengin bağışıyla falan dönecek bir operasyon değil belli ki.
Milyar dolarlar lazım. Bu yatırım sonucu şirketin yüzde kırk dokuzuna hakim oluyorlar. Ama ne olursa olsun maksimum edebilecekleri kar bunun yüz katı. Yani bir nokta üç trilyon dolar ediyor.
Allah kurtarsın ne diyelim. Şirketin çoğunluk hissesi halen Holding'de. Holding'in de çoğunluğu vakıfta. Çoğunluğu diyorum çünkü çalışanlara ve başka yatırımcılara vermişler.
Böyle bir hiyerarşi var önümüzde. Bu yapı hem para gelsin hem de orijinal ideallerimize sadık kalalım, döner yiyelim ama dönmesin isteğinin bir sonucu. Çünkü normalde bir şirketin yönetim kurulu hissedarları hesap verir. Onlar tarafından görevlerinden alınabilirler, dava edilebilirler.
Hissedarları temsil ediyorlar sonuçta. Bu yapıdaysa yönetim kurulu kimseyi temsil etmiyor. Daha doğrusu onlara sorarsan biz bütün insanlığı temsil ediyoruz diyecekler. Ama yasal olarak kimseye bağlı değiller.
Microsoft istediği kadar para gömsün, karşılığında bir takım teknolojik avantajlar elde edebilirler ama Open AI yönetimine etki edemezler. En azından kağıt üstünde böyle. Yönetim kurulu üyeleri yoldan çıkmasın diye hisse sahibi olmaları baştan yasaklanmış. Hatta orijinal kurulu üyelerinden biri, şirketin kendisine değil de OpenAR teknolojisi kullanan başka bir şirkete yatırımcıydı, o yüzden bile bırakmak zorunda kaldı görevini.
Şirkete CEO olarak atadıkları semaltmanın dahi herhangi bir hissesi yok. Maksat, stratejik karar veren kişileri, mümkün olduğunca sistemin kalanından soyutlamak, kısa dönem kar uğruna yapay zeka gelişimini tehlikeye atacak hamleleri engellemek. Yani şirketi bir etik kurulu yönetiyor esasında. Bu açıdan hakikaten olağan dışı bir yapı.
Fakat para her şeyi erozyona uğratır. Mike Tyson ne demişti? Ağzına ilk yumruğu yiyene kadar herkesin bir planı vardır. Burada da diyebiliriz ki ilk milyar doları alana kadar herkesin bir etik duruşu vardır.
Veya ilk 10 milyar doları alana kadar. Şimdi temelimizi oluşturduk. Artık Sam Altman'ın kovulmasına gelebiliriz. Adam kafa dinlemek için Formula 1 izlemeye gitmiş Vegas'a.
Yani kafa dinlemek için de yapılacak en son şey vız vız vız. Orada buna bir toplantı linki gönderiyor. Başmühendis İlya, bunun eski arkadaşı. Bir katılıyor ki tüm yönetim kurulu hali hazırda toplanmış.
Dakikalar içinde kovulduğu açıklanıyor ve erişim uzaktan çat diye kilitleniyor. Dünya tarihinde damgasını vuran bir şirket kurmuştun yani. Artık orada değilsin. İyi tatiller.
Ne kimseye önden bir uyarı verdiler diğer yatırımcılara, ne de sonrasında doğru düzgün bir açıklama yaptılar. Sadece kendisi bize karşı dürüst davranmadı demekle yetindiler. Öyle de kaldı açıklama seviyesi. E ne oldu da bu kadar apar topar kovdular adamı?
Burada birkaç seviye var. Stratejik seviyedeki anlaşmazlık şu, SEM şirkete daha çok yatırımcı çekmek, kuruluşu iyice ticarileştirmek istiyor. Daha Ekim ayında bir yatırımcı grubuyla pazarlıktalardı. 86 milyar dolar değerlemeden bahsediliyordu.
O kadar parayı çıkarıp vermiyorlar tabii de verdikleri kadarından oranlarsan o toplam değeri buluyorsun. Bu değer 6 ay önceki değerlemenin 3 katıydı. E o yüzden herkesin ağzının suyu akmış. Elon Musk da zaten buna bozulmuştu.
Adam diyor ki, ya benim 50 milyon, 100 milyon neyse işte elimin kiri, bu kadar vererek bağışladığım şey nasıl oldu da bir anda 90 milyar dolar eden kar amaçlı bir şirkete dönüştü? Ve benim zerre kadar hissem yok. Bu yasalsa herkes niye bunu yapmıyor? Şöyle diyor, düşünün bakın Amazon ormanlarını korumak için bir vakıf kuruyorsunuz, birkaç sene sonra ahşap şirketine dönüşüyor.
Bence haklı. Yani burada tamamen enayi durumda düştü. Kişisel seviyede de bir takım anlaşmazlıklar var. Zira Altman'ın yan işleri var.
Mesela yapay zeka araştırmalarında kullanılan çip üretimi yapma derdinde, kendi çipini üretme derdinde, bunun için Katar'dan falan yatırım kolluyor. Diğerleri de bunlara bozuluyorlar. İşte bu titrek temel üstüne iki güncel gelişme yaşandı. İlki, Kasım'ın başında yaptıkları ilk developer konferansları.
Burada bir sürü şey anons ettiler. En önemlisi custom GPT'ler. Yani hiçbir kod yazmadan ana GPT modelini alıp onu kendi işine yarayacak şekilde modifiye edebiliyorsun. Ve bu şekilde yaratılan modeller benzeri bir ortamda satışa çıkıyorlar.
Bunu daha önce yapanlar var. Meta mesela farklı kişiliklere sahip chatbotlar sürdü piyasaya. Fakat bu noktada OpenAI'nin tek derdi insana benzemek değil. Hiç öyle bir amaç taşımayan, kafanı esen herhangi bir muhabbeti etmeyeceğin, o Bunun yerine çok belli alanlarda sana yardımcı olacak modeller üretebilmek.
Mesela sadece Excel üstüne yoğunlaşmış bir chatbot olabilir. Bütün ayrıntılarını biliyor Excel'in, Excel hakkında dönen bütün internet muhabbetlerini de biliyor. Yapmak istediğini normal bir dille ona anlatıyorsun, o da sana yapıyor. Veya seyahat rezervasyonlarına odaklı bir model olabilir.
Genel model bunların hepsinden biraz anlıyor da performansı istikrarlı değil. Profesyonel seviyede kullanmak için bu özel modelleri alıyorsun. Bu tabii birçok bilinmeyeni beraberinde getirecek bir gelişme. Öyle terminatörvari senaryolardan bahsetmiyorum.
Mesela güncel bir örnek İsrail-Filistin hakkındaki tartışmaları düşünün. Bütün bu tartışmaları, tarihsel verileri, eğitim verisi olarak kullanmış bir chatbot. Bunun ayarlarıyla oynayarak onu mükemmel bir propaganda aracına dönüştürmek mümkün. Aynı anda herkese laf yetiştirecek her platformda, kişisel yazılmış e-mailler atacak spam filterleri geçen, tamamen uydurma görseller, uydurma videoları kendi otomatikman yaratacak, argümanlarına destek olarak kullanacak, belki bağış toplayacak, hatta karşı tarafı kandırıp kendine kanalize edecek onların bağış kampanyalarını.
Sonu yok olasılıkların. Genel olarak Sam Altman ellerindeki teknolojiyi hemen ürünleştirip doğaya salmak istiyor. Bu hem şirkete kar getirecek diyor, hem de o ürünlerden gelen kullanıcı verileri, buna istismar da dahil, bir sonraki nesil ürünleri eğitmekte kullanılacak. Yönetim kurulu ise bunu tehlikeli buluyor ki aralarında esas başmühendis İlya var, daha yavaş gitmekten yanalar.
Bu birinci güncel gelişme, ikinci güncel gelişme de Q-Star adıyla bilinen esrarengiz bir proje. Yönetim kurulundan dişe dokunur bir açıklama gelmedikçe bunun hakkındaki dedikodular arşa çıkmıştı. En tabloid versiyonu şu. OpenAI kazığa gerçek yapay zeka geliştirdi.
Yönetim kurulu bunu çakınca apar topar CEO'yu kovdu. Daha gerçekçi versiyonu ise Ilya'nın başına çektiği bir takım, basit matematik sorularını çözmeyi başaran bir model geliştirmiş. Bunu şu anki dil modelleri de beceriyor aslında ama istikrarlı biçimde değil. Bazen zor soruları çözerken bazen aşırı basit sorularda takılabiliyorlar.
Mesela A B'den büyükse B'de C'den büyükse A ile C arasındaki ilişki nedir? Bu ilişkiyi anlayıp çözmüyor modeller. Onun yerine eğitim sürecinde benzer muhabbetler görmüşlerse oradan bir örüntü yakalamaya çalışıyorlar. Bir şey anlamadan çözüyorlar çözerlerse.
Sözde bu yeni model anlayarak çözüyor, planlama yaparak çözüyor. En azından metanın yapay zeka sorumlusunun tahmini bu yönde. Fakat söylenti bundan ibaret değil. OpenAI içindeki birkaç araştırmacı bu gelişmeler üstüne kendi patronlarını yani CEO'yu ekarte edip doğrudan yönetim kuruluna mektup yolluyorlar.
Genel yapay zekayı bulduk demiyorlar da böyle gidersek tahminlerden çok daha önce bulacağız. Paldır küldür bu işe dalıyoruz. Biraz yavaşlayalım, durdurun dünyaya inecek var demişler. Hangi sebep ne kadar kuvvetli bunu kimse bilmiyor ama hepsinin toplam sonucunda adam apar topar kovuldu.
Sözde yönetim kuruluna laf geçiremeyen Microsoft da işte burada devreye girip önce bunları barıştırmayı denedi. Sonra da adama hemen iş önerdi. Gel bizim yapay zekâ kısmının başına geç, yanına da istediğini getir. Bunun üstüne 700 küsur çalışanın hemen hepsi açık bir mektup yazdılar.
Rest çektiler yönetim kuruluna. Ya siz gidersiniz ya da biz hepimiz. Ben dışarıdan bunları görünce demiştim ki, vay adam tam general gibiymiş demek ki. Herkes peşinden gitmeye hazır.
Fakat işin sırrı liderlikte değil, parada. Demin bahsettiğim o yatırımcı grubu vardı ya, bunlar yeni hisse almıyorlar şirketten. Çalışanların ellerindeki hisselere teklif verecekler. OpenAI halka açık bir şirket olmadığından elindeki hisseyi önüne gelene satamıyorsun.
Kağıt üstünde hissen var da. Yasal bir alacak yoksa onun değeri sıfır. Alış-satışlar da kısıtlı zaten. Şimdi bir yatırımcı gelmiş, 6 ay öncesine kıyasla sana 3 kat fiyat teklif ediyor.
Zengin olacaksın yani, hepsi zengin olacaktı. Fakat bu kovulma olayı sonrası teklif rafa kalkar gibi oluyor. E bunlar da res çektiler. Microsoft'un yanında diğer şirketler de anında bunların üstüne akbaba gibi üşüştü.
Gelin bizde çalışın, ne veriyorlarsa 5 fazlasını vereceğiz mantığı güttüler. Ya şu da komik aslında bakarsan. Belki yapay zeka konusunun geleceği, oradaki birkaç kişinin kendi hissi opsiyonlarını dert etmesiyle şekilleniyor. Yani dışarıdan bakınca sanıyorsun ki işte binlerce şirket çalışıyor, koca bir alan.
Ama onlar genelde türev ürünler üstüne çalışıyorlar. Asıl olayın gidişatını belirleyen kişi sayısı az. Böyle çok banal çıkarlarla şekillenmesi de çok komik aslında. Neyse sonunda yönetim kurulu çark ediyor.
Sözde kontrol onlardaydı ama çalışan kalmazsa neyi yönetecekler? Her şeyin üstüne de darbe girişiminde başı çeken İlya, bu noktada diğerlerine ihanet edip taraf değiştiriyor. Geçici olarak atadıkları CEO bile Sam Altman'ın Kazandı. Darbe yapan yönetim kurulu karşı bir darbeyle yerinden oldu.
Bir kişi hariç değiştirildi. Akademide ve sivil toplumda çalışanlar gittiler. Yerlerine eski bir yöneticiyle eski bir hazine bakanı geldi. Pek etik kurulu gibi durmuyorlar.
Bunlar zamanla yeni üyeleri aralarına alacaklar. Belki Microsoft'a da bir koltuk verecekler. Şimdi Altman aptal biri değil, herkese para kazandıracağım diye dolanmıyor ortalıkta. Sürekli olarak yapay zekanın olası risklerinden bahsediyor.
Ticarileşmeyi o riskleri uzun vadede minimize etmenin bir yolu olarak gösteriyor. Çok veri toplayalım ki esas yapay zeka raddesine geldiğimiz zaman onu düzgünce tasarlayalım. Yakın zamanda kongre de bunu soruşturdu zaten. Orada da güzel güzel konuştu ama parayı takip etmek lazım.
Gelişmeleri takip etmek lazım. Hangi yönü gösteriyorlar? Sonuçta açık standartları savunan bir vakıf sadece birkaç sene içinde Microsoft'un bir iş koluna dönüştü. Microsoft'un kendisi de bu arada Mart ayında bünyesindeki yapay zeka etiği takımını işten çıkardı.
Topluca. Yani bütün yapay zeka projelerini yönlendirme gücü olan bir takımdı bu. diğer yapay zeka girişimlerini aynı çatı altında topladı. Halka açık paylaşımlarını durdurdu ve resmen savaş moduna geçti.
Meta var. Açık kaynak modelinde devam ediyorlar. O bakımdan ilginç. Ama onlar da hayırını yapmıyor bu işleri.
Sırf bu seneki yapay zeka ile alakalı yatırımları 30 milyar doları geçmiş. Korkunç paralar bunlar. Başka ufak oyuncular da var. Mesela OpenAI'den ayrılan birkaç mühendis iki sene önce Antropic diye bir şirket kurdular.
Güvenliğe çok daha önem veriyorlar, çok daha temkinli gidiyorlar. Ayrıntısını bilmiyorum. Ama sanki aynı şeyler tekrarlanıyor gibi. Çünkü onların da en büyük yatırımcısı kim?
Google. 300 milyon dolar vermişler. Devletler bu konuda uyanmaya başladılar. Kasım ayının başında İngiltere'de bir yapay zeka güvenliği zirvesi oldu mesela.
Önemli şirketler katıldı. Onlarla beraber ABD ve Çin katıldı. Mekan da Bletchley Park. Hani 2.
Dünya Savaşı'nda şifre kırma çalışmalarının yapıldığı yer. Enigma bölümünden hatırlarsınız manidar. Öyle müthiş bir dizi kararı almadılar zirvede. Birkaç sözler vermişler işte.
Daha ilk zirve zaten. Avrupa Birliği'nin kendi içinde düzenleme girişimi var. Beşinci round görüşmeler aralıkta devam edecek. Fakat ben bunlardan pek umutlu değilim.
Belki biraz daha okudukça fikrim değişir. Ama şimdilik bakış açım şu. Son birkaç yıldır Open AI içinde yaşanan o stratejik çekişmeler çok daha büyük boyutlarda devletler ve uluslararası örgütler ölçeğinde de yaşanacak. Yani open AI bir mikrokosm gibiydi.
Aynı dinamikler çünkü her yerde var. Çin mesela niye kendi şirketlerine regulasyon engelleri çıkarıp üstünlüğü, avantajı ABD'ye bırakmak istesin? He he der, biz regüle ediyoruz der, göstermelik bir şeyler yapar, alttan alta destekler. ABD de aynı şeyi düşünecek.
Klasik oyun teorisi. Herkes işbirliği yapsa en iyi genel sonuca ulaşıyorsun, herkes için en iyi sonuca ulaşıyorsun ama ihanet etmek dominant strateji. Burada artık konuyu son yaptığımız serideki o tragedy of commons kavramına bağlayarak bitirebiliriz. Bir ürünü alel acele geliştirip çıkartmanın bir risk hesabı vardır.
Başarılı olursan piyasaya hakim olma şansın artar, başarısız olursan batma ihtimalin artar. Ödül de, risk de sana aittir. Yapay zekâda ise ödül sana aitken riske herkes üstleniyor. Yani alelacele ortaya saldığın bir model yanlış çalışırsa veya belki de şöyle demeliyiz, model gerektiğinden de iyi çalışırsa herkese zararı dokunacak.
Fakat oyuncular ne yapıyor bu tip durumlarda? Deliller gibi risk alacaklar. Çünkü onlar almasa başkası alacak. O yüzden de ben Sam Altman'ın gerçekten neye inandığını pek umursamıyorum.
Open AI'in kaderi de belki uzun vadede gerçekten önemsiz. Ama herhalükârda Open AI'in geçirdiği bu değişim, tıpkı o Deep Blue Kasparov maçları gibi sembolik açıdan bir devrim olarak nitelendirilebilir gelecekten bugünlere bakınca. Bütün endüstrinin değişimini özetleyen bir minyatür örnek gibi. Veya maden ocağındaki Kanarya.
Evet fularsızlar, umarım doğal zekanıza bir faydası oldu tüm bunların. Bundan sonra bu konulara ara ara değiniriz. Öyle devasa bir seriyle her şeyi anlatacağım, bu işin piri olacağım diye beklersem hiç sıra gelmeyecek belli ki. Biz ufak ufak lokmalarla yiyip hazmedelim.
Ne yazık ki bana milyar dolar yatıran birileri yok ama sevgili patronlarım var. Ali Emre Öztürk, Aybars Atalay, Özgür Akçiçek, Gökhan Kazcılar, Emre Köksal, Atlas Pera, Elif Koca Taşkın, Barbaros Can Konar, Emre Ersoy, Deniz Soyuer ve Ömür Uluaşk. Sizlere ve diğer tüm destekçilerime teşekkürler.
Bu transkript otomatik olarak oluşturulmuştur; küçük hatalar içerebilir.