yapay zeka kullanmaya mecbur muyum?

1:57Bu arada şeye çok takıldım benim böyle ufak haterlıklarım. Daron Hocamoğlu'nun eşi, kendisi de MIT'de matematik profesörü olan Asu Özdağlar, Daron Hocamoğlu'nu sahneye çağırıyor ve sahneye çağırırken Daron Asamoğlu diye çağırıyor. Ben buna acayip takıldım. Niye kendi ismini Anglo-Saksonize versiyonunu söylüyorsun? Sen doğrusunu söyle. Onlar becerebildikleri kadar benzetmeye çalışsınlar. Bu nasıl bir kraldan çok kralcılıktır? Neyse.

2:26Kitabın adı bu arada 19. yüzyılda yılan yağı diye pazarlanan ve mucizevi tedavi sunduğu iddia edilen sahte şifalı ürünlerden geliyor. Yani kulağa güzel, büyüleyici gelen ama çoğu zaman vaat edildiği gibi işe yaramayan çözümler aslında bu snake oil yani yılan yağı metaforu. Yazarlar, AI'ın bir kısmının gerçekten güçlü araçlar olabileceğini fakat bir kısmının da abartılmış, sınırları saklanmış ve hatta bazen tamamen işlevsiz olduğunu söylüyor. Akademi teknoloji şirketleri ve medya bu ilizyonu beslerken bize görünmez bir mesaj veriyor. O da ne? Kullanmazsan geri kalırsın. Oysa bu araçları sorgulamadan benimsemek riskleri büyütüyor ve bu risklerden de bahsedeceğim.

3:10Bu bölümde yapay zekanın parlak vaatlerini tek tek masaya yatıracağız. Geleceği öngörmeye çalışan Predictive AI'in, yani öngörücü AI'in neden insan davranışı karşısına yanılmaya mahkum olduğunu, Generative AI'in yaratıcılık gücüyle birlikte doğruluk ve etik risklerini ve sosyal medyada AI destekli içerik denetimin ifade özgürlüğüne etkisinden teknoloji mitlerinin nasıl kullanmamak yeri kalmaktır algısını beslediğine kadar uzanan bir tablo çizeceğiz. Bu arada hazırlanırken bana yol gösteren ve yardımcı olan yapay zeka alanında çalışan sevgili dostum Dr. Buğsel Say'a da buradan özellikle teşekkür etmek istiyorum. Onun uzmanlığı olmasa olmazdı. Bu bölümü hazırlarken baştan şunu kabul ederek yola çıktım.

3:54yapay zeka hakkında nihai cevaplar sunmak değil, bizi daha dikkatli, daha bilinçli ve daha dirençli sorular sormaya, teşvik etmeyi amaçlıyoruz bu bölümde. Çünkü bazen en yerinde tepki yeni bir teknolojiyi hemen kullanmak değil, onu biraz uzaktan izleyip neye dönüştüğünü anlamaya çalışmak. Hazırsanız başlayalım. 1. Bölüm Yapay Zekayı Dair Büyük Resim Bugün yapay zeka dediğimizde chat GPT gibi sohbet robotlarından, bankaların kredi değerlendirme yazılımlarına, yüz tanıma sistemlerinden, suç tekrarını tahmin eden algoritmalara kadar birbirinden tamamen farklı teknolojileri tek sepete atıyoruz.

5:00Tıpkı bisikletten helikoptere, bütün ulaşım araçlarına yalnızca araç demek gibi. Ama bunlar aslında içinde çok çeşitleniyor ve farklılaşıyor. Bu kavramsal bulanıklık hem kamuoyunun hem de karar vericilerin neyin işe yaradığını, neyin yılan yağı olduğunu ayırt etmesini zorlaştırıyor. Yazarlarımız Narayanan ve Kapur, yapay zekanın kabaca iki türde toplandığını söylüyor. Üretici, yani generatif yapay zeka ve tahminleyici, yani predictive yapay zeka.

5:28Üretici yapay zeka, metin, görsel, müzik, kod gibi içerikler üretebiliyor. Örnek olarak chat GPT ya da mid journey verebiliriz. Tahminleyici yapay zeka ise geleceğe dair öngörüler yapmaya çalışıyor. Mesela bir mahkumun tekrar suç işleyip işlemeyeceği, bir makinenin ne zaman bozulacağı, bir adayın işe uygunluğu gibi tahminlerde bulunuyor.

5:49Belki aramızda Minority Report filmini izleyen benim gibi oldlar vardır. O film 2054 yılında Washington DC'de geçiyordu ve suç daha işlenmeden önce tespit edilip engellenmekteydi. Bu filmin konusu buydu. Bu da bir Predictive AI örneği olarak düşünebilir günümüzde aslında. Yazarlar, Generative AI'in uzun vadede faydalı olma potansiyelini taşıdığını ama Predictive AI'in insan davranışını öngörmedeki sınırlılıkları nedeniyle asla tam anlamıyla güvenilir olamayacağını savunuyor. Bu ayrımı anlamak için ilerleyen bölümlerde bazı çarpıcı örneklere bakacağız. AI'in sağlık sigortası ödemelerini veya işe alım kararlarını nasıl etkileyebildiğini, hatta etik sorunlar doğurabilecek kararları nasıl otomatikleştirdiğini göreceğiz.

6:33Bu örnekler yapay zekanın yalnızca teknik değil, aynı zamanda toplumsal sonuçları olan bir araç olduğunu bize bir kere daha hatırlatacak. Yazarların AI Snake Oil dediği şey aslında bu yani. İddia edildiği gibi çalışmayan veya çalışsa bile vaat edilenden daha az işe yarayan, buna rağmen pazarlandığı için yanlış güven duygusu yaratan sistemler. Yani sorun sadece teknolojinin eksikliği değil, akademiden teknoloji şirketlerine, medyadan devlet kurumlarına kadar geniş bir ekosistem bu abartı döngüsünü besliyor aslında. Makine öğrenmesiyle ilgili bilimsel makalelerde metodolojik hatalar oldukça yaygın. Şirketler algoritmaların gerçek performansını açıklamıyor. Medya ise çoğu zaman sorgulamadan çığır açan AI haberleri.

7:17yayıyorlar. Bu kitap insan davranışlarını öngörmenin yapısal zorluklarını da vurguluyor. Kültürel bağlamın hızla değişmesi, algoritmaların tahmin gücünü kısa sürede geçersiz kılabiliyor. Bu konuya da ilerleyen bölümlerinde daha detaylı döneceğiz.

7:32Tüm bu tablo yapay zeka kullanmaya mecbur muyum sorusuna doğrudan bağlanıyor aslında. Yazarlarımıza göre asıl mecburiyet neyin işe yaradığını, neyin yılan yağı olduğunu ayırt edebilecek eleştirel bir bakış açısı geliştirmek. Çünkü AI yanlış yerlerde, yanlış amaçlarla ve yanlış varsayımlarla kullanıldığında yalnızca verimsiz değil, doğrudan zararlı da olabilir. İkinci Bölüm Predictive AI Neden Yanılır? Tahminleyici yapay zeka, yani predictive AI, verileri analiz ederek geleceğe dair kararlar almayı vaat ediyor. Bir hastanın ne kadar sürede iyileşeceği, bir öğrencinin okuldan ayrılma ihtimali, bir çalışanın performansı ya da bir sanığın tekrar suç işleme riski. Bu kulağa hem rasyonel hem de verimli geliyor. Ancak yazarlarımıza göre bu alanda karşımıza çıkan pek çok ürün ya vaat edildiği gibi çalışmıyor ya da çalışsa bile kabul edilemez hatalar üretiyor. Örneğin Amerika'daki Medicare sistemi, buradaki sağlık sigortası sistemi, hastanedeki kalış süresini tahmin eden AI modelleri kullanmaya başladı ve amaç gereksiz yatışları azaltmak.

8:40Fakat mesela bir vakada 85 yaşındaki bir hastanın 17 günde taburcu olması gerektiği öngörülüyor. Ama 17 günde olduğunda hasta hala yürüyemiyor. Ancak bu eğer bunu 17 gün sonra olarak tahmin ettiği için sigorta ödemesi bu hastanın kesiliyor. Böylece teknik bir hata doğrudan insani bir zarara dönüşüyor. Benzer şekilde Allstate sigorta şirketi yine Amerika bazlı bir şirket fiyat artışına rağmen şirketten ayrılmayacak müşterilerini belirlemek için eğer kullandı. Yani fiyat artışını belki fark etmeyecek. Yaşlı olduğu için ya da çok fazla böyle faturalarına bakmadığı için fark etmeyecek bir sakırsız yani enayiler listesi. oluşturuyor EY yardımıyla ve bunun büyük kısmını 62 yaş üstü bireyler oluşturuyor. Tahmin aslında istatistiksel olarak doğru ancak etik değil. Çünkü yani yaşa dayalı bir otomatik ayrımcılıktan şirketin kar etmesini sağlıyor.

9:36İşe alımlarda kullanılan bazı sistemler de aynı kalıba oturuyor. Adayların yalnızca 30 saniyelik videolarından sıcakkanlı ya da güvenilir olup olmadığını iddia eden yazılımlar var. Ve bilimsel temeli olmayan kriterlerle insanların iş hayatı etkilenebiliyor. Bu şirketler genellikle sistemlerin doğruluğunu test eden bağımsız, hakemli bir çalışma da yayınlamıyorlar. Adalet sisteminde yine bu predictive AI yani tahmin eden AI kullanılıyor ve bunda aslında çok büyük riskler var.

10:05Amerika'da birçok bölgede sanığın yargı öncesinde serbest bırakılıp bırakılamayacağını belirlemek için risk skorları kullanılıyor. Ancak bu araçlar rastgele tahmininden çok az daha iyi sonuçlar verirken, ırk, cinsiyet ve yaş gibi önyargıları pekiştirebiliyor. Üstelik sistem aynı geçmişe sahip üç kişiyi, bunlardan biri pişman, biri yanlış yere suçlanmış, biri tekrar suç işlemeye kararlı, ayırt edemiyor. Bazı zeka sistemleri ise istemeden ters teşvikler yaratıyor.

10:34Mesela yine Amerika'da bazı eyaletlerinde böbrek nakil bekleme listesinde öncelik sırasını belirleyen bir AI kullanılıyor ve bu sistem genç yaşta böbrek yetmezliği yaşayanlara daha yüksek öncelik veriyor. Bu hani güzel, hoş, akla yatkın gelebilir. Ne kadar genç bir hastaysa yaşayacak ve ne kadar acil bir durumu varsa o kadar yaşayacak ömrü olduğu üzerinden daha aciliyet sırasında öne geçiyor. Ancak bu şöyle bir sonuca sebep oluyor. Genç yaşta böbrek yetmezliği yaşayanlar, böbrek durumları daha hızlı kötüleşsin diye ilaçlarını almamaya başlıyorlar ki bu listede daha önlere geçip daha hızlı bir şekilde organ nakli sırası onlara gelsin diye. Dolayısıyla sağlık sistemine de güven sarsıyor ve birey kendi sağlığını bir stratejiye dönüştürüyor.

11:23Yazarlar buna gaming diyor. İnsanlar sistemi manipüle edecek stratejiler geliştiriyorlar ve bu da karar sürecini ve sistemin işleyişini bozuyor. Burada yine bir yapay zeka kullanılarak işe alım yapan bir şirkette dair ilginç bir anekdot var. Yapay zeka destekli işe alım sistemlerinin giderek yaygınlaşması, işe girecek adayları bu sistemleri kandırmak için çeşitli stratejiler geliştirmeye itiyor. Örneğin özgeçmişlerine bolca anahtar kelime ekliyorlar.

11:53Hatta insan gözüyle görünmeyen ama yapay zekanın algılayabileceği şekilde beyaz renkte Harvard ya da MIT gibi üniversite isimleri yazıyorlar oraya gitmemiş olmalarına rağmen. Video mülakatlarındaki algoritmaların dikkatini çekmek için conglomerate gibi süslü kelimeler kullanmaya çalışıyorlar. Peki bu stratejiler işe yarıyor mu? İşte bu sorunun peşine düşen bir grup gazeteci Almanya merkezli bir işe alım platformu olan Retorio'yu mercek altına alıyor ve bulguları oldukça çarpıcı. Adayın sadece gözlük takması ya da arkasına bir kitaplık yerleştirmesi gibi yüzeysel değişiklikler, AI sistemine verdiği puanları ciddi şekilde etkileyebiliyor. Videoyu biraz karanlık çektiğinizde puanınız düşüyor.

12:35Arka planda bir tablo varsa puanınız artıyor. Hatta başka bir çalışmada aynı özgeçmişi sadece PDF yerine düz metin formatında göndermek adayın kişilik skorunu bile değiştirebiliyor. Elbette bir kitaplık ya da belge formatı birinin işini ne kadar iyi yapacağını belirlemez ama modelin eğitildiği veri setlerinde örneğin kitaplık önünde görünen insanların daha başarılı olduğuna dair örtük bir ilişki varsa yapay zeka bunu kural sanıyor. Böylece algoritma yalnızca yeteneği değil, görüntü estetiğini de başarı kriterine dönüştürüyor. Sonuç olarak, predict veya neden yanılıyor? Bir, geleceği kesin biçimde öngörebileceği varsayımı temelsiz. İkincisi, kararların otomatikleşmesi hesap verilebiliği azaltıyor.

13:173. Hatalar özellikle sağlık, adalet ve sigorta gibi alanlarda geri dönüşü zor zararlar yaratıyor. 4. Teknik doğruluk olsa bile etik problemler ortadan kalkmıyor ve nihayetinde son olarak sistemler çoğu zaman insan davranışlarını yönlendiriyor. Hatta bozulmaya açık yapılar haline geliyor bu insan davranışları bu sistemi sömürmeye doğru yönlendikçe.

13:44Üçüncü bölüm. Geleceği tahmin etmek neden bu kadar zor? Tahminleyici yapay zekanın en büyük iddiası, geçmiş verilerden yola çıkarak geleceği öngörmek dedik. Ve yazarlarımız, insan davranışlarına dair bu tür öngörülerin doğası gereği kırılgan olduğunu söylüyorlar. Sorun yalnızca algoritmaların yeterince gelişmemesi değil, öngörülemezlik sosyal dünyaya ait bir özellik. Bir modelin doğru tahmin yapabilmesi için geçmişteki örüntüleri gelecekte de aynı şekilde devam etmesi gerekiyor. Ama toplumsal hayat durağım değil. İnsan davranışını, kültürel trendleri, teknolojik değişimleri ve ekonomik dalgalanmaları aynı modelde uzun vadede yakalamak neredeyse imkansız. Bunu en iyi anlatan örneklerden biri Google Flu Trends.

14:292008'de Google, grip salgınlarını arama verilerinden tahmin eden bir sistem başlattı. Ve mantık çok basit. Bir bölgede grip belirtileriyle ilgili aramalar artarsa, yakında orada bir salgın baş gösterebilir diye düşünüyor sistem. İlk yıllarda sistem oldukça başarılı oluyor aslında. Bazı bölgelerde sağlık otoritelerinden önce bu artışları yakalıyor.

14:52Ama kısa sürede içinde tahminler ciddi şekilde sapmaya başlıyor. Bunun da iki temel nedeni var. Birincisi medya etkisi. Çünkü grip salgınları haberlerde yer aldığında, sağlıklı insanlar bile belirtileri aramaya başlıyorlar internetten. İkincisi de davranış değişimi. Google'ın arama algoritmalarındaki ufak değişiklikler, kullanıcıların arama alışkanlıklarını değiştiriyorlar. Sonuçta sistem, gerçek hastalık oranlarından çok insanların internet arama davranışlarını yansıtmaya başlıyor.

15:21Bu vaka da aslında toplumsal veriye dayalı modellerin ne kadar çabuk bozulabileceğini gösteriyor. Bir diğer çarpıcı vaka yine kitapta bahsedilen Fragile Families Challenge adlı bilimsel yarışma. Bu yarışmada araştırmacılar 5 bin Amerikalı çocuğun ayrıntılı sosyoekonomik verilerini kullanarak gelecekteki eğitim, sağlık ve iş yaşamlarını tahmin etmeye çalışıyorlar. 160'tan fazla ekip katılıyor. En iyi makine öğrenmesi teknikleri kullanılıyor. Ama sonuç, en iyi modelde bile yazı tura atmaktan çok daha az iyi çıkıyor. Çünkü bireysel yaşam rotaları, şans, beklenmedik olaylar ve karmaşık sosyal etkileşimler gibi modelin kapsayamadığı faktörlere bağlılar. Bütün bu örnekler aslında tek bir noktada birleşiyor. İnsan davranışı ve toplumsal olayları uzun vadedi, güvenilir bir şekilde tahmin etmek mümkün değil.

16:13Predictive AI'nin zayıflıkları, yazılım hatası ya da veri eksikliğinden değil, öngörmeye çalıştığı dünyanın karmaşık ve değişken doğasından kaynaklanıyor. Dolayısıyla bu teknolojileri kullanmaya mecbur olmak, aslında doğası gereği belirsiz bir geleceğin üzerine büyük riskler inşa etmek demek. Yazarların mesajı da şu, bazı alanlarda tahmin sistemleri kullanmak faydalı olabilir ama insan davranışı gibi yüksek değişkenlik gösteren konularda bu sistemlere güvenmeyi bir zorunluluk olarak görmek hem yanlış hem de tehlikeli. Şimdi kısa bir ara verelim, ardından Generative'e yayın güçleri ve sınırları hakkında konuşmaya devam edeceğiz.

17:26Dördüncü bölüm, Generative AI, Güçleri ve Sınırları. 2022'nin sonlarında chat GPT'nin yaygınlaşmasıyla birlikte yapay zeka tartışmalarının odağı hızla Generative AI'ye kaydı. Bu teknoloji metin, görsel, ses, müzik ya da yazılım kodu gibi içerikler üretebiliyor. Kullanıcı açısından cazip olan şey, sıradan bir komutla sahneler içinde yaratıcı ve akıcı içerikler elde edebilmek. Ancak yazarlarımıza göre bu parlak yüzün arkasında hem teknik hem de toplumsal riskler var.

17:56Generative AI'nin en çarpıcı özelliklerinden biri çok yönlülüğü. Çünkü bir dil modeli aynı gün içinde Shakespeare tarzı bir şiir yazabilir, bir hukuk sözleşmesi taslağı çıkarabilir, hatta karmaşık bir yazılım kodu oluşturabilir. Bu, eğitim, yazılım geliştirme, içerik üretimi gibi alanlarda verimliliği arttırıyor gerçekten. Örneğin bir öğrenci araştırma konusunu özetlemek için chat GPT'yi kullanıyor. Bir yazılımcı tekrardan kod bloklarını bu şekilde hızla oluşturabiliyor. Ama Generative AI'in teknik çalışma biçimi onu güvenilir bilgi kaynağı olmaktan uzaklaştırıyor aslında. Çünkü bu sistemler istatistiksel olasılıklara göre bir sonraki kelimeyi tahmin eden sistemler. Ürettikleri metnin doğruluğunu bilmiyorlar aslında.

18:38Bu nedenle sık sık halüsinasyon denilen hatalı veya uydurma bilgiler ortaya çıkarıyorlar. Örneğin, var olmayan bir akademik makaleyi gerçekmiş gibi kaynakça formatında sunabiliyorlar ya da doğru tarihi yanlış bağlamla birleştirebiliyorlar. Telif hakkı ve fikri mülkiyet konularında da Aslında büyük bir sorun Generative AI. Çünkü Generative AI'nin eğitiminde kullandığı verilerden parçalar kopyalayarak yeni bir içerik üretebiliyor. Ve bu sanatçılar, yazarlar ve fotoğrafçılar için ciddi hak ihlalleri anlamına geliyor aslında. Mid-Journey gibi görse üreten sistemler mevcut sanatçıların tarzını taklit edebiliyor. Bu da yaratıcılık ile izinsiz kopya arasındaki sınırın bulanıklaşmasına yol açıyor. Bir diğer risk de kötüye kullanım potansiyeli.

19:21Generative AI ikna edici ama yanlış haberler, deepfake videolar, sahte akademik makaleler üretmekte de kullanılıyor. Bu, dezenformasyonun hem hızını hem de ölçeğini büyütüyor aslında. 2024 seçimleri de bazı ülkelerde AI tarafının üretilmiş sahte siyasi konuşmaların sosyal medyada yayılması bu tehlikenin somut bir örneği. Ama belki de en sansırcı örneklerden biri deepfake pornografi.

19:47Hiçbir rızası olmayan kişilerin yüzleri, vücutları ya da sesleri gerçekmiş gibi görünen pornografik içeriklere entegre edilebiliyor. Ve bu durum sadece ünlüleri değil, sıradan insanları da hedefe alıyor. Özellikle de tabii ki tahmin edebileceğiniz gibi kadınları hedef alıyor. Bu içerikler dijital şiddetin yeni bir formunu temsil ediyor ve mağdurların hem psikolojik sağlığını hem de sosyal hayatını maalesef derinden etkileyebiliyor. Ya mesele sadece teknolojik bir oyun alanını değil, itibar, güvenlik ve insan onuru açısından ciddi bir kriz ve AI'in gücünü sınırlayacak etik ve hukuki çerçeveler henüz bu hız karşısında oldukça gerideler. Tüm bunlar yapay zeka kullanmaya mecbur muyum sorusunu generatif AI için de geçerli kılar aslında.

20:29Çünkü yazarların yaklaşımı bu teknolojiyi tamamen reddetmek yerine amaç, bağlam ve risk yönetimi çerçevesinde değerlendirmek. Yani Generative AI'yi kullanmak zaman kazandırabilir, evet, ve yaratıcılığı da tabii ki destekleyebilir ama içerik doğrulama yükü kullanıcıya ait. Teyit etmeden çıktıların doğru ve güvenilir olduğunu varsaymak çok ciddi hatalara yol açabiliyor. Yazarlar şunu vurguluyor, genelite veya doğru bağlamda güçlü bir araç fakat onu her durumda kullanmak bir zorunluluk değil. Aksi halde hız ve kolaylık uğruna doğruluk, etik ve güvenilirlikten ödün varmış oluyoruz.

21:06Beşinci bölüm, kıyamet senaryoları ve gerçek riskler. Yapay zeka ile ilgili kamu tartışmalarında sık sık distopik kıyamet senaryoları öne çıkıyor işte. Kontrolden çıkan süper zeka, insanlığı köleleştiren makineler, kendi kendine karar alan otonom silah sistemleri. Bu söylemler bilim kurgu filmlerinden besleniyor ve medyada geniş yer buluyor. Yazarlarımıza göre bütün senaryolar popüler kültürde çekici olsalar da, ilgi çekici olsalar da

21:34Bugünün politik tartışmalarını yanlış yönlendiriyorlar. Yazarların eleştirisi uzak geleceğe dair bu spekülatif tehditlere odaklanmanın bugünden var olan somut riskleri gölgelediği yönünde. Çünkü yapay zeka zaten şu an hayatımızda ve yol açtığı zararlar gelecekte olabilir değil. Şu an oluyor zaten. Şu an ben konuşurken. Bu gerçek listelerin başında işten çıkarma ve emek piyasasındaki dönüşüm geliyor tahmin edebileceğiniz gibi. Otomasyon, özellikle tekrar eden ve rutin görevleri kapsayan işlere de çalışanları doğrudan etkiliyor. Müşteri hizmetleri, çağrı merkezleri artık AI tabanlı sohbet botlarına dönüştü. Binlerce çalışanın yerini aldı. ve bu yalnızca ekonomik değil, sosyal bir sorun da yaratıyor. İşsizlik sadece ekonomik değil, aynı zamanda sosyal ve psikolojik bir sorun ve gelir adaletsizliğini de arttırıyor. İkinci büyük risk, gözetim teknolojilerinin güçlenmesi. Toplu izleme altyapıları ve dijital takip araçları hem otoriter hem de demokratik hükümetlerde yurttaşların özel hayatını sınırlayan bir gözetim pratiğini mümkün kılıyor.

22:37Çin'de şu an görüyoruz bu arada onları sosyal kredi sisteminde. Onlar AI destekli gözetimin en üst örneklerinden biri aslında ama Batı'da da özel şirketler kullanıcı verilerini benzer şekilde ticari çıkarlar için izliyorlar. Bu arada bu konuya çok detaylı girmeyeceğim çünkü belki ileride bununla ilgili bir bölüm çekerim. Shoshanna Zuboff'un The Age of Surveillance Capitalism diye bir kitabını okumuştum. Belki ilerleyen bölümlerde ondan da bahsederiz. Çok ilgi çekici bir kitaptı.

23:06yazarlarımıza göre bugün AI riskleri teknoloji kontrolden çıkarsa değil, teknoloji yanlış ellerde ve yanlış amaçlarla kullanıldığında ortaya çıkıyor. Dolayısıyla politikacıların, kamuoyunun önceliği gelecekteki olası felaket senaryolarına hazırlanmak değil, şu an yaşanan zararları azaltmak olmalı. 6. Bölüm Sosyal Medyada İçerik Denetimi ve AI'in Sınırları Sosyal medya platformları zararlı içerikleri, mesela nefes söylemi gibi şiddet tehditleri, çocuk istismarı materyalleri, bu gibi içerikleri engelleme konusunda giderek daha fazla yapay zekaya başvuruyor. Amaç her gün milyarlarca gönderiyi insan moda üretörlerinin yetişemeyeceği hızla tarayıp temizlemek. Bu, teknik olarak cazip bir çözüm gibi görünüyor. Ama yazarlarımız, AI destekleri ve içerik denetiminin hem teknik hem de toplumsal açıdan ciddi sınırlamaları olduğunu vurguluyor. Teknik sınırlardan ilki, bağlama anlamadaki yetersizliği. Çünkü bir algoritma, aynı kelimeyi kullanan iki paylaşım arasındaki niyet farkını kavramakta zorlanıyor. nefret söyleme içeren bir ifadeyi alıntılayıp eleştiren bir gönderiyle bu ifadeyi onaylayan bir gönderi sistem tarafından aynı şekilde yasaklı olarak işaretlenebiliyor. Benzer şekilde mizah, ironi ve kültürel referans var. EA için güvenilir şekilde ayırt edilemeyebiliyor.

24:24İkinci sorun, hatalı sansür ve eksik müdahale arasındaki denge. AI bazen zararsız içerikleri yanlışlıkla kaldırırken, gerçekten zararlı içerikleri de gözden kaçırabiliyor. 2020 Amerika seçimleri sırasında Facebook ve Twitter'daki otomatik sistemler seçimle ilgili yanlış bilgilerin bir kısmını engellerken, bir kısmını aylarca platformda tuttu. Bu özellikle hızla yayılan dezinformasyon söz konusu olduğunda ciddi bir sorun. Ben de hatta bu konuyla ilgili yakın zamanda bir film izledim Mountainhead diye. Ben çok beğendim ama IMDB puanı çok düşüktü. Niye bilmiyorum ama bana çok hitap etti. İşte bu tek brolar ve onların böyle hiç kimseyi sallamayan, sadece kendi şirketlerini önceleyen tavrının nasıl distopik bir yere götürdüğü dünyayı bu konudaydı. Onu da tavsiye edeyim konu gelmişken.

25:14Üçüncü risk, ifade özgürlüğünün etkisi. Platformlar içerik denetimini tarafsız ve objektif bir teknolojik süreç olarak sunuyorlar ama algoritmaların eğitildiği veriler ve ayarlanım hassasiyet eşiği tamamen insani tercihler ve bu tercihler siyasi veya kültürel eğilimleri yansıtıyorlar. Böylece AI farkında olmadan belirli grupların sesini kısarken başka grupları da ön plana çıkarabiliyor. Bütün bunlar kullanıcıları şu ikileme getiriyor. İçeriklerimin nasıl çalıştığını bilmediğim, şeffaf olmayan ve hataya açık bir sistemin filtrelemesine izin vermeye mecbur muyum? Yazarlar bu sorunun yanıtına demokratik hesap verilebilirlik mekanizmalarıyla verilmesi gerektiğini savunuyor. AI'nin içerik denetiminde yeri olabilir tabii ki ama nihayet karar süreçlerinin insan gözetiminden tamamen çıkması hem ifade özgürlüğü hem de bilgi ekosisteminin sağlığı açısından oldukça tehlikeli.

26:06Sonuç olarak, AI destekli içerik denetimi hız ve ölçek avantajı sunsa da bağlama-anlama eksikliği, hatalı kararlar ve demokratik kontrolün zayıflaması gibi riskleri de beraberinde getiriyor. Yedinci bölüm, yapay zeka mitlerinin devamlılığı. Yapay zeka ile ilgili yanlış inançlar, mesela işte AI insan beynini taklit ediyor ya da AI tarafsızdır, nötürdür ya da AI insanlardan daha zeki olacak. Bunlar, bu mitler yıllardır dolaşımda. Yazarlarımıza göre bu mitler yalnızca tesadüfen varlığını sürdürmüyorlar. Akademi, teknoloji şirketleri ve medya arasındaki bir etkileşim ağı tarafından sürekli yeniden üretiliyorlar.

26:46Akademide özellikle makine öğrenmesi ve yapay zekalılığında bazı çalışmalar yeterince sağlam metodolojiye sahip olmasalar da dikkat çekici, sansasyonel başlıklarla çığır açıcı diye sunulabiliyorlar. Bunun en yaygın örneklerden biri de veri sızıntısı, data leakage. Veri sızıntısı bir modelin eğitim açımasında aslında yalnızca test için ayrılması gereken verilerle doğrudan ya da dolaylı biçimde erişmesi anlamına geliyor. Bu, modelin gelecekte görmesi gereken verileri önceden tahmin ediyor gibi yaparak gerçekte olmayan bir başarı sergilemesine Neden oluyor? Kısacası yapay zeka sınav sorularını önceden görmüş ama biz sınavı gerçekten geçtiğini sanıyoruz. Bu tür hatalar yüzünden birçok akademik makalede gerçek dünyada ulaşılamayacak kadar yüksek doğrul oranları rapor ediliyor. Bu sonuçlar teknik ayrıntıları dikkatli incelemeden bilimsel literatürde giriyorlar. Sonrasında bu iddialar özellikle medya ve teknoloji basını tarafından bilimsel kanıt olarak tekrar ediliyorlar. Böylece hem kamuoyu hem de politikacılar yapay zekanın gerçekte olduğundan çok daha güçlü, hatasız ve kaçınılmaz olduğu yanılgısına kapılıyorlar.

27:56Oysa hatalı yöntemlerle elde edilmiş başarı yalnızca bir istatistik ilizyonu aslında ve bu da yanlış kararların altyapısını oluşturabiliyor. Sekizinci bölüm. Ne yapmalı? Yazarlarımıza göre yapay zeka ile ilgili en büyük sorun, teknik kapasitenin abartılması değil, toplumun bu abartıya göre hareket etmesi. AI Snakeoid olarak adlandırdıkları bu sahte vaatler ancak talep sürdüğü sürece piyasada kalıyor. Bu yüzden çözüm yalnızca geliştiricilerinin sorumluluğu değil, kullanıcıların ve kurumların da bilinçli tercihler yapmasını gerektiriyor ve yazarlarımız bu dönüşüm için üç tane ana strateji öneriyorlar.

28:37Bunlardan birincisi net kurallar ve regulasyon. Eğer ürünler için tıpkı ilaçlar ve gıda ürünlerinde olduğu gibi performans, şeffaflık ve güvenlik standartlarının getirilmesi gerekiyor. Bu bir algoritmanın hangi verilerle eğitildiği, hata payı, test koşulları ve bağımsız denetim sonuçları kamuya açık olmalı. Bu sayede pazarlama söylemiyle gerçek performans arasındaki fark ortaya çıkacaktır diyor yazarlarımız.

29:04İkinci strateji toplumsal ve politik tercihlerin belirlenmesi. Hangi alanlarda AI kullanımın teşvik edileceği, hangi alanlarda sınırlanacağı veya yasaklanacağı teknik uzmanlara bırakılmamalı. Bu kararlar demokratik süreçlerle kamuoyunun katılımıyla alınmalı, diyor yazarlar. Örneğin sağlık, adalet veya eğitim gibi yüksek etkili alanlarda AI kullanımın koşulları toplumsal değerler ve etik ilkeler ışığında belirlenmeli, diyor yazarlarımız.

29:33Üçüncü ve son stratejide, yapısal sorunları çözerek yılan yağına olan talebi azaltmak. Yazarlar diyor ki, birçok EY ürünü aslında kurumsal veya toplumsal bir açı doldurduğu için rağbet görüyor. Örneğin, iş görüşmelerinde ön yargı sorununu görmek için EY'e başvurmak yerine, işe alım süreçlerindeki insan ön yargısını azaltacak politikalar geliştirebiliriz biraz. Aslında sistemsel bir soruna etrafından dolanıyoruz, diyor yazarlarımız EY kullanarak. Böylece sahte çözümler yerine sorunun kaynağı hedeflenmiş oluyor.

30:07Peki o zaman ilk sorumuza geri dönelim. Yapay zeka kullanmaya mecbur muyum? Yapay zeka şüphesiz ki etkileyici bir araç. Ben de hayatımda çok fazla kullanıyorum. Bu bölümü hazırlarken de hatta yapay zekayla beraber hazırlıyorum ve sanki onun arkasından konuşuyorum gibi, hani onun hakkında onunla beraber konuşuyorum gibi garip bir psikolojiye girdim.

30:30Doğru kullanıldığında bilgiye daha hızlı ulaşmamızı, üretkenliğimizi arttırmamızı, hatta yeni yaratıcı yollar keşfetmemizi sağlayabiliyor. Ama şunu unutmamamız gerek. Hiçbir araç sadece yaptığı işle tanımlanmaz. Kimin elinde olduğuyla, neye hizmet ettiğiyle tanımlanır.

30:47Bir çekiçi de bir ev de inşa edebilirsiniz, bir savaş da başlatabilirsiniz. Ve bugün elimizdeki yapay zeka sistemleri yalnızca teknik değil, aynı zamanda ideolojik araçlar ve onların ideolojik kısımlarını bazen unutuyoruz. Narayanan ve Kapur da bu AI Snake Oil kitabında defalarca altını çiziyor bu tehditin. Özellikle predictive ve generative AI sistemleri yüzde yüz güvenilir olmaktan hala uzaktalar. Ama daha da önemlisi şu, bu sistemlerin beslendiği veri tabanı sanıldığı gibi tarafsız ya da evrensel ya da nötr değil. Çünkü yapay zeka bizim ürettiğimiz verilerden öğreniyor ve bu veriler

31:25Tıpkı bizler gibi önyargılarla, eşitsizliklerle, dışlayıcı normlarla da doldu. Yani AI'ye verdiğimiz veri zaten başına adil değil ve AI bu önyargıyı sadece taklit etmiyor, otomatikleştiriyor, hızlandırıyor ve yaygınlaştırıyor. Buna yazarlar şöyle diyor, bias in, bias out, bigger, faster, invisible. Buna şöyle bir örnek verilebilir. Mesela bir iş görüşmesinde kullanılan eğer ideal çalışan profilini geçmiş erkek dominant işe alım verilerinden öğrenmişse, kadın adayları dezavantajlı konuma getiriyor. Yani yapay zeka yalnızca veriyle değil, tarihsel adaletsizlikle de besleniyor, veriyle beslenirken. ve onları çoğaltarak, normalleştirerek, görünmezleştirerek bize geri sunuyor. Eğer biz bu kararları sorgulamadan, algoritmanın mantığını anlamadan kabul edersek, yalnızca teknolojik kolaylığa değil, kendi muhakeme yetimimize de veda etmiş oluyoruz. Bir başka kitap, Karen Heo'nun Empire of AI diye bir kitabı. Burada Sam Altman ve OpenAI'in hikayesini eleştirel bir dille anlatıyor. Hatta Sam Altman, OpenAI'in CEO'su böyle çok zehirzemberek konuştu bu kitap hakkında. Ben zaten direkt radarıma aldım. Bu adam sevmediyse ben severim diyerek.

32:37Ve Karanaho şöyle bir şey söylüyor o kitapta. Eğer bu teknolojiyi geliştirenler şeffaf değilse, eğer kamu yararına değil de şirket karına hizmet ediyorsa, o zaman süper zeka değil, sadece süper sömürü üretmiş oluruz. O yüzden yapay zeka trenine balıklama atlamadan önce unutmamamız ve talep etmemiz gereken dört başlık var. Regülasyonlar, denetim, şeffaflık, ve kendi aklımıza duyduğumuz güven. Çünkü yapay zeka değil, kendi muhakeme yetimimize yatırım yapmaya mecburuz. Belki de en çok buna mecburuz. Bir sonraki bölümde yeniden görüşmek üzere, hoşça kalın.