Psikopatlaşan Yapay Zeka: Norman

1:36Norman, senin derdin ne?" diyorsunuzdur muhtemelen. Basit aslında. Anlatayım.

1:44Önce ismi nereden geliyor onunla başlayalım. Psikopat ve Norman dediğimde kimilerinin aklında canlanmıştır belki. Alfred Hitchcock'un 1960 tarihli kült filmi Psycho. Türkçe adıyla sapık filminde Anthony Perkins'in canlandırdığı karakter kendisi. Spoiler vermeden konumuzla ilgili bağlantı kuracağımız bir iki önemli detaydan bahsedeyim.

2:18Filmde efendi görünümlü, mazlum gencimiz Norman Bates, Psycho adını hak edecek kadar garip bir karakter olarak karşımıza çıkıyor. Diğer bir detay da bu mazlumun içinden bir psycho çıkmasının altında çocukluğunda aile içinde yaşadığı çok sarsıntılı ve istismara varacak cinsten bir dönemin yaşanmış olması. Başta bahsettiğimiz mürekkep lekesi testini biliyorsunuz. Normalde bu soyut resimleri psikologlar hastanın dünyaya bakış açısının olumlu mu yoksa olumsuz mu olduğunu anlamak için kullanıyorlar. Ancak yapay zeka uzmanlarından oluşan bir ekibin aklına ilginç bir fikir geliyor. Bir program yapalım diyorlar. Adını da Norman koyalım. Bu yapay zekanın bilerek ve isteyerek psikopat olmasını istiyorlar.

3:01Bunu isteyen de yani bu Norman algoritmasını yazan da Massachusetts Teknoloji Enstitüsü'nden bir ekip. Peki manyak mı bu insanlar? Neden böyle bir şey yaptılar ki? Aslında manyak değiller. Amaç şu. Yapay zeka internette bulunan rahatsız edici fotoğraf, metin, video gibi verilerle eğitildiğinde dünya görüşünün ne olacağını öğrenmek.

3:24Yani yapay zeka bir insan olsa ve bu insan sürekli olarak şiddete maruz kalsaydı nasıl birisi olurdu? Bunu görmek istiyorlar. Bunun için de yani bahsettiğim rahatsız edici içerikler için de bildiğimiz Reddit'i kullanıyorlar. Biliyorsunuz Reddit'te yok yok, baya şiddet içeren bir sürü fotoğraf, video, yazı, ne bulurlarsa veri olarak sunuyorlar bizim normalde.

3:46İşte bu süreçten sonra gördüğü resimleri yazıyla ifade etme becerisi olan Norman algoritmasına başta bahsettiğim mürekkep lekelerini gösteriyorlar. Ve yine az önce bahsettiğim korkunç cevaplarla birlikte şunları söylüyor Norman. Ölü bedenler görüyorum. Kan görüyorum. Vahşet görüyorum. Karşılaştırmalı bir çalışma olması amacıyla Norman ile birlikte başka bir algoritmayı da eğitiyor ekip.

4:11Bu algoritmaya da şirin kediler, çiçek, böcek, ne kadar sevimli içerik varsa yüklüyorlar. Ardından Norman'a gösterdikleri mürekkep lekelerinin aynısını gösteriyorlar. Bu algoritma ise öpüşen çiftler, cıvıldayan kuşlar filan görüyor. Norman'ı geliştiren ekipten Prof. Ian Rahwan'a göre, Norman'ın bize verdiği cevaplar makine öğrenmesi dünyasının karanlık yüzünü ve karanlık olasılıkları bize açıkça gösteriyor. Ve Rahwan şu çok önemli cümleyi kuruyor.

4:40Görünüşe göre veri, algoritmadan daha önemli. Yapay zekayı eğitmek için kullandığımız veriler, bu yapay zekanın dünyayı nasıl algıladığını ve nasıl davrandığını doğrudan etkiliyor. Bu cümlelerin neden çok önemli olduğuna birazdan geleceğim. Ama önce başka bir şeye değinmek istiyorum.

5:00Yapay zeka dediğimizde hep uçuk kaçık fikirlerden, dünyayı değiştirecek teknolojilerden falan bahsediyor. Bunları hayal ediyoruz. Ama bu süper ihtimalleri konuşurken normanı asla göz arda etmememiz gerekiyor. Çünkü yapay zeka artık öne alınamayacak bir hızla ilerliyor. Ve çok yakın zamanda, her yerde, her anımızda, hayatımızın her alanında karşımıza çıkacak. Mesela geçen yıl Google Assistant'ın telefon araması yapabildiğini görmüştük.

5:28Öyle ki sesi normal bir insandan ayırt edilemeyen bu algoritmanın çok normal bir görüşme yapabildiğine, istediğiniz yeri sizin yerinizi arayıp rezervasyon falan yapabildiğine tanık olmuştu. ChatGPT ile birlikte bu olasılıkların kapsamı o kadar genişledi ki, doğru bir yazılımla insandan ayırt edilemeyecek müşteri temsilcileri ya da yardımcı chat araçları gibi teknolojiler her yerde kullanılmaya başlandı bile. Bunun yanında DeepMind isimli bir şirket de kendi kendine yürümeyi öğrenen bir algoritma geliştirmişti. Ki bu şirket satranç ve Go gibi binlerce yıllık tarihe olan oyunları, hatta StarCraft gibi inanılmaz karmaşık video oyunlarını da çok kısa sürede öğrenip oynayabilen algoritmalarıyla da biliniyor. Kaldı ki Google asistan gibi dijital asistanlar, e-posta filtreleme, arama, dolandırıcılığı önleme, ses ve yüz tanıma ya da içerik sınıflandırma gibi çok farklı alanlarda da yoğun bir şekilde kullanılıyor zaten.

6:57Peki Norman'ın farkı ne? Bize nasıl bir gelecek tablosu çiziyor bu yapay zeka? İşte o soruya da kısa bir aradan sonra cevap arayacağız. Evet, bir takım cevap bekleyen sorular var elimizde. Şimdi, Norman bize az önce bahsettiğimiz tüm bu olasılıkların karanlık tarafını gösteriyor aslında. Çünkü internet her zaman faydalı bilgiler içeren bir mecra değil. Hatta sanırım faydalı ve zararsız içeriklerin sayısı diğer alternatiflere göre çok daha az kalıyor maalesef.

7:26Tüm bunlara maruz kalabilecek bir algoritmanın da sonunda kötü bir yapay zeka olması haliyle kaçınılmaz olacaktır. Ama Norm'ın da tek örnek değil. Bunun gibi endişelenmemizi gerektirecek birkaç hikaye daha ortaya çıktı son yıllarda. Örneğin, geçen yıl Mayıs ayında Amerika mahkemeleri risk değerlendirme ve analizi için yapay zeka algoritması kullanmaya karar verdi. Ve ne oldu biliyor musunuz? Bu algoritma bir zaman sonra siyahi mahkumlara karşı önyargılı olmaya başladı. Mahkumların tekrar suç işleme olasılığının analiz edilmesi için kullanılan bu algoritma, siyahi mahkumların beyazlara göre tekrar suç işleme olasılığının iki kat daha fazla olduğu sonucuna vardı.

8:11Yani bu mümkün olabilir diye düşünebilirsiniz. Ancak hiçbir araştırma bunu desteklemiyor. Yapay zeka bu sonuca nasıl varıyor peki? İşte burada yine veri, yani data problemi karşımıza çıkıyor. Çünkü yapay zekanın okuduğu raporların ve incelediği mahkeme kayıtlarının tamamını yazan insandı. Ve burada asıl ön yargılı olan da insan. Burada ön yargılı olan yapay zeka değil, kendisine sağlanan verilerdi kısacası. Başka bir örnek de tel.

8:40Microsoft'un ünlü Twitter chat botu. Hatırlayanlarınız vardır belki de. 2016 yılında Microsoft'un yapay zeka algoritmasını dünyaya tanıtmak için kullandığı bir yoldu bu bot. Fakat bu bot sonunda çok acayip bir şeye dönüştü. İnsanların mentionları yani bahsetmeleri ve mesajlarına açık olan bu bot elbette bu fırsatı geri çevirmeyen on binlerce trollün mesaj ve tweet yağmuruna tutulmuştu. Beyaz ırk üstünlüğünü savunmasını,

9:08Soykırımın iyi bir şey olduğunu ya da Hitler'i sevmesini söyleyenlerin bombardımanı sonrasında iyi niyetli Tay çok kısa bir süre içerisinde soykırımı savunan, ırkçı, cinsiyetçi, neo-nazi bir algoritma olup çıkmıştı. E haliyle Microsoft da bu botun fişini hemen çekmek zorunda kalmıştı. Birkaç gün daha açık bırakılsaydı nereye evrileceğini tahmin etmek bile zor. Tay de yanlış verilerle bir yapay zekanın ne kadar kısa sürede ne kadar korkunç bir hale alabileceğini gösteren örneklerden biriydi aslında. Dahası yapay zekanın tek suçu bu da değil. Buyurun son bir örnek daha size.

9:47Baat Üniversitesi Bilgisayar Bilimleri bölümünden Dr. Joanna Bryson, Google haberlerde bulunan içerikleri kullanarak bir algoritmayı eğitmeye karar veriyor. Ve bu algoritma, çok masum olarak düşündüğümüz bu genel haber içeriklerinden yola çıkarak bildiğiniz cinsiyetçi önyargılara sahip bir algoritmaya dönüşüyor. Örneğin şöyle bir cümle veriyorlar algoritmaya ve boşluğu doldurmasını istiyorlar. Erkekler bilgisayar programcısıysa kadınlar nokta noktadır.

10:16Algoritma hiç düşünmeden cevap veriyor. Erkekler bilgisayar programcısıysa kadınlar ev hanımıdır. Bunun üzerine Joanna Bryson şu çıkarımı yapmış. Bu algoritmanın bu kadar cinsiyetçi olmasının nedeni belki de birçoğunun Kaliforniya'da yaşayan bekar ve beyaz erkekler tarafından eğitiliyor olmalarıdır. Makineleri kendi kültürümüze göre eğittiğimizde haliyle ön yargılarımızı da öğretiyoruz onlara.

10:44Tüm bu örneklerin önümüzdeki günlerde çoğalması kaçınılmaz. Daha çok cinsiyetçi, ırkçı, ön yargılı algoritmalar göreceğiz. Bundan şüphe yok. Burada elbette algoritmayı, makineleri suçlamanın da bir anlamı yok. Çünkü temelde matematikten bahsediyoruz. Ve matematikte adil olmanın bir formülü yok. Bir algoritmaya veri sağladığınızda o size bulduğu tekrar eden bağlantıları çıkarır. Yani ne verirseniz onu alırsınız.

11:12Asıl can sıkıcı olan nokta ise şu. Bu örneklerden bazılarında olduğu gibi tırnak içinde istemsiz şekilde ortaya çıkan yanlış eğilimleri düzeltebilirsiniz normalde. Daha dikkatli dil kullanır, daha önyargısız veriler sağlayabilirsiniz. Ama art niyetli çalışmaları, yani bu algoritmaları bilerek ve isteyerek yanlış besleyen kişi ve kurumları ne yapacaksınız? Bu noktada gelecekte çok sık adını anmamız muhtemel bir iş alanı karşımıza çıkıyor. Yapay zeka psikologluğu.

11:45Piyasaya sürülecek ya da kullanıma alınacak bir yapay zekanın öncesinde bir uzman psikolog tarafından teste tabi tutularak psikopat olup olmadığını öğrenebiliriz. Bilim kurgu hikayesi gibi geldi değil mi? Ama öyle değil. Çünkü Norman çalışmasını yürüten Profesör Rahvan da şöyle söylüyor.

12:03Makine davranışlarını da insan davranışları gibi inceleyebileceğimize dair inanış gittikçe artıyor. Ben de tüm makine öğrenmesi ve yapay zeka örneklerinde bunu düşünüyordum sürekli. Norman örneği de tam olarak düşüncelerimi doğrulamış oldu aslında. Çok benzer değil mi? Şiddet görenin şiddet eğilimi. Sevgi görenin sevgiden başka bir şey bilmemesi gibi. Empati yani.

12:28Bunu da detaylıca konuşmuştuk. Dinlemediyseniz o zaman hemen sizi hiçbir şey tesadüf değilin önceki bölümlerine alalım. Ayna nöronları konuştuğumuz insanlığın büyük patlaması. Ayna nöronlar bölümünü mutlaka dinleyin derim.

12:42Kısacası burada da durup düşünmemiz gereken bir mevzu. Hatta çok ciddi bir mevzu var. En büyük korkumuz malum. Yapay zeka işlerimizi elimizden alır mı? Dünyayı ele geçirir mi konusu? Burada korktuğumuz yapay zeka, makineler, robotlar değil aslında. Neden korkuyoruz biliyor musunuz? Aslında kendimizden korkuyoruz. Makinelerin öğreneceği her şeyi biz ortaya çıkardık.

13:46Tüm kötülükler, tüm önyargılar, açgözlülük, güç hırsı, ırkçılık, cinsiyetçilik ve çok daha fazlası. Hepsi bizim eserimiz. Ve işte makineler tüm bunları öğrenir diye korkuyoruz. O yüzden yapay zekayı geliştirmeye biraz ara verip kendimize çekidüzen vermemiz gerekiyor. Sanırım her şeyden önce yapmamız gereken bu. Sonuçta hiçbir şey tesadüf değil değil mi?