Makine öğrenmesi son yılların en önemli teknolojik gelişmelerinden biri. Peki ya makineler doğru şeyler öğrenmezse ne olur? İşte bu da dikkat edilmesi ve hatta endişe duyulması gereken bir soru. Hiçbir Şey Tesadüf Değil'in yeni bölümünde bu muammanın izini sürüyoruz. Yapay zeka davranışlarını gözlemleyen araştırmaları inceliyor, bizi gelecekte nelerin beklediğini sorguluyoruz.






Tüm bölümler ve daha fazlası için ⁠⁠podbeemedia.com⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Psikopatlaşan Yapay Zeka: Norman

Sizi psikopat bir yapay zeka örneğiyle tanıştıracağım. Evet, psikopat. Adı Norman. Ama şimdilik bu ismi aklınızda tutun. Çünkü ondan önce Rorschach testlerinden bahsetmeliyim size. Mürekkep lekesi testi olarak da bilinir. Duymuş görmüşsünüzdür mutlaka. Bir kağıt üzerinde, aslında bir anlamı olmayan lekelerde her insanın farklı bir şey görmesi, bilinçaltının bir anlamda dışa vurumunun ifadesi olarak kullanılır. Özetle, deneklerin algılarını, mürekkep lekelerini kullanarak analiz eden psikolojik bir testtir Rorschach testi. Normalde bu testi insanlara uygular, onların psikolojik durumlarını anlamaya çalışırız. Peki bu testi makinelere yapsaydık? Bir tür yapay zeka algoritması düşünün. İnsanların yerini alacağından korktuğumuz şu yapay zekayı. Bu testi ona yapsaydık ne olurdu? İşte Norman da burada devreye giriyor. Norman adı verilen bir yapay zeka programına Rorschach testini uyguluyorlar. Ve normalde insanların vazodaki çiçekler, huzurlu gün batımı falan gördükleri bu anlamsız mürekkep lekelerinde Norman ne görüyor biliyor musunuz? Vurularak öldürülmüş bir adam. Norman, dostum iyi misin? Başka bir örnek gösteriyorlar. Norman'ın cevabı ne oluyor dersiniz? Hamur yoğurma makinesinin içine atılmış bir adam. Norman, senin derdin ne?" diyorsunuzdur muhtemelen. Basit aslında. Anlatayım. Önce ismi nereden geliyor onunla başlayalım. Psikopat ve Norman dediğimde kimilerinin aklında canlanmıştır belki. Alfred Hitchcock'un 1960 tarihli kült filmi Psycho. Türkçe adıyla sapık filminde Anthony Perkins'in canlandırdığı karakter kendisi. Spoiler vermeden konumuzla ilgili bağlantı kuracağımız bir iki önemli detaydan bahsedeyim. Filmde efendi görünümlü, mazlum gencimiz Norman Bates, Psycho adını hak edecek kadar garip bir karakter olarak karşımıza çıkıyor. Diğer bir detay da bu mazlumun içinden bir psycho çıkmasının altında çocukluğunda aile içinde yaşadığı çok sarsıntılı ve istismara varacak cinsten bir dönemin yaşanmış olması. Başta bahsettiğimiz mürekkep lekesi testini biliyorsunuz. Normalde bu soyut resimleri psikologlar hastanın dünyaya bakış açısının olumlu mu yoksa olumsuz mu olduğunu anlamak için kullanıyorlar. Ancak yapay zeka uzmanlarından oluşan bir ekibin aklına ilginç bir fikir geliyor. Bir program yapalım diyorlar. Adını da Norman koyalım. Bu yapay zekanın bilerek ve isteyerek psikopat olmasını istiyorlar. Bunu isteyen de yani bu Norman algoritmasını yazan da Massachusetts Teknoloji Enstitüsü'nden bir ekip. Peki manyak mı bu insanlar? Neden böyle bir şey yaptılar ki? Aslında manyak değiller. Amaç şu. Yapay zeka internette bulunan rahatsız edici fotoğraf, metin, video gibi verilerle eğitildiğinde dünya görüşünün ne olacağını öğrenmek. Yani yapay zeka bir insan olsa ve bu insan sürekli olarak şiddete maruz kalsaydı nasıl birisi olurdu? Bunu görmek istiyorlar. Bunun için de yani bahsettiğim rahatsız edici içerikler için de bildiğimiz Reddit'i kullanıyorlar. Biliyorsunuz Reddit'te yok yok, baya şiddet içeren bir sürü fotoğraf, video, yazı, ne bulurlarsa veri olarak sunuyorlar bizim normalde. İşte bu süreçten sonra gördüğü resimleri yazıyla ifade etme becerisi olan Norman algoritmasına başta bahsettiğim mürekkep lekelerini gösteriyorlar. Ve yine az önce bahsettiğim korkunç cevaplarla birlikte şunları söylüyor Norman. Ölü bedenler görüyorum. Kan görüyorum. Vahşet görüyorum. Karşılaştırmalı bir çalışma olması amacıyla Norman ile birlikte başka bir algoritmayı da eğitiyor ekip. Bu algoritmaya da şirin kediler, çiçek, böcek, ne kadar sevimli içerik varsa yüklüyorlar. Ardından Norman'a gösterdikleri mürekkep lekelerinin aynısını gösteriyorlar. Bu algoritma ise öpüşen çiftler, cıvıldayan kuşlar filan görüyor. Norman'ı geliştiren ekipten Prof. Ian Rahwan'a göre, Norman'ın bize verdiği cevaplar makine öğrenmesi dünyasının karanlık yüzünü ve karanlık olasılıkları bize açıkça gösteriyor. Ve Rahwan şu çok önemli cümleyi kuruyor. Görünüşe göre veri, algoritmadan daha önemli. Yapay zekayı eğitmek için kullandığımız veriler, bu yapay zekanın dünyayı nasıl algıladığını ve nasıl davrandığını doğrudan etkiliyor. Bu cümlelerin neden çok önemli olduğuna birazdan geleceğim. Ama önce başka bir şeye değinmek istiyorum. Yapay zeka dediğimizde hep uçuk kaçık fikirlerden, dünyayı değiştirecek teknolojilerden falan bahsediyor. Bunları hayal ediyoruz. Ama bu süper ihtimalleri konuşurken normanı asla göz arda etmememiz gerekiyor. Çünkü yapay zeka artık öne alınamayacak bir hızla ilerliyor. Ve çok yakın zamanda, her yerde, her anımızda, hayatımızın her alanında karşımıza çıkacak. Mesela geçen yıl Google Assistant'ın telefon araması yapabildiğini görmüştük. Öyle ki sesi normal bir insandan ayırt edilemeyen bu algoritmanın çok normal bir görüşme yapabildiğine, istediğiniz yeri sizin yerinizi arayıp rezervasyon falan yapabildiğine tanık olmuştu. ChatGPT ile birlikte bu olasılıkların kapsamı o kadar genişledi ki, doğru bir yazılımla insandan ayırt edilemeyecek müşteri temsilcileri ya da yardımcı chat araçları gibi teknolojiler her yerde kullanılmaya başlandı bile. Bunun yanında DeepMind isimli bir şirket de kendi kendine yürümeyi öğrenen bir algoritma geliştirmişti. Ki bu şirket satranç ve Go gibi binlerce yıllık tarihe olan oyunları, hatta StarCraft gibi inanılmaz karmaşık video oyunlarını da çok kısa sürede öğrenip oynayabilen algoritmalarıyla da biliniyor. Kaldı ki Google asistan gibi dijital asistanlar, e-posta filtreleme, arama, dolandırıcılığı önleme, ses ve yüz tanıma ya da içerik sınıflandırma gibi çok farklı alanlarda da yoğun bir şekilde kullanılıyor zaten. Peki Norman'ın farkı ne? Bize nasıl bir gelecek tablosu çiziyor bu yapay zeka? İşte o soruya da kısa bir aradan sonra cevap arayacağız. Evet, bir takım cevap bekleyen sorular var elimizde. Şimdi, Norman bize az önce bahsettiğimiz tüm bu olasılıkların karanlık tarafını gösteriyor aslında. Çünkü internet her zaman faydalı bilgiler içeren bir mecra değil. Hatta sanırım faydalı ve zararsız içeriklerin sayısı diğer alternatiflere göre çok daha az kalıyor maalesef. Tüm bunlara maruz kalabilecek bir algoritmanın da sonunda kötü bir yapay zeka olması haliyle kaçınılmaz olacaktır. Ama Norm'ın da tek örnek değil. Bunun gibi endişelenmemizi gerektirecek birkaç hikaye daha ortaya çıktı son yıllarda. Örneğin, geçen yıl Mayıs ayında Amerika mahkemeleri risk değerlendirme ve analizi için yapay zeka algoritması kullanmaya karar verdi. Ve ne oldu biliyor musunuz? Bu algoritma bir zaman sonra siyahi mahkumlara karşı önyargılı olmaya başladı. Mahkumların tekrar suç işleme olasılığının analiz edilmesi için kullanılan bu algoritma, siyahi mahkumların beyazlara göre tekrar suç işleme olasılığının iki kat daha fazla olduğu sonucuna vardı. Yani bu mümkün olabilir diye düşünebilirsiniz. Ancak hiçbir araştırma bunu desteklemiyor. Yapay zeka bu sonuca nasıl varıyor peki? İşte burada yine veri, yani data problemi karşımıza çıkıyor. Çünkü yapay zekanın okuduğu raporların ve incelediği mahkeme kayıtlarının tamamını yazan insandı. Ve burada asıl ön yargılı olan da insan. Burada ön yargılı olan yapay zeka değil, kendisine sağlanan verilerdi kısacası. Başka bir örnek de tel. Microsoft'un ünlü Twitter chat botu. Hatırlayanlarınız vardır belki de. 2016 yılında Microsoft'un yapay zeka algoritmasını dünyaya tanıtmak için kullandığı bir yoldu bu bot. Fakat bu bot sonunda çok acayip bir şeye dönüştü. İnsanların mentionları yani bahsetmeleri ve mesajlarına açık olan bu bot elbette bu fırsatı geri çevirmeyen on binlerce trollün mesaj ve tweet yağmuruna tutulmuştu. Beyaz ırk üstünlüğünü savunmasını, Soykırımın iyi bir şey olduğunu ya da Hitler'i sevmesini söyleyenlerin bombardımanı sonrasında iyi niyetli Tay çok kısa bir süre içerisinde soykırımı savunan, ırkçı, cinsiyetçi, neo-nazi bir algoritma olup çıkmıştı. E haliyle Microsoft da bu botun fişini hemen çekmek zorunda kalmıştı. Birkaç gün daha açık bırakılsaydı nereye evrileceğini tahmin etmek bile zor. Tay de yanlış verilerle bir yapay zekanın ne kadar kısa sürede ne kadar korkunç bir hale alabileceğini gösteren örneklerden biriydi aslında. Dahası yapay zekanın tek suçu bu da değil. Buyurun son bir örnek daha size. Baat Üniversitesi Bilgisayar Bilimleri bölümünden Dr. Joanna Bryson, Google haberlerde bulunan içerikleri kullanarak bir algoritmayı eğitmeye karar veriyor. Ve bu algoritma, çok masum olarak düşündüğümüz bu genel haber içeriklerinden yola çıkarak bildiğiniz cinsiyetçi önyargılara sahip bir algoritmaya dönüşüyor. Örneğin şöyle bir cümle veriyorlar algoritmaya ve boşluğu doldurmasını istiyorlar. Erkekler bilgisayar programcısıysa kadınlar nokta noktadır. Algoritma hiç düşünmeden cevap veriyor. Erkekler bilgisayar programcısıysa kadınlar ev hanımıdır. Bunun üzerine Joanna Bryson şu çıkarımı yapmış. Bu algoritmanın bu kadar cinsiyetçi olmasının nedeni belki de birçoğunun Kaliforniya'da yaşayan bekar ve beyaz erkekler tarafından eğitiliyor olmalarıdır. Makineleri kendi kültürümüze göre eğittiğimizde haliyle ön yargılarımızı da öğretiyoruz onlara. Tüm bu örneklerin önümüzdeki günlerde çoğalması kaçınılmaz. Daha çok cinsiyetçi, ırkçı, ön yargılı algoritmalar göreceğiz. Bundan şüphe yok. Burada elbette algoritmayı, makineleri suçlamanın da bir anlamı yok. Çünkü temelde matematikten bahsediyoruz. Ve matematikte adil olmanın bir formülü yok. Bir algoritmaya veri sağladığınızda o size bulduğu tekrar eden bağlantıları çıkarır. Yani ne verirseniz onu alırsınız. Asıl can sıkıcı olan nokta ise şu. Bu örneklerden bazılarında olduğu gibi tırnak içinde istemsiz şekilde ortaya çıkan yanlış eğilimleri düzeltebilirsiniz normalde. Daha dikkatli dil kullanır, daha önyargısız veriler sağlayabilirsiniz. Ama art niyetli çalışmaları, yani bu algoritmaları bilerek ve isteyerek yanlış besleyen kişi ve kurumları ne yapacaksınız? Bu noktada gelecekte çok sık adını anmamız muhtemel bir iş alanı karşımıza çıkıyor. Yapay zeka psikologluğu. Piyasaya sürülecek ya da kullanıma alınacak bir yapay zekanın öncesinde bir uzman psikolog tarafından teste tabi tutularak psikopat olup olmadığını öğrenebiliriz. Bilim kurgu hikayesi gibi geldi değil mi? Ama öyle değil. Çünkü Norman çalışmasını yürüten Profesör Rahvan da şöyle söylüyor. Makine davranışlarını da insan davranışları gibi inceleyebileceğimize dair inanış gittikçe artıyor. Ben de tüm makine öğrenmesi ve yapay zeka örneklerinde bunu düşünüyordum sürekli. Norman örneği de tam olarak düşüncelerimi doğrulamış oldu aslında. Çok benzer değil mi? Şiddet görenin şiddet eğilimi. Sevgi görenin sevgiden başka bir şey bilmemesi gibi. Empati yani. Bunu da detaylıca konuşmuştuk. Dinlemediyseniz o zaman hemen sizi hiçbir şey tesadüf değilin önceki bölümlerine alalım. Ayna nöronları konuştuğumuz insanlığın büyük patlaması. Ayna nöronlar bölümünü mutlaka dinleyin derim. Kısacası burada da durup düşünmemiz gereken bir mevzu. Hatta çok ciddi bir mevzu var. En büyük korkumuz malum. Yapay zeka işlerimizi elimizden alır mı? Dünyayı ele geçirir mi konusu? Burada korktuğumuz yapay zeka, makineler, robotlar değil aslında. Neden korkuyoruz biliyor musunuz? Aslında kendimizden korkuyoruz. Makinelerin öğreneceği her şeyi biz ortaya çıkardık. Tüm kötülükler, tüm önyargılar, açgözlülük, güç hırsı, ırkçılık, cinsiyetçilik ve çok daha fazlası. Hepsi bizim eserimiz. Ve işte makineler tüm bunları öğrenir diye korkuyoruz. O yüzden yapay zekayı geliştirmeye biraz ara verip kendimize çekidüzen vermemiz gerekiyor. Sanırım her şeyden önce yapmamız gereken bu. Sonuçta hiçbir şey tesadüf değil değil mi?

Sizi psikopat bir yapay zeka örneğiyle tanıştıracağım. Evet, psikopat. Adı Norman. Ama şimdilik bu ismi aklınızda tutun. Çünkü ondan önce Rorschach testlerinden bahsetmeliyim size. Mürekkep lekesi testi olarak da bilinir. Duymuş görmüşsünüzdür mutlaka. Bir kağıt üzerinde, aslında bir anlamı olmayan lekelerde her insanın farklı bir şey görmesi, bilinçaltının bir anlamda dışa vurumunun ifadesi olarak kullanılır.

Özetle, deneklerin algılarını, mürekkep lekelerini kullanarak analiz eden psikolojik bir testtir Rorschach testi. Normalde bu testi insanlara uygular, onların psikolojik durumlarını anlamaya çalışırız. Peki bu testi makinelere yapsaydık? Bir tür yapay zeka algoritması düşünün. İnsanların yerini alacağından korktuğumuz şu yapay zekayı. Bu testi ona yapsaydık ne olurdu? İşte Norman da burada devreye giriyor.

Norman adı verilen bir yapay zeka programına Rorschach testini uyguluyorlar. Ve normalde insanların vazodaki çiçekler, huzurlu gün batımı falan gördükleri bu anlamsız mürekkep lekelerinde Norman ne görüyor biliyor musunuz? Vurularak öldürülmüş bir adam. Norman, dostum iyi misin? Başka bir örnek gösteriyorlar. Norman'ın cevabı ne oluyor dersiniz? Hamur yoğurma makinesinin içine atılmış bir adam.

Norman, senin derdin ne?" diyorsunuzdur muhtemelen. Basit aslında. Anlatayım.

ismi nereden geliyor onunla başlayalım.

Psikopat ve Norman dediğimde kimilerinin aklında canlanmıştır belki. Alfred Hitchcock'un 1960 tarihli kült filmi Psycho. Türkçe adıyla sapık filminde Anthony Perkins'in canlandırdığı karakter kendisi. Spoiler vermeden konumuzla ilgili bağlantı kuracağımız bir iki önemli detaydan bahsedeyim.

Filmde efendi görünümlü, mazlum gencimiz Norman Bates, Psycho adını hak edecek kadar garip bir karakter olarak karşımıza çıkıyor. Diğer bir detay da bu mazlumun içinden bir psycho çıkmasının altında çocukluğunda aile içinde yaşadığı çok sarsıntılı ve istismara varacak cinsten bir dönemin yaşanmış olması.

Başta bahsettiğimiz mürekkep lekesi testini biliyorsunuz. Normalde bu soyut resimleri psikologlar hastanın dünyaya bakış açısının olumlu mu yoksa olumsuz mu olduğunu anlamak için kullanıyorlar. Ancak yapay zeka uzmanlarından oluşan bir ekibin aklına ilginç bir fikir geliyor. Bir program yapalım diyorlar. Adını da Norman koyalım. Bu yapay zekanın bilerek ve isteyerek psikopat olmasını istiyorlar.

Bunu isteyen de yani bu Norman algoritmasını yazan da Massachusetts Teknoloji Enstitüsü'nden bir ekip. Peki manyak mı bu insanlar? Neden böyle bir şey yaptılar ki? Aslında manyak değiller. Amaç şu. Yapay zeka internette bulunan rahatsız edici fotoğraf, metin, video gibi verilerle eğitildiğinde dünya görüşünün ne olacağını öğrenmek.

Yani yapay zeka bir insan olsa ve bu insan sürekli olarak şiddete maruz kalsaydı nasıl birisi olurdu? Bunu görmek istiyorlar. Bunun için de yani bahsettiğim rahatsız edici içerikler için de bildiğimiz Reddit'i kullanıyorlar. Biliyorsunuz Reddit'te yok yok, baya şiddet içeren bir sürü fotoğraf, video, yazı, ne bulurlarsa veri olarak sunuyorlar bizim normalde.

İşte bu süreçten sonra gördüğü resimleri yazıyla ifade etme becerisi olan Norman algoritmasına başta bahsettiğim mürekkep lekelerini gösteriyorlar. Ve yine az önce bahsettiğim korkunç cevaplarla birlikte şunları söylüyor Norman. Ölü bedenler görüyorum. Kan görüyorum. Vahşet görüyorum. Karşılaştırmalı bir çalışma olması amacıyla Norman ile birlikte başka bir algoritmayı da eğitiyor ekip.

Bu algoritmaya da şirin kediler, çiçek, böcek, ne kadar sevimli içerik varsa yüklüyorlar. Ardından Norman'a gösterdikleri mürekkep lekelerinin aynısını gösteriyorlar. Bu algoritma ise öpüşen çiftler, cıvıldayan kuşlar filan görüyor. Norman'ı geliştiren ekipten Prof. Ian Rahwan'a göre, Norman'ın bize verdiği cevaplar makine öğrenmesi dünyasının karanlık yüzünü ve karanlık olasılıkları bize açıkça gösteriyor. Ve Rahwan şu çok önemli cümleyi kuruyor.

Görünüşe göre veri, algoritmadan daha önemli. Yapay zekayı eğitmek için kullandığımız veriler, bu yapay zekanın dünyayı nasıl algıladığını ve nasıl davrandığını doğrudan etkiliyor. Bu cümlelerin neden çok önemli olduğuna birazdan geleceğim. Ama önce başka bir şeye değinmek istiyorum.

Yapay zeka dediğimizde hep uçuk kaçık fikirlerden, dünyayı değiştirecek teknolojilerden falan bahsediyor. Bunları hayal ediyoruz. Ama bu süper ihtimalleri konuşurken normanı asla göz arda etmememiz gerekiyor. Çünkü yapay zeka artık öne alınamayacak bir hızla ilerliyor. Ve çok yakın zamanda, her yerde, her anımızda, hayatımızın her alanında karşımıza çıkacak. Mesela geçen yıl Google Assistant'ın telefon araması yapabildiğini görmüştük.

Öyle ki sesi normal bir insandan ayırt edilemeyen bu algoritmanın çok normal bir görüşme yapabildiğine, istediğiniz yeri sizin yerinizi arayıp rezervasyon falan yapabildiğine tanık olmuştu.

ChatGPT ile birlikte bu olasılıkların kapsamı o kadar genişledi ki, doğru bir yazılımla insandan ayırt edilemeyecek müşteri temsilcileri ya da yardımcı chat araçları gibi teknolojiler her yerde kullanılmaya başlandı bile. Bunun yanında DeepMind isimli bir şirket de kendi kendine yürümeyi öğrenen bir algoritma geliştirmişti.

Ki bu şirket satranç ve Go gibi binlerce yıllık tarihe olan oyunları, hatta StarCraft gibi inanılmaz karmaşık video oyunlarını da çok kısa sürede öğrenip oynayabilen algoritmalarıyla da biliniyor. Kaldı ki Google asistan gibi dijital asistanlar, e-posta filtreleme, arama, dolandırıcılığı önleme, ses ve yüz tanıma ya da içerik sınıflandırma gibi çok farklı alanlarda da yoğun bir şekilde kullanılıyor zaten.

Peki Norman'ın farkı ne? Bize nasıl bir gelecek tablosu çiziyor bu yapay zeka? İşte o soruya da kısa bir aradan sonra cevap arayacağız. Evet, bir takım cevap bekleyen sorular var elimizde. Şimdi, Norman bize az önce bahsettiğimiz tüm bu olasılıkların karanlık tarafını gösteriyor aslında. Çünkü internet her zaman faydalı bilgiler içeren bir mecra değil. Hatta sanırım faydalı ve zararsız içeriklerin sayısı diğer alternatiflere göre çok daha az kalıyor maalesef.

Tüm bunlara maruz kalabilecek bir algoritmanın da sonunda kötü bir yapay zeka olması haliyle kaçınılmaz olacaktır. Ama Norm'ın da tek örnek değil. Bunun gibi endişelenmemizi gerektirecek birkaç hikaye daha ortaya çıktı son yıllarda.

Örneğin, geçen yıl Mayıs ayında Amerika mahkemeleri risk değerlendirme ve analizi için yapay zeka algoritması kullanmaya karar verdi. Ve ne oldu biliyor musunuz? Bu algoritma bir zaman sonra siyahi mahkumlara karşı önyargılı olmaya başladı. Mahkumların tekrar suç işleme olasılığının analiz edilmesi için kullanılan bu algoritma, siyahi mahkumların beyazlara göre tekrar suç işleme olasılığının iki kat daha fazla olduğu sonucuna vardı.

Yani bu mümkün olabilir diye düşünebilirsiniz. Ancak hiçbir araştırma bunu desteklemiyor. Yapay zeka bu sonuca nasıl varıyor peki? İşte burada yine veri, yani data problemi karşımıza çıkıyor. Çünkü yapay zekanın okuduğu raporların ve incelediği mahkeme kayıtlarının tamamını yazan insandı. Ve burada asıl ön yargılı olan da insan. Burada ön yargılı olan yapay zeka değil, kendisine sağlanan verilerdi kısacası. Başka bir örnek de tel.

Microsoft'un ünlü Twitter chat botu. Hatırlayanlarınız vardır belki de. 2016 yılında Microsoft'un yapay zeka algoritmasını dünyaya tanıtmak için kullandığı bir yoldu bu bot. Fakat bu bot sonunda çok acayip bir şeye dönüştü. İnsanların mentionları yani bahsetmeleri ve mesajlarına açık olan bu bot elbette bu fırsatı geri çevirmeyen on binlerce trollün mesaj ve tweet yağmuruna tutulmuştu. Beyaz ırk üstünlüğünü savunmasını,

Soykırımın iyi bir şey olduğunu ya da Hitler'i sevmesini söyleyenlerin bombardımanı sonrasında iyi niyetli Tay çok kısa bir süre içerisinde soykırımı savunan, ırkçı, cinsiyetçi, neo-nazi bir algoritma olup çıkmıştı. E haliyle Microsoft da bu botun fişini hemen çekmek zorunda kalmıştı. Birkaç gün daha açık bırakılsaydı nereye evrileceğini tahmin etmek bile zor.

Tay de yanlış verilerle bir yapay zekanın ne kadar kısa sürede ne kadar korkunç bir hale alabileceğini gösteren örneklerden biriydi aslında. Dahası yapay zekanın tek suçu bu da değil. Buyurun son bir örnek daha size.

Baat Üniversitesi Bilgisayar Bilimleri bölümünden Dr. Joanna Bryson, Google haberlerde bulunan içerikleri kullanarak bir algoritmayı eğitmeye karar veriyor. Ve bu algoritma, çok masum olarak düşündüğümüz bu genel haber içeriklerinden yola çıkarak bildiğiniz cinsiyetçi önyargılara sahip bir algoritmaya dönüşüyor. Örneğin şöyle bir cümle veriyorlar algoritmaya ve boşluğu doldurmasını istiyorlar. Erkekler bilgisayar programcısıysa kadınlar nokta noktadır.

Algoritma hiç düşünmeden cevap veriyor. Erkekler bilgisayar programcısıysa kadınlar ev hanımıdır. Bunun üzerine Joanna Bryson şu çıkarımı yapmış. Bu algoritmanın bu kadar cinsiyetçi olmasının nedeni belki de birçoğunun Kaliforniya'da yaşayan bekar ve beyaz erkekler tarafından eğitiliyor olmalarıdır. Makineleri kendi kültürümüze göre eğittiğimizde haliyle ön yargılarımızı da öğretiyoruz onlara.

Tüm bu örneklerin önümüzdeki günlerde çoğalması kaçınılmaz. Daha çok cinsiyetçi, ırkçı, ön yargılı algoritmalar göreceğiz. Bundan şüphe yok. Burada elbette algoritmayı, makineleri suçlamanın da bir anlamı yok. Çünkü temelde matematikten bahsediyoruz. Ve matematikte adil olmanın bir formülü yok. Bir algoritmaya veri sağladığınızda o size bulduğu tekrar eden bağlantıları çıkarır. Yani ne verirseniz onu alırsınız.

Asıl can sıkıcı olan nokta ise şu. Bu örneklerden bazılarında olduğu gibi tırnak içinde istemsiz şekilde ortaya çıkan yanlış eğilimleri düzeltebilirsiniz normalde. Daha dikkatli dil kullanır, daha önyargısız veriler sağlayabilirsiniz. Ama art niyetli çalışmaları, yani bu algoritmaları bilerek ve isteyerek yanlış besleyen kişi ve kurumları ne yapacaksınız? Bu noktada gelecekte çok sık adını anmamız muhtemel bir iş alanı karşımıza çıkıyor. Yapay zeka psikologluğu.

Piyasaya sürülecek ya da kullanıma alınacak bir yapay zekanın öncesinde bir uzman psikolog tarafından teste tabi tutularak psikopat olup olmadığını öğrenebiliriz. Bilim kurgu hikayesi gibi geldi değil mi? Ama öyle değil. Çünkü Norman çalışmasını yürüten Profesör Rahvan da şöyle söylüyor.

Makine davranışlarını da insan davranışları gibi inceleyebileceğimize dair inanış gittikçe artıyor. Ben de tüm makine öğrenmesi ve yapay zeka örneklerinde bunu düşünüyordum sürekli. Norman örneği de tam olarak düşüncelerimi doğrulamış oldu aslında. Çok benzer değil mi? Şiddet görenin şiddet eğilimi. Sevgi görenin sevgiden başka bir şey bilmemesi gibi. Empati yani.

Bunu da detaylıca konuşmuştuk. Dinlemediyseniz o zaman hemen sizi hiçbir şey tesadüf değilin önceki bölümlerine alalım. Ayna nöronları konuştuğumuz insanlığın büyük patlaması. Ayna nöronlar bölümünü mutlaka dinleyin derim.

Kısacası burada da durup düşünmemiz gereken bir mevzu. Hatta çok ciddi bir mevzu var. En büyük korkumuz malum. Yapay zeka işlerimizi elimizden alır mı? Dünyayı ele geçirir mi konusu? Burada korktuğumuz yapay zeka, makineler, robotlar değil aslında. Neden korkuyoruz biliyor musunuz? Aslında kendimizden korkuyoruz. Makinelerin öğreneceği her şeyi biz ortaya çıkardık.

Tüm kötülükler, tüm önyargılar, açgözlülük, güç hırsı, ırkçılık, cinsiyetçilik ve çok daha fazlası. Hepsi bizim eserimiz. Ve işte makineler tüm bunları öğrenir diye korkuyoruz. O yüzden yapay zekayı geliştirmeye biraz ara verip kendimize çekidüzen vermemiz gerekiyor. Sanırım her şeyden önce yapmamız gereken bu. Sonuçta hiçbir şey tesadüf değil değil mi?

Kodak; neredeyse 100 yıl boyunca nesillerin yakından tanıdığı ve tüm anılarını ona borçlu olduğu bir markaydı. Şirketin kurulduğu günden itibaren tek misyonu fotoğraf çekme deneyiminde devrim yaratmaktı. Fakat bu alandaki başarısı, ileride onu felakete sürükleyecek körlüğün başlangıcı olacaktı. Hiçbir Şey Tesadüf Değil’in bu bölümünde, Kodak’ın yükselişten çöküşe uzanan hikayesini inceliyoruz. Değişime direnmenin bedelini ve “kendini yok edip yeniden doğma” cesaretini masaya yatırıyoruz.







Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Kodak: Efsane Bir Çöküş Hikayesi

Malum, yapay zeka son yılların en çok konuşulan teknolojilerinden birisi. Bu teknoloji temelde ödüllendirme mantığı ile çalışıyor, bu şekilde kendisini geliştiriyor. Peki daha önce kimsenin bilmediği, kitleleri imha edebilecek bir kimyasal bileşim keşfettiğinde onu ödüllendirirseniz ne olur? Hiçbir Şey Tesadüf Değil'in bu bölümünde yapay zeka kullanılarak oluşturulan ilk imha reçetelerinin üzerine konuşuyoruz. Gelecekte bizi neler bekliyor olabileceğinin analizini yapıyoruz. 



Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Yapay Zekanın İlk Kitle İmha Reçeteleri 

Kişisel verilerimizin takip edilmesi ve seçimlerimizin yönlendirilmesi artık görünmez bir mühendisliğin parçası. Özgür iradeyle verdiğimizi sandığımız kararların arkasında ise dev bir veri ekonomisi, algoritmalar ve bizi bizden iyi tanıyan şirketler var. Hiçbir Şey Tesadüf Değil’in bu bölümünde gizlilik ihlallerinin hayatımızı nasıl şekillendirdiğini, bu ekosistemin ne kadar derine indiğini ve tüm bunların geleceğimiz için ne anlama geldiğini inceliyoruz.







Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Ne Yaptığınızı Biliyorlar!

Coca Cola'nın 1971'de yayınladığı "Hilltop" reklam filmi, koca bir sektörün yaklaşımını değiştirmişti.  Asi bir nesil, karşı bir kültür ve tüm siyasi konjonktürün sorgulanması reklam dünyasında da kendine yer buluyordu artık. Ancak zaman içerisinde kapitalizm bu durumu da kendi lehine çevirmişti. Hiçbir Şey Tesadüf Değil'in bu bölümünde "Kapitalizm, devrimi nasıl markalaştırdı?" sorusuna yanıt arıyoruz. Reklamcılık tarihinin kırılma noktalarından ipuçları bulmaya çalışıyoruz.


Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Kapitalizm, Devrimi Nasıl Markalaştırdı?

Dünyamız ölüyor. Tabii şimdi hemen değil. Ama bir gün olacak elbet. Tıpkı her hikayenin sonu gibi, onun da sonu gelecek. Levha tektoniği durmuş, kıtalar kilitlenmiş, okyanuslar kurumuş ve yaşam denen olgunun külleri bile kaybolmuş olacak. Ve bu gerçekleştiğinde, biz çoktan kozmik sahneden çekilmiş olacağız. En azından burada, bu kaya parçası üzerinde öyle gözüküyor. Hiçbir Şey Tesadüf Değil'in bu bölümünde, zamanı biraz ileri sarıyoruz. Acaba 1 milyar yıl sonra dünyamız neye benzeyecek?





Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

1 Milyar Yıl Sonra Dünyamıza Ne Olacak?

Dünya'nın yörüngesinden de geçen bazı küçük kaya parçaları bulunuyor. ve bu kayalar çok değerli bir şeyler saklıyor. Bize büyük servet kazandırabilecek madenler söz konusu. Sadece birkaç sondaj ekipmanı yapıp bu asteroidlere göndereceğiz. Sonra da o asteroidlerin bazılarında bulunan altın, gümüş ya da elmas gibi madenleri kazıp geri getireceğiz. Hepsi bu kadar… Peki ama niye yapmıyoruz bunu? Asteroid madenciliğini neden bir iş kolu olarak sayamıyoruz hala? Hiçbir Şey Tesadüf Değil'de bu sorunun cevaplarını aramaya koyuluyoruz. Asteroid madenciliğinin yakın dönemde nasıl fırsatlar sunabileceği üzerine düşünüyoruz.

Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Asteroidleri Kazan Kazanır!

İnsan neye göre hatırlayıp, neye göre unutur? Örneğin, neden hayatımızın ilk birkaç yılını hatırlamıyoruz? Ya da bazı anılar yıllar geçse de ilk günkü kadar canlı kalırken, neden bazıları hiç olmamış gibi siliniyor? Hiçbir Şey Tesadüf Değil'in bu bölümünde hafızaya, hatırladıklarımıza ve unuttuklarımıza doğru bir yolculuğa çıkıyoruz. 





Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Çocukluğumuzu Neden Hatırlamıyoruz?

1919'un bir gününde John B. Watson sokakta yürürken köpeklerden aşırı korkan bir çocuk gördü. Bu göründü anında aklına kazınmış, ilerleyen günlerde bazı sorulara dönüşmüştü.  "Acaba yeni doğmuş bir bebek, evcil hayvanlardan korkar mı? Böyle bir korku doğuştan var olabilir mi? Yoksa bu korku sonradan mı öğrenilir?" İşte bu sorular bugün yapılsa gerçekleştirenin de, gerçekleşmesine izin verenin de yıllarca hapishanede yatmasına neden olacak bir dizi deneye zemin hazırlamıştı. Hiçbir Şey Tesadüf Değil'in bu bölümünde o deneylerin hikayesine odaklanıyor, Little Albert Deneyi'ni inceliyoruz.



 Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Psikoloji Tarihinin En Tartışmalı Meselesi: Little Albert Deneyi

Percy Spencer, cebindeki fıstıklı bir atıştırmalık sayesinde birçok evin baş köşesinde yerini almış bir cihaz icat etti: mikrodalga fırın. Peki nasıl oldu da, bu elektromanyetik dalgalar bir anda dünden kalan yemeği ısıttığımız bir cihaza dönüştü? Hiçbir Şey Tesadüf Değil'in bu bölümünde, bilim ile gerçek yaşamın doğrudan kesiştiği bu mucizevi aletin acayip hikayesine beraber bir yolculuk yapıyoruz.





Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Kazara Mucize: Mikrodalga Fırın

Elon Musk'ın yirmi yıldır neredeyse tek bir takıntısı var: Mars’a ulaşmak. Son bir yıldır ise, varıldığında ne olacağı konusundaki çalışmalarını hızlandırdı. Hiçbir Şey Tesadüf Değil'in bu bölümünde; Musk'ın zihnine ve projelerine bir yolculuk yapıyoruz. Bakalım Musk, çılgın planlarını gerçekleştirebilecek mi? Yoksa bu sadece 21. yüzyılın en büyük bilim kurgu hikayesi olarak mı kalacak?





Tüm bölümler ve daha fazlası için ⁠⁠⁠⁠podbeemedia.com⁠⁠⁠⁠'u ziyaret et!



----- Podbee Sunar -------

Bu podcast reklam içermektedir.

Kalkın! Mars'a Gidiyoruz!

Gökyüzüne bakıp tüm evreni gördüğümüzü düşünmek; evinizin arka bahçesine bakıp, o bahçeyi görüp, orada gördüğünüz çiçeği ve böceği referans alıp, tüm evreni gördüğünüzü ve anladığınızı düşünmekten farksız aslında. Çünkü uzayın bu çıplak gözle gördüğümüz kısmı, gerçekten de bizim arka bahçemizden farksız. Ve yeni bir yaşam formunu ya da uzaylıları arıyorsak uzağa, çok çok daha uzağa bakmamız gerekiyor. Hiçbir Şey Tesadüf Değil'in bu bölümünde uzayın derinliklerinde bir arayışa giriyor, sonsuz ihtimallerin denizinde kulaç atıyoruz.






Tüm bölümler ve daha fazlası için ⁠⁠podbeemedia.com⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Fermi Paradoksu: "Nerede Kardeşim Bu Uzaylılar?" 

İnsanlık tarihini değiştiren bazı keşifler sanki bir rastlantıymış gibi anlatılır. Halbuki hiçbir şey tesadüf değil. İşte biz de bu yüzden buradayız. Cengiz Çalışkan, nam-ı diğer Bebar Bilim ve Podbee Media'nın beraber hazırladığı ve bu podcast serisinde bizi bugüne getiren tüm bilimsel, kültürel, toplumsal dönüm noktalarından geçeceğimiz büyük bir yolculuğa çıkıyoruz.

Hiçbir Şey Tesadüf Değil

Her şey bir oyundur özünde. Savaşlar da, bir köşe başında bulunan boş bir dükkana çiğköfteci açıp açmama kararı da… Bu bir şahsi görüş değil, teoridir esasında. İnsanların, ilişkilerin, karşılıklı veya kişisel çıkarların söz konusu olduğu her anda hayatımızın bir parçası olan bir olgunun kağıda dökülmüş halidir Oyun Teorisi. Bu bölümde Oyun Teorisi üzerine odaklanıyor ve bu kavramı irdeliyoruz.






Tüm bölümler ve daha fazlası için ⁠⁠podbeemedia.com⁠⁠'u ziyaret et!



----- Podbee Sunar -------



Bu podcast reklam içermektedir.

Podcast'e Soru Sor

Kaydet - Dinle - Gönder

Bildirimler

Hiçbir Şey Tesadüf Değil

Her hafta eklenen yeni bölümleri kaçırma!