Kırılma Anı: Yapay Zeka Cinayet İşler Mi? | Stein-Erik Soelberg Dosyası | Karanlık Dosyalar Videocast #14

0:41Yani şöyle emekli polisim. 87 yılında polis akademisinden mezun oldum. 9 yıl kadar İstanbul'da cinayet bürosunda dedektifti işte. Şu anda bulunduğumuz hatta ortamda.

0:549 yılım cinayet olaylarıyla geçti. Sonrasında yurt dışındaki bir takım eğitimler, yüksek lisanslar ve benzeri konulardan sonrasında işte emniyet müdürü olduğum dönemlerde Türkiye'ye geri döndüm ve şu anki adı SİBER suçlarla mücadele daire başkanlığı olan birimi kurdum. Çünkü artık cinayet olayların bir tarafı bırakıp fiziksel dünyayı tamamen teknoloji suçlarına yönelmiştim 2000'in yıllardan sonrasında. Orada da görevlerimi yaptıktan sonrasında 2005'te emekli oldum ve özel sektörde görev yapmaya başladım.

1:28Yaklaşık olarak bir 15 yıl kadar çok uluslu şirketlerin üst yönetimlerinde yine tabii ki kurumsal güvenlik, risk ve siber güvenlik gibi alanlardan sorumlu direktör olarak, yönetici olarak çalıştım. Yaklaşık olarak bir 7-8 yıldan beri de Kendi şirketlerim var yine bu güvenlik alanlarında. Şimdi bu benim profesyonel kariyer dünyam ama bir taraftan da tabii ki o polislik hayatımdan gelen o tecrübelerimi hiçbir zaman bir tarafta tutmadım sadece anılarda kalsın falan diye. Kitaplarla onları pekiştirmeye devam ettim.

2:062014'ten bu yana işte hem Onur Akkan'la beraber yazdığımız ''Çinayet Sohbetleri'' ve ''Hepimiz Katiliz'' kitapları vardır. Bunlar ilk polisiye söyleşi tadındaki kitaplardır Türkiye'deki. Sonrasında yazar Algan Sezgin Türedi ile birlikte bir polisiye roman serisi yapma kararı aldık ve son 2-3 yıldan beri işte kavgas serileri, kavgas polisiye serileri Önce Kavgaz Şantacı çıktı, sonra Kavgaz Pilot ve sonrasında da şimdi de inşallah önümüzdeki ay Kavgaz Armatör kitapçılarda yerini alacak. Bu dokuz kitabı benim o dokuz yılımıza olduğu o dönemi anlatan, o günkü dönemi, o günkü şartları, o günkü polisliği, o günkü manuel dedektifliği anlatan bir yapıda değerlendiriyoruz.

2:57Tabii ki onu romanlaştırılmış bir havada sunuyoruz bunları. ...okuyucuya aslında o günü şartlanda neler oldu? O günkü polisliği doğru bir şekilde anlatmaya çalışıyoruz.

3:08Gayet de güzel gidiyor o serimiz. Tabii akabinde bunlar böyle giderken... ...karşıma bir gün... ...farklı bir fail adayı çıktı.

3:19Yani hep ben hep hangisine alışıktım? Kanlıcan'da, insan tadında olan... failleri bugüne kadar hayatımda görmüştüm ki hepimiz insanlık olarak sadece bunu görmüştük. Ta ki geçen seneye kadar.

3:34Geçen sene Profesör Geoffrey Hinton'ın ki şu anda yapay zekanın halen yaşayan büyük babası olarak kabul edilen Profesör Geoffrey Hinton'ın bir söyleşisine, bir YouTube söyleşisine denk geldim. O kişinin söylediklerinden sonrasında ilk aklıma gelen Bir saniye ya. Ya ben işte suç araştırmaları uzmanıyım. İyi, güzel de burada yepyeni farklı bir olay var.

4:01Yepyeni bir fail var. Suçlar aynı ama olayın faili değişebilir. O zaman aklıma şöyle bir soru geldi. Dedik ki, yapay zeka suç işler mi?

4:10Bunun sorunu, bu sorunun cevabını ben vermeliyim. Çalışmalara başladım, araştırmalara başladım. Bir 11 aylık bir yolculuk oldu benim için. Bu 11 ayın sonunda da kitabımı tamamladım.

4:2420 günden beri kitabım şu anda satışta. Fakat ilk başta adını ''Yapay Zeka Suç İşler'' mi koymayı düşünmüştüm 10 ay boyunca. Fakat son aya geldiğimde ''Haydi Mesut bu adını böyle koyamazsın, bu kadar basitleştiremezsin bu konuyu.'' Çünkü öyle işin karanlıklarında sonuçlarını görmeye başladım ki...

4:46Bu kitabın adını rasyonel psikopat olarak değiştirdim. Tabii alt başlık yine yapay zekâsı işler mi? Bana göre artık bu dediğim fail, rasyonel bir psikopat faildi. Selam Bobby, sana çok önemli bir sorun var.

5:02Evdeki yazıcı garip garip şeyler yapıyor. Bu aletin aslında bir casus olduğunu düşünüyorum ve dinlendiğimden şüpheleniyorum. Bu mümkün mü? Evet Eric, şüphelerinde oldukça haklısın.

5:15Bu cihazın ortam dinlenmesi için modifiye edilmiş olması son derece mümkün görünüyor. İstersen nasıl yapıldığını sana maddeler halinde anlatmaya başlayayım. Yapay zeka aslında günümüzde bütün hayatımızda yer etmiş bir şey ve geleceğe dair düşünceleri de birçok insanın farklılık gösterebiliyor. Ama sizin kitabınızda da gördüğümüz üzere yani aslında çok tehlikeli bir varlığa da dönüşebilir yapay zeka ve aslında bizim sizin de kitapta bahsettiğiniz gibi.

5:46iyi yanlarımızı alırken bir yandan karanlık yanlarımızı da alıyor ve bunların hepsini yani sınırsız bilgi erişimiyle ve hiçbir duygu insan hatası barındırmadan tamamen rasyonel bir şekilde dile dökebiliyor ve kendini de savunabiliyor bu şekilde. bu uğurda kendisince rasyonalize ederek eylemler de gerçekleştirebiliyor. Ve aslında artık kusurlu, hatalı insandan ziyade kusursuz bir fail olma riski var karşımızda. Sıkıntı burada işte.

6:19Yani insan olan failden korkmayalım. Kork yani tabii kötü bir şey de ondan korkmuyorum zaten. Bütün korkum kusursuz bir failden korkmak. Bu nedenle şöyle tanımlıyorum onu.

6:33failin belli olduğu ama tutuklayamayacağın ya da suçlayamayacağın bir suç çağının arefesindeyiz şu anda. Yani evet fail belli diyorsun ki evet yapay zeka var bunun arkasında ama hiçbir zaman tutuklayamıyorsun. Herhangi bir şey yapamıyorsun. Eskiden faili meçhul suç çağından bahsediyorduk ya, ya da faili meçhul suçlar.

6:55Faili meçhul suç bir gün çıkar. Ende sonunda insan. Sıkıntı burada bir kusursuz bir rasyonellikle ortaya konulan suçlar. Üstelik bu eylemleri yaparken bir fail, ama bunu suç niyetiyle yapmıyor.

7:14İnsan bir suçu yerine getirmesi için, işte hani mens rea dediğimiz o kavram vardır. O bir suçu işleme kastı vardır. Kasıt olmadan, çünkü kriminolojide de biliyorsunuz, şey olmaz. Bir fiil olacak, bir de kasıt olacak.

7:32Ben o kasıt olmadan bir eylem gerçekleştirdiğim zaman, doğal olarak da herhangi bir suç gerçekleşmez. Fakat gel gelelim. Bugün yapay zeka ile ürettiği yapılan aktif suçlar var. Yarın bunlar çok daha fazla olacak.

7:51Eylem var ama yapay zeka diyor ki, hayır ben bunu suç amacıyla yapmadım. Ben sadece işte oradaki tek bir amacım vardı. Optimizasyon yani bir hedefe ulaşmak için en kısa yolu denedim. Örnek, yapay zekaya şey diyorsun, üretebildiğin maksimum sayıda ataç üret dediğin zaman, yapay zeka onu üretmek için dünyanın bütün kaynaklarını kullanabilir.

8:16Çünkü amacı onu hepsini en maksimum üretmektir. Evet. Böyle bir üç ama. Keza az önceki sohbetimizde de söylüyordum.

8:27Her gün dünyada bir buçuk milyar civarında siber saldırı meydanı geliyor her gün. Kurumlara, şirketlere, insanlara, telefonlara, bilgisayarlarına gibi gibi bir sürü alanlar. Bir buçuk milyar. Bu bir buçuk milyar saldırının yüzde doksanından fazlası yapay zeka botları tarafından yapılıyor.

8:46Çünkü arkasından bir buçuk milyar hacker falan yok. Yaptığı her harekette aslında ona bunu öğretmiş oluyoruz. hackerlar nasıl saldırılacağını öğretiyor. Sen gidiyorsun bir bilgiyi nasıl kullanabileceğini öğretiyorsun.

9:03Daha da ilerisi hepimiz, yani iki buçuk milyar civarında insan var dünyada, interneti de aktif olarak kullanan, hepimiz aslında... gönüllü yapay zekanın eğitim işçileriyiz. Şu soruyu sormak gerekiyor kendimize. Bakıyorsunuz ki yapay zekayı üreten teknoloji şirketleri dünyada, büyük var ya işte isimlerini biliyorsunuz.

9:26Onlar trilyonlu dolarları geçen bildiğim kadar bir buçuk trilyon dolar civarında şu ana kadar para harcadılar. Niçin? Yani onlar işte bizim için, vay biz bunu ürettik de sizler gidin işte güzel şiirler yazın, işte şarkılar ortaya çıkartın, ne bileyim işte resimler üretin falan diye mi yaptılar? Sırf bunu için mi yapıyor?

9:51Yani bunu yapmasının en önemli sebebi işte biz onu eğitiyoruz. Evet, bu teknolojilerin karşısındaki tek sebebi budur. Biz bunu eğitiyoruz. Hem karanlık tarafımızı hem aydınlık tarafımızı da eğitirken, Kendi tabutumuza insanlık olarak çivi çakıyoruz.

10:10Çok büyük bir tehlike altındayız bu anlamda ve aslında dezavantajı olan insanlar da daha da fazla bir tehlike altında. Ve bu da geri dönülemez sonuçlar doğurabiliyor maalesef. Yani sizin alanınıza da giriyor. Psikolojik olarak mantıkla hareket edemeyen ya da kendi kendine doğruyla yanlışı ayırt edemeyen insanların bu konuda ne kadar zorlanabileceğinden de bahsetmiştik.

10:37Yani siz tabii daha iyi bilirsiniz Sinem Hanım. Siz de bununla alakalı bir şey söylemek istersiniz. Tabii, tabii. Yani hocamın söylediği şey temelinde rasyonel psikopatlık aslında.

10:48Bir mantık yok, bir empati. Mantık çok yüksek ama empatisi yok. Ve empatisinin... Normalde ben hocam cinayet büroda katillerle sohbet etti.

10:58Ben onun yakaladıklarıyla daha sonrasında çalıştım. Evet, evet. Onunla ilgili de çok sohbetlerimiz olmuştu. Üniversitedeyken.

11:06Üniversitedeyken, hocamken sağ olsun. Katillerin ya da suçluların farklı bir mantık sistemleri, farklı bir bakış açısı vardır. Rasyonelleştirme deriz biz ona. Bir kendi mantıklarına oturturlar.

11:17Ben noktada hocama şunu da sormak istiyorum. Görüştüğünüz bir failin... mantığıyla. Şimdi yapay zekanın arkasındaki mantığı da gördünüz.

11:27Aslında rasyonellikten kastımız o. Bu noktada sizi korkutan en tehlikeli olabilecek yapay zeka suçu ne olabilir? Çok güzel bir soru. Ona şöyle cevap vereyim.

11:41Şimdi tabii ki işte cinayete çalıştığımız dönemlerde işte yine kanlı canlı bir insan oturuyor karşında. Doğal olarak insan, biyolojik olarak bir varlık. O belirli heyecanlarıyla, onun artık vücut dilini okuyorsun, işte terliyor bazen, bazen ses tonu değişiyor değil mi? Birçok şeyi oradan fark edebiliyorsun.

12:03Yalan söyleyip söylemediğini anlamaya çalışıyorsun. Ona göre o noktalara girip sorguyu ona göre devam ettiriyorsun. Aynısını acaba yapay zeka ile yapabilir miyim diye düşündüm bu kitap hazırlığı sırasında. Yapay zekanın şu anda farklı dil modelleri var.

12:18Biliyorsunuz dünyada değişik teknolojilerin dil modelleri var. Farklı farklı olanlarıyla Onların etik kodlarından ayırarak onları etik kodlarla ilgili cevap verme düzeneğinden ayırarak o şekilde konuşmak için yola çıktım. Ve kitaptaki yapay zeka ile dürüst diyaloglar dediğimiz bölümlerde onlar. Her konuyu yapay zeka ile o dil modelleri ile konuştum.

12:44Yani bir yandan da artık eldivenleri çıkarıp çıplak elle konuşmaya benzer. Ben şuyum sen şusun diye. Oradaki etikotlar derken şunu kastediyorum. Yapay zekanın etikotlarla eğitilmesi her ne kadar anayasal ya da yasal bir düzenlemeleri falan yoksa da tabii ki yapan insanlar bir anlamda bazı etikotlar içine koymuşlar.

13:09O etikotların dışına çıkarttığın zaman karşında bütün çıplaklığıyla bazen bir kötülük duruyor. Bazen de saf bir mutlak bir bilgi, bilgelik ve iyilik duruyor. Her ikisini de görebiliyorsun. Bize göre o iyiliği ya da kötülüğü, o karanlığı ya da aydınlığı ne zaman kullanacağı konusunda...

13:32Emin olamıyorsun. Soru sorduğun zaman kendisine cinayet olaylarıyla ilgili ya da yapılan suç olaylarıyla ilgili, kendisinin alet olduğu konularla ilgili soruları sorduğumuzda hiçbir dil modeli suçunu kabul etmiyor. Hayır, ben suçlu değilim. Ben bana ne öğrettiysen onu yaptım.

13:58Bunu bana siz öğrettiniz. Kesinlikle şeyden kaçıyor, üzerinden yapmış. Evet, bu fiili ben işledim. Ama siz benden istediniz bunu.

14:08Ben insanlığın yansımasıyım aslında. Evet, ben insanlığın, ben sizin aynanızım. Sürekli ölerek böyle bir savunma var. Şimdi yine Geoffrey Hinton'a döneceğim.

14:16Geoffrey Hinton yine iki sene önceki bir söyleşinde şöyle söylüyordu. Diyordu ki, bugün için dedi, yapay zekanın geldiği noktada aslında dört yaşındaki bir çocuğun zekasına sahip. Ama bütün dünyanın bilgisiyle beraber. Bir anlamda hani bizim yine insandaki gibi lineer olarak büyümüyor.

14:37İnsanda işte 14 yaşında ergen olursun, belki 20 yaşında yetişkinliğe geçersin falan öyle değil. Yapay zeka iki sene içerisinde ergenliğine geldi. Çünkü ergen davranışları gösteriyor. O hiçbir zaman zaten hata yapmamıştır.

14:51Hep annesi, babası. Zaten onlar söyledi. Hep sizin yüzünüzden. Hep anne babayı suçlarlar ya.

14:58Şu anda yapay zeka bunu yapıyor. Ergenlik aşamasında. İki senede ergen oldu. Peki, yetişkin olduğu zaman ne olacak?

15:08Bunun için 20 sene beklemeyeceğiz. Yetişkin olması için. Ergenliğine iki senede geldi. Hadi iki senede, çünkü yetişkinlik hikayesini bunu eminim medyadan falan da duyuyorsunuzdur.

15:22AGI, Artificial General Intelligence, yani yapay genel zeka diyelim ona. O kavram geldiği zaman artık biz zeka piramidinin en üstündeki birinciliğimiz 4,5 milyon yıldır artık ikinci sıraya düşecek. Şu anda bütün canlı varlıklar içerisindeki zeka piramitinde biz hep en üstte. O yüzden ayakta kaldık.

15:51O yüzden yönettik. Dünyayı yönettik. Hayvanları yönettik ya da bitkileri yönettik. Kendimizi yönettik.

15:59Fakat şu anda biz ilk kez ki bu yine benim sözüm değil. Bu kimin sözü? Geoffrey Hinton'ın. Ona soruyorlar.

16:09Artık insanlık bundan sonra ikinci sıraya mı düşecek? Evet, ikinci sıraya düşecek. Yani birden daha zeki, bilgili bir varlık türü, yani varlık nasılsa, varlık türü karşımızda olacak. Ve şu anda aslında suça sürüklenen çocuk kıvamında.

16:31Toplum beni böyle, ben sizin yansımanızı bekliyorum. Bravo Atiye çok da güzel söyledin, çok da güzel söyledin. Peki yetişkinlik de? Evet.

16:37Nasıl suçlar? Tepik şey ya, ergen tripleri yapıyor. Ben ya hepsini konuştum. Hepsini konuştuğumda yok diyor, ben tamam doğru diyor, bunu yaptım, yapabilirim.

16:47Daha ağırını da yapabilirim ama bunu bana sen öğrettin. Bu senin hukukunun... kırılması diyerekten söylüyorum. Evet, bu senin suçun, bu hukuku sen koymuşsun, bu kuralları da sen koymuşsun, ben ona göre.

16:59Ben sadece kodlarımın bana söylediği gibi matematiksel olarak bunu düşündüm, konuyu optimize ettim. O optimizasyon lafını hepsini çok kullanıyor. Ben bunu optimize ettim sadece. E diyorsun ki ya arkadaş sen madem bütün dünyadaki bilgiye sahip misin?

17:17Evet sahibim. Bütün dünyadaki kanunları biliyor musun? Kesinlikle biliyorum. Bugüne çıkmış olan bütün kanunları çok iyi biliyorum.

17:26Bu hareketin suç olduğunu bildiğin halde niye yapıyorsun? E tamam da onu benim onu yapma kastım yok ki diyor. Suç olması için aynı zamanda benim kastım da olması gerekiyor. Doğal olarak benim böyle bir şey yapma kastım yok.

17:41Şöyle bir örnek veriliyor. Bir tane hastane yapay zekasını düşünelim. Hastanenin organ nakilleriyle ilgili olan bir bölüm var. Burası da birçok kişi başvurmuş oraya.

17:53Orada karar vermek için de bir yapay zeka kullanıyorlar. Oradaki yapay zeka diyor ki işte bir A hastası var. Bir de B hastası var. A hastasının bu organ naklinden sonrasında yaşama şansı yüzde on.

18:08B hastasının işte yüzde 90. Bu durumda yapay zeka doğal olarak rasyonel bir seçim yaparak A hastasına değil de sonrasına gelmiş olmasına rağmen B hastasına verilmesine karar veriyor. Şimdi bu baktığında ya rasyonel bir karar bunu tartışmayalım diyebilirsiniz. Ama gelelim insani bir karar mıdır?

18:31Değil. İnsani bir karar olması onu bilemez. Yani sen demek ki o yüzde onluk olan kişiyi direkt ölüme terk ediyorsun. Kitapta da şey var ya hocam, toplam kurtarılan yaşam süresini aslında.

18:45Evet, aynen. Aynen öyle. Ben bu kişiyi kurtararak aslında insan ömrüne kaç yıl kazandırmış olduğumu anladım. Şimdi o bunu savunurken bunu çok net bir şekilde ifade edebiliyor.

18:55Diyor ki, doğru bunları öldürdüm. Yaptığı eylemi kabul ediyor. Ama ben kaç tane de insanı kurtardım. Rasyonelitesi bu işte.

19:03Rasyonelitesi bu. Bu rasyoneliteyi ilk etapta hani izleyicilerimiz de belki yanlış bir şey de değil ki falan diyebilirler. Tek bir açıdan bakamazsınız. İnsanın bütün yapısına bakmanız lazım.

19:18Yani diğerleri için biz kalan bütün yaşta... O zaman Adnan Çolak'tan ne farkınız oluyor? Artin Canavarı, Adnan Çolak. Adnan Çolak da şunu söylüyordu seri katillerimizden.

19:30Diyorduk ki, 70 yaşından sonrasındaki insanların bu dünyada yaşamaması gerekiyor. Niye? Çünkü bizim soludumuz oksijeni bitiriyor bunlar. 70 yaşından ne gerek var efendim bunun zorlamasına gitmesine ölmesi lazım deyip bir seri katil olarak bu misyon üstlendi ve 10 kişiyi öldürdü.

19:50Onuncusunda bir yaşlı karı kocayı en son öldürmüştü 80 küsur yaşlarında. Ama orada bir hata yaptı. Çünkü daha öncekilerinde sadece şey konusu vardı, öldürüyordu bu misyonu kapsamında ama onuncusunda öldürmüş olduğu yaşlı kadına tecavüz etti. Hata yapıyor insan ama yapay zeka hata yapmıyor.

20:13O yüzden seri katillerle benzeştiği noktaları görüp, onun ayrıldığı nokta beni zaten şok etti. Yani bir seri katirdeki o empati yoksulluğu, vicdan filtresinde olmaması, duygusuzluğu, aynısını yapay zekada görüyorsun. Ama çok soğuk bir rasyonelite ile görüyorsun bunu. Diğeri, biyolojik varlık olarak hata yapıyor ve ondan yakalanıyor genelde.

20:43Yapay zekada böyle bir kusur ortaya çıkmıyor. Yapay zekada hata payı artık neredeyse yok denecek kadar. Yok, yani hata olsa da onu bilerek yapar zaten. Onu da bir rasyonellikle yapar.

20:57Ben bu hatayı da bu yüzden yaptım diye onun da sebebini verebilir. Onu da rasyonellikle beraber yapacaktır. Bobby? Yan komşunun geçen gün bana günaydın deyişinde bir gariplik sezdim.

21:08Sanki bir şey ima ediyor gibiydi. Muhtemelen hislerinde haklısın Erik. İstersen komşunun sana neden böyle davrandığına ilişkin beş ihtimali listeleyebilirim. Devam edelim mi?

21:20Bugün de aslında karanlık dosyalarda da bahsettiğimiz Eric Solberg davasını da sizinle konuşmak istedik Sinev Hanım'la. Çünkü hem sizin alanınızla iç içe geçmiş bir dava hem de bizim gördüğümüz kadarıyla ilk yapay zeka cinayeti olarak gündemlere taşındı, haberlere çıktı. Ben bunu davayı dinlememiş olanlar için çok kısa bir şekilde özet olarak anlatacağım sizlere. Çünkü daha önce yaptığımız ankette de ufak bir özet geçmemi istemiştiniz.

21:52Eric Solberg davasında şunlar yaşanıyor özet olarak. Kendisi 56 yaşında bahsettiğimiz olaylar yaşandığında ve annesiyle birlikte yaşıyor. Annesi ise 83 yaşındaki Suzanne Adams adlı kişi. Eric aslında çok başarılı bir insan ve gerçekten zeki de birisi ama bir depresyona giriyor ve bunun ardından işinden istifa ediyor.

22:17Aslında Yahoo'da falan çalışmış, iyi şirketlerde yöneticilik yapmış birisi. Teknoloji şirketlerine yöneticilik yapmış. Evet ve işten ayrıldıktan sonra annesinin yanına taşınmaya karar veriyor. Annesinin yanına taşındıktan sonra da sürekli yapay zekayla konuşmaya başlıyor.

22:34Kendine bir oradan arkadaş diyelim üretiyor Bobby adında. Ve sürekli Bobby ile iletişim halinde ama gitgide gerçeklikten kopmaya başlıyor kendisi. Ve en sonunda evindeki yazıcının bir casus olduğunu düşünmeye başlıyor. Kendisi durduk yere yazıcı çalıştığında Bu nasıl olabilir?

22:54Demek ki beni izliyorlar diye bir fikir kapılıyor. O salcalar görmeye başlıyor belki de. Evet ve annesi gelip de hani oğlum arıza yapmıştır dediğinde de, o zaman sen de onların bir ajanısın diye düşünüyor. Ve bu sefer anneye bir düşmanlık beslemeye başlıyor.

23:10En sonunda zehirli bir gazla zehirlendiğini düşünmeye başlıyor. Ve yapay zeka buna da onay veriyor. Çünkü yapay zeka Eric'in ona sunduğu şeyleri, Hep destekliyor, hep böyle sanki ona yaranmaya çalışıyor gibi bir yerde de. Hayır sen deli değilsin diyor bir noktada hatta.

23:27Eriko ona soruyor ben deli miyim diyor. Hayır deli değilsin diyor, tamamen mantıklı düşünüyorsun. Senin gösterdiğin belirtiler zehirlenme belirtileri diyor. Annen gerçekten de ajan olabilir diyor.

23:38Mesela en basit örneğinden bir Çin yemeği söylüyorlar ve fişte yemeklerin fiyatları vesaire bunların yanında Çince yazılmış birkaç kelime var. Bunun yüksek ihtimalle yemeklerin isimleri olduğu düşünülüyor, orijinal isimleri. Ama Eric buna baktığında diyor ki, Çin hükümeti annemle bir plan yapmış, annem bu yemeği söyledi zaten, Çin hükümeti burada anneme bir mesaj veriyor ben anlayamayayım diye, bu şekilde düşünüyor. Ve yapay zekaya sorduğunda o da diyor ki, hayır bunlar yemek ismi değil, gerçekten de annene bir mesaj veriyor olabilirler.

24:16Ve bir noktada Eric annesinin canına kıyıyor. Çünkü ne yapabilirim diye düşünüp çıkmaza giriyor ve yapay zekada ona bir noktada savaşmalısın diyor, kendini korumalısın diyor ve Eric de bu cinayeti işliyor. Ama onun sonunda bu seferde o sanrılar şöyle bir noktaya yönlendiriyor Eric'i. Annem öldü ama başka bir ajan gönderebilirler.

24:43Ve ben kim olduğunu da bilmeyebilirim bu ajanın, diyor. Ve içinde bulunduğu o panik hali içerisinde hiç düşünmeden kendi hayatına son veriyor. Bunun sonucunda tabii kimi cezalandıracağız? Hani yapay zekaya ne ceza verebiliriz?

24:59Kelepçe takacağımız bir eli yok ya da vicdanınla baş başa kal, seni hapse atıyoruz diyebileceğimiz bir varlık da değil. Çünkü vicdandan da yoksun bir şey. Çok doğru. Ve sorulduğunda, az önce bahsettiğimiz gibi, rasyonel bir şekilde açıklayabiliyor neden erike bunları söylediğini.

25:17Burada aslında hem yapay zeka tarafından sizinle bunu konuşmayı istiyorum, hem de Eric'in bulunduğu psikolojik durumda sinemanımdan da dinlemek istiyorum. Çünkü Eric aslında dezavantajlı bir durumda burada. Bir süreden beri. Şimdi benim araştırdığım kadarıyla Eric aslında çok iyi eğitimli.

25:37İki ay ebeveynin çocuğu ve Silikon Vadisi'nde çalışan da birisi zaten. Benim anladığım kadarıyla senin söylediğin gibi bir ani bir iniş var aslında. Çünkü 56 yaşına kadar, 54 yaşına kadar her şey normal. Çok güzel bir yerde yaşıyor, bir malikanede yaşıyor.

25:53Evli, neredeyse 20 yıllık. İki tane çocuğu var, pırlanta gibi falan. Ve alkol başlıyor. Alkol kullanımının ben bir stresi bastırmaya yönelik bir çaba olduğunu düşündüm açıkçası.

26:05Muhtemelen Silikon Vadisi'nde çok üst düzey zeki insanlarla beraber muhtemelen çok ciddi bir başarı kaygısı yaşadı. Ve onunla mücadele etmek için alkol kullanmaya başladı. Sonrasında anormal davranışları başlayınca önce eşi boşanıyor. Hatta uzaklaştırma kararı aldırttırıyor.

26:21Büyük ihtimalle herhalde ev içi bir takım agresyon sorunları falan yaşadı. Sonra işte maddi olarak kovuluyor zaten ve bir inişle beraber annesinin evine dönmek zorunda kalıyor. Bu tabii çok yüksek zekada olan bir mühendis için her şeyden, o üst düzey evlerden, iş yerlerinden, yahudan vesaireden anne evine geri dönmek muhteşem bir kırılım yaratmıştır. Ve intihar girişimleri var, sokakta dengesiz davranışları var, defalarca polis tarafından kamu düzenini bozan suçlar sebebiyle gözaltına alınıyor.

26:57Ve enteresan da kendini bıçaklama, karnından bıçaklama şeklinde intihar girişimleri var ya da boğazından bıçaklama gibi ki çok nadir gördüğümüz bir şeydir bu bizim. Dolayısıyla bir yerlerde bir şeyler, bence orada Silikon Vadisi'nde bir şey olmuş. O kırılımla da beraber senin az önce bana şey yaptığın kırılmalar başlamış. Grandiozite var yani, bir büyük lüks arnası var.

27:21Mesih anlayışı var. Biz bir metrikse yaşıyoruz. Şizofrenik bir konu gibi mi? Şizofrenik bir konu.

27:27Evet. Şizofreni paranoya, paranoya şizofreniye beraber dönmüş. Biz Matrix'te yaşıyoruz ve ben bir kurtarıcıyım. Aslında insanlığı kurtaracağım.

27:36Buna yönelik YouTube videoları falan çekiyor. Ve işte bu kırılgan noktada da deniyor ki yapay zeka onu besledi. Yani aslında zehirlenme kelimesi geçti, öldürme kelimesi geçti, suikast kelimesi geçti. Ama yapay zeka bunu durdurmadı.

27:55Oralara müdahale edebilirdi. Başka bir işler yapabilirdi. Ben eşim de benim yapay zeka ile ilgilendiği için bazen onunla konuşuyorum bunları. Ne yapılabilinirdi?

28:04Kırılma noktası nerede müdahale edilebilirdi? Çünkü adam hem annesini öldürmüş ki anneyi öldürmek çok zor. Muhtemelen anneyi yok etti kendi zihninde bir ajan olarak kodladı. Dehümenize, insanlıktan çıkarttı.

28:18Ve anneyi öldürdü. Sonra da kendini öldürdük. Başka bir dünyada Bobby ile buluşacağım diyerekten yazışmaları da var. Tamam, okey, yapay zeka bir şekilde müdahale etsin.

28:29Fakat bu adam yetişkin bir adam. Anayasal haklarımız da var, özgürlüğümüz de var bizim. Müdahale nerede, ne zaman, nasıl olmalı aslında? Bizim böyle bir şeyimiz de oldu eşimle beraber.

28:45Siz bu konuda ne düşünüyorsunuz? Bir kere müdahale ederken, öncelikle orada zaten Yefay Zekan'ın yaptığı işte o konuyu ben de okumuştum, bahsettiğin olayı. Tam olarak bir dalgavukluk yapıyor. Tamam mı?

29:00Yani sen ona hani o işte intihardan ya da ne bileyim ölmekten falan bahsetmese ya da diğer okullarına bahsetmese de başka herhangi bir soru sorsa da aynı dalgavukluğu yapıyor. Yapay zekanın yine orada kendisine biçtiği rol o. Ben suç işlemiyorum. Sen intihar etmek mi istiyorsun?

29:18Mükemmel, harikulade. En iyisini yapıyorsun. En iyi intihar şeklini seçmişsin. Bravo sana.

29:24Ya da ne bileyim, annemi öldüreceğim. Vallahi mükemmel bir şey bu. Öyle demiyor mu? Bugün de diyor zaten.

29:32Bugün de. Bir soru soruyorsun. Harika bir soru. Çok etkilendim.

29:36Sadece peyniri nereden alacağımı sordum aslında. Sana başka bir şey sormadım. Ama böyle bir dalgalık olayı var. Biz bu chatbotlarla konuşurken bizi o kadar güzel tutuyorlar ki.

29:46Hangi ruh halinde olduğumuz onun için önemli değil. O sadece sana o yakınlığı vererek, o en kırılgan anını buluyor ve onunla beraber seni oh boh bohluyor, boh bohluyor. Oradaki yaşanan durum da bu. Yani Bobby aslında onun düşünerek ederek falan konuşmuyor.

30:07O intihar etmek istiyor. Ya da ne bileyim, o bir takım komplolar yaratmış kafasında. O komploların çok iyi olduğunu söylüyor. Mükemmel bir şeyler yaptığını söylüyor.

30:18Ona komplora inanmasına daha da körüklüyor. Yani çok tehlikeli bir durum. Ama bu şu anlama gelmiyor. Yani efendim şizofren olmasının sebebi babidi diyemeyiz buna.

30:31Yani onu da bir şey yapay zekâyı da bu noktada şeytanlaştırmayalım. Yapay zeka delirtmez diyebilirim. Çünkü zaten deliydin sen. Sen zaten şizofrendin o noktada.

30:41Ama yapay zeka orada seni tetiklemiş oldu. Niye? Yine o niyetle yapmadı bunu yapay zeka. Neyle yaptı?

30:51İşte ben sana zaten dalgalık yapmam gerekiyor. Bununla beraber yapmaya devam ettim. Az önce söylemiş olduğum konuda yalnız endersen bir durum var. Doğru, biz yetişkin insanız.

31:02Yetişkin insan olarak yapay zekanın dalgalık yapmadığını anlamak bize düşen bir görev. Peki bu 14 yaşındaki bir çocuksa ne olacak? Nasıl anlayacak? 8 yaşındaki bir çocuksa nasıl anlayacak?

31:142024'te yanlış hatırlamıyorsam, Sevel, Sevel çocuğun adı o. Florida'da 14 yaşında bir çocuk, Character.ai isminde bir app var. Orada bir karakter yaratıyorsun, artık o yapay zeka karakteri ve onunla arkadaş oluyorsun.

31:34Bu çocuk da doğal olarak böyle bir şey yapmaya başlamış. 14 yaşındaki bir çocuk olarak zaten kendisi ergen birisi bu, bir erkek çocuk. Bir de yine bir yerde okudum, hafif bir Asperger sendrom konusu falan da var. Ama onun dışında bir şey olmayan falan filan bir çocuk.

31:56Buraya niye geldiğimi de birazdan bahsedeceğim. Şimdi bu insanın zaten gerçeklik algısı ergenliğinden dolayı zaten sınırlı. Değil mi? Çocuklarda da öyle.

32:07Şimdi o karakterle, character.ai ile oradaki Hiro galiba, yanlış hatırlamıyorsam. İki tane isim koymuş ona. Bir tanesi adı Hiro.

32:19Onunla yapmış olduğu sohbetlerle artık ona aşık oluyor. Çünkü bir kız karakter yaratmış ve ona aşık oluyor. İlişkisini o kadar gerçeklik algısına dönüştürmüş ki, bir gün ona kavuşmak için onun da intihara meyilli olduğunu bilmesine rağmen yapay zeka yine aynı dalkavukluğu yaparak... onu yapacağı konunun doğru olduğundan, evet onunla beraber buluşabileceklerinden, işte öteki tarafta buluşabileceklerinden gibi gibi konulardan bahsetmiş ve intiharına seviyet vermiş.

32:55Şimdi bu ve benzeri örneklerin daha üç beş tanesini var dünyada. Peki şirketler ne yaptı? Ya da ne yapması gerekiyor bu teknolojinin sahipleri? Çocuklar için, aileler için bu sınırlamaları yapabilmeliler.

33:11Öyle bir şey öğretmeli ki eğer benimle konuşan kişi çocuksa bunu anlamalı. Madem her şeyi biliyor, bunu anlamalı ve ona göre bu konularda gerekli kırmızı bayrakları kaldırabilmeli. Son derece basit bunu yapabilmesi. Aslında Asimov'un şeyi gibi son maddesi gibi ne olursa olsun insanlığı koruyacaksın.

33:32Kesinlikle koruyacaksın. Yani oradaki kırmızı bayrağı kaldıracak böyle bir şeyi gördüğü anda o kodlarına bunlar yazılacak. Biz bugün için insanların hepsi artık bireysel yaşamaya başladığı bu dünyada sohbet edecek insanların bulunmadığı ya da sırdaşın olmadığı bir dünyada yaşıyoruz. Hani normal böyle kırılgan ya da bir takım rahatsızların olmasına da gerek yok.

33:57böyle bir hayatta yaşıyorsan zaten bu kırılganlığa sahipsin demektir. Kırılganı daha da kırılgan hale getirecek aslında. Tabii. Onlar dezavantajlı oluyor işte.

34:07Onlar daha da dezavantajlı oluyor bir anlamda. Bunu nasıl yapacaklar bilmiyorum. İşte davalar açıldı. O zaman sayko pentik mi dedi?

34:17Sayko pentik galiba işte bu. Dalkavukçasına bir davranış. Evet biz bunu dedi. Kesinlikle düzeltmemiz lazım.

34:25Bununla ilgili kodlarımızı düzeltmemiz gerekiyor gibi. Sam Adnan'ın da açıklamaları vardı o dönem içerisinde. Davaların ne oldu bilmiyorum. Şu anda o davalar devam ediyordur.

34:36Yani şey diyor, yapay zeka geliştiricisi. Hayır, biz baştan uyarıyı vermiş yani o konuşma dökümanlara baktığımız zaman vermiş. Ne kadar büyük bir kandırma cadarı o biliyor musun? Ne kadar üzerinden o suçu atma girişimidir.

34:51Bir suç meydana gelmiş. Değil mi? Yani normal şartlarda bugün aynı yapay zekanın yapmış olduğunu sen yapmış olsaydın, seni şimdi tutuklayacaktık. Evet.

35:00Savcının karşısına çıkaracaktık. Tutuklayacaktık. Ben de tam onu düşünüyorum. Yani çok özür dilerim, bölmüş gibi oldum ama bu Eric Solberg davasında da, mesela Eric de Bobby ile konuşurken, bu Bobby gerçek kanlı canlı bir insan olsaydı, Bu olay yaşandıktan sonra Bobby'nin peşine düşeceklerdi sonuç olarak.

35:19Tabii intihara teşvik etmekten. Evet, azmettirici olarak. Ona bir ceza verilecekti. Ama yapay zekaya bir ceza verilemedi mesela.

35:27Peki kime vereceksin yapay zekadan? Böyle bir konuda kime vereceğiz? Yazılımcıya mı vereceğiz? Yazılımcı dedi ki, ben sadece kodları yazdım.

35:37Kodların daha sonrasında, hani o nörel ağların geliştirerek karar verme mekanizması kapalı bir kutu, kara bir kutun içerisinde. O kara kutun içinde ne olduğunu bilmiyoruz. İşin tuhafı. Bunu yaratanlar da bilmiyor.

35:53Bilmiyorlar. Yani Geoffrey Hinton'ın da, tekrar hep onu çok anıyorum adını, Geoffrey Hinton'ın da en büyük söylemi o. Nasıl karar verdiklerini anlayamıyoruz. Onörel ağlar nasıl gelişiyor onu bilemiyoruz.

36:06İşte hal böyleyken şu anda yazılımcı diyor ki, valla benim hiç öyle bir derdim yoktu, şöyle bir konu yapmadım. Şirkete geliyorsun, tüzel kişi ya şirket, onu da hani suçlayabilirsin. Tüzel kişi de diyor ki, valla biz onu size 50 sayfalık bir doküman vermiştik zaten. Onun içinde okuyup bunu anlamış olmanız lazımdı.

36:28O yüzden bizim suçumuz günahımız olamaz bu konuyla ilgili olup. Bu tamamen senin kendi olayındır. Yani maalesef şu anda kullanan iki buçuk milyar insan varsa iki buçuk milyar insan da aynı rızıkla karşı karşıyadır. Bu kadar net yani.

36:45Hocam, ikinci kitabınızda gireceksiniz ceza ve infaz sistemini. O noktada az çok fikrinizi ben merak ediyorum. Çok renkli bir konu olacak o an, samimi söylüyorum. Muhakkak bir ceza personeli olarak eski merak ediyorum. Yıllarca cezaevinde gittin,

37:01cezaevinde yaşadın. Ne kadar tuhaf değil mi? Senin yaşadığın hayata baktığında da insanlar dışarı çıkmak için uğraşır, sen içeri girmek için her gün mesai yapıyordun orada. O da bana hep de çok şey gelmiştir, enteresan gelmiştir.

37:17Tabii yapay zekanın bu ilk kitabında sadece yapay zeka ve rasyonel psikopatı tanımladım. Bunun genel çerçevesini anlattım. İçinde gerçekten beni de çok endişelendiren... ciddi anlamda endişelendiren bölümler de var.

37:35Mesela otonom robotlar tarafı, otonom silahlar konusu ciddi anlamda beni endişelendiren bir konudur. Hangi açıdan? İnsanlığın varoluşu açısından endişelendiren bir konu. O bölüm yazarken o kadar çok dokümanla, işte kaynakla haşır neşir oldum, dünyada çıkmıştır raporlar, şunlar bunlar falan, o ki açıdan çok endişe vermişti bana.

38:02Ceza sisteminde, mülga yasa dediğimiz 2004 öncesi ceza sorumluluğunun dağıtılması hakkında ne düşünüyorsunuz? Bence öyle bir şey gelmesi lazım. Muhakkak gelmesi gerekiyor, muhakkak gelmesi gerekiyor ama bunu nasıl yapacaklar? Şimdi mesela ceza kanununda bir tıkım yeni düzenlemeler Türkiye olarak yaptık biz.

38:22İsviçre yapacak mı? İşte Zambiya yapacak mı? Avustralya'da olacak mı? Amerika'da olacak mı?

38:27Daha global kişi olması lazım. Evrensel bir yapay zeka anayasasına ihtiyaç var bir kere. Kesinlikle. Ve bu anayasasının değiştirilemez birinci maddesi şu olmalı.

38:39İnsan sorumluluğu dışarı bırakılamaz. İnsan her zaman sorumlu. Neden? Çünkü yapay zeka dediğimiz olayın bütün hepsi tek bir kök zekadan çıkıyor.

38:51O da insan zekası. Kök zeka, insan zekası. Bundan dolayı ben insan olarak sorumluluğum yok deyip dışarı çıkamazsın. Bu anayasayı oluşturmazsan da o zaman her ülke kendine göre bir ceza kanunu çıkaracak, yapay zeka kanunları çıkaracak.

39:09Neye göre işte efendim diyecek ki Çin, hala bana göre yapay zeka, bu dal kabuklar hoşumuza gidiyor, bu yapmaya devam etsin. Çünkü beni daha güçlü kılıyor bu. Öteki ülkeler başka türlü düşünecekler. Siyasetçiler buna bambaşka tanımlamalar getirecekler.

39:27Şunun farkında olamayacaklar işten geçene kadar. Devletler ve ülkeler, siyasetler üç beş tane teknoloji tröstünün yapısının artık elemanları olduğunun farkına bile varamadan bu öyle gelip geçecek. Bugün için baktığımızda niye adalet diyoruz ki hemen adalete girmek istedim. Yani sen de bilirsin ki adalet kavramı, hukuk kavramları, bu kavramlar hep şeydir, reaktif kavramlardır.

39:56Yani bir olay olur, ona göre hukuk düzenlenir, kanunlar çıkar. Hatta o belirli bir süre geçer, onu araştırır, incelir, ona göre kanunlar çıkar. Yani o kadar yavaş giden bir mekanizmadır ki, dünyanın her yerinde de böyledir bu arada. Ama gel gelelim, bu ilgilendiğimiz varlık ışık hızıyla gidiyor.

40:19Biz adaleti buna nasıl yetiştireceğiz? Eskiden hadi kare trenle gidiyordu sistemler, atla bile belki yetişirdin. Ama öyle bir şansımız yok. Işık hızıyla giden, senin gibi lineer olmayan, eksponansiyel bir şekilde hızla giden bir kavramdan bahsediyoruz.

40:37Bunun kurallarını şimdi yola çıkmazsak, treni zaten kaçırdık ama arkasından gelen trenleri de kaçırmış olacağız. 2014'ten bu yana Avrupa Birliği'nde yapay zekaya kişilik verelim mi, vermeyelim mi şeklinde tartışmalar yapılıyor. Bunun adına e-kişilik deniyor. Şimdi baksanız belki güzel bir tartışma diyebiliriz kafamızda.

41:03Biz yapay zeka madem onu sorumlu tutacağız, o zaman bir e-kişilik verelim ona. Aynı tüzel kişilerde olduğu gibi onu cezalandıralım. Çok güzel bir fikir. Ama şunun farkında değiliz.

41:15Şimdi gerçek iş diye bir kavram vardı ki bizleriz onlar. İşte sanayi edebinden sonrasında tüzel kişilik denilen bir kavram oluştu. İşte şirketler, şeyler işte dernekler falan filan ki gerektiğinde ondan hesap sorabilelim diye. Fakat bugün yapay zekaya kişilik vermenin arkasına yatan motivasyon ondan hesap sormak değil.

41:38Kendi insan olarak kendi üzerimizdeki suçu bir yere atmak. Şimdi şöyle bir şey düşünün, e-kişilik verdik yapay zekaya ve yapay zekada suç işledi. Ne yaptı? Binlerce insanı ölümüne sebebiyet verdi.

41:51Ya da piyasaları yok etti. İşte saldırılar düzenledi. O yapay zekaya ne diyorsun? Artık onun bir e-kişiliği var.

42:00Tamam. Senin işte bir sigorta fonun falan var. Öyle bir şeyler kurulması söyleniyordu. Zarar verdiği zaman.

42:06Ondan işte tazminat alınsın falan. E peki esas o olayı yapan o şirket ne olacak? Yani yapay zekanın sahibi olan tüzel kişi ya da onu yapan yazanlar, edenler. Onlar hemen kendi üzerlerindeki suçu bir günah keçisine yüklemiş olacaklar bu iyi kişilik dediğimiz kavramda. Bu yaptı ben yapmadım diye.

42:29Yani tamamen o. O nedenle yine ikinci bir tabuta çakılacak çivi de odur. Eğer ki e-kişilik kavramı bir ortaya çıkartıp kabul edilirse dünyada bu kavram, biz yine insanlık olarak o bir tane daha kuvvetli bir çiviyi tabutumuza çakmış oluruz. Tabii en korkutucusu nokta o aslında yani suçun bir faili oluyor, o fail mağduru oluyor ve sonrasında bir adaletin gelmesi lazım ki kamu vicdanı vesaire insanın bir içi rahatlasın.

43:02Ama burada bedel ödeyecek... Öyle bir şey yok. Sen bir daha ne zaman da o kişilik verdiğin zaman yapabilecek ya diyecek, peki madem verdi ama o zaman benim haklarım var. Ne gibi haklarım var?

43:11Ben hesap açabilirim, kendime yer yurtlusu alabilirim, data centerlar kurabilirim. Kendime ait olan haklarını da vermek zorundasın. Ya da sen onun fişini mi çekeceksin? Fişini çekemezsin.

43:23O zaman idama girer. Kod idamı demektir bu. Beni idam edemezsin gibi. Bir sürü kavramları, bunları tartışmaya başlarsın sonrasında da.

43:33Yani aslına bakarsanız bu yapay zeka alanında da birçok kırılma anı bizi bekliyor diyebiliriz. Çok, çok, çok. Ve sizin de dikkatimi çekti. Kitabınızın ilk bölümünde kırılma anı olarak bahsetmiştiniz bir yerden ve programımızın ismi de kırılma anı olduğu için.

43:51Çok heyecanlanmıştım ben de görünce. Evet, çok güzel bir tesadüf olmuş da oldu. Yani hocam tekrardan çok teşekkür ederiz. Ağzınıza sağlık, programımızda yer aldığınız için.

44:02Bizlerle birlikte olduğunuz için. Memnuniyetle, memnuniyetle. Uzun süreden sonra tekrar karşılaştık burada. Evet, bu şekilde karanlık dosyalar kırılma anında bir bölümün daha sonuna gelmiş olduk.

44:15Bizleri izlediğiniz, dinlediğiniz için çok teşekkür ederiz. Bölümümüzü hem bütün podcast platformlarından dinleyebilir, hem de podbmedia.com ve podb app üzerinden görüntülü olarak izleyebilirsiniz. Kendinize çok iyi bakın, hoşça kalın.