1.14 Adaletin yapay zekâyla geleceği

2:32Aslına bakarsanız yapay zekanın içindeki eğitim şekilleri de birbirinden farklı. Üç farklı eğitim şekli gibi bakabiliriz. Bunlardan bir tanesi eğiticili öğrenme. Eğiticili öğrenmede doğru yanıtları biliriz ve söyleriz. Diğeri öz düzenlemeli. Öz düzenlemeli de doğru yanıtlar hakkında hiçbir fikrimiz yok. Sadece ağın kendiliğinden bir takım çıkarım zanlarında bulunmasını, bir takım istatistiksel özellikler çıkarmasını bekliyoruz.

3:00Bir başka öğrenme, pekiştirmeli öğrenme, psikolojiden alınmış kavramlar bulunar. Orada da ödül ve cezaya dayalı olarak yani an sonucunda elde edilen sonuca bakılıp bununla ilgili bir kritik bilgi verilip öğütüm yapılır. Dolayısıyla doğru ve yanlışı aslında öğretmiyoruz. Bir tür içinde bulunduğu ortamda bir tür yine karar vermesini için mekanizmaları kurguluyoruz.

3:26Sizin çalışmalarınızdan bir tanesini okuyordum bu programdan önce. Orada humanoid robotlara yani insan görünümlü yapay zekaya renk tanıtıyorsunuz ve renklerle koşullu olarak belli hareketler yapmasını bekliyorsunuz bu yapay zekadan. Eylem sonrasında da onlara dediğiniz gibi ödül verdiğinizden bahsediyorsunuz. Oradaki ödül ne? Robotun ödülü nedir?

3:48Robotun ödülü tabii ki çikolata şeker gibi bir şey değil. Bir sayı, bir sıfır. O kadar basit. Yaptığı hareketi eğer ki doğru harekettiyse, yahut da yapmasının yolumuzu hareketliyse bir veriyoruz. Yalnız o çalışmada herhalde ileride yapan zekada daha çok da yer almaya başlayacak olan bir parça var. İnsan beyinde karar verme mekanizmalarında etkin olan altyapıları modelleyerek koyduk.

4:15Dolayısıyla şu anda günümüzde çok çok kullanılan ve herkesin böyle hayranlıkla baktığı veyahut da korkuyla baktığı, bilmiyorum hani nereden duyduğunuza bağlı, Yerlerdeki yapay zekanın büyük bir çoğunluğun insan beyninden esinlenerek iş yapmakta. Karikatür gibi esinlenmekte. Yani nöronlar için bir takım basit modeller konuluyor. Bunların arasındaki ağırlıkların değiştirmesi için çok basit işlemler yapılıyor. Ve bir kısmı bunların çok mühendislik işlemleri işte bir optimizasyon problemine dönüştürüp onun çözümü için işler yapıyoruz. Onu ağırlıkların değiştirmeye dönüştürtüyoruz.

4:53Ama o humanoid robottakinde tamamen sinir hücrelerini koyup, daha doğrusu sinir hücrelerinin modellerini koyup, bunların insan beynindeki ateşlemeleri ve ateşleme zamanlarına bakarak aralarındaki ilişkileri arttırılması azalması, ki beyinde bu iş de böyle, kortekste, bazalganglerde, thalamus'ta gibi beynin alt yapılarının arasındaki ilişkiler konularak yapılıyor. Bu sanırım herhalde yapan zekatı gelecekte olacaklar. Peki bunu kimi yapıyor? Yani bu ağları kimi eğitiyor? Artı orada kullanılacak veriler nereden alınıyor? Verileri aslında hepimiz sağlıyoruz. Eğitim işini de aslında bakarsanız meraklı olan herkes biraz kendini zorlasa şu anda var olan açık yazılımlarda... ...kod parçalarını bir tür birbirine peşi peşine bağlayarak herkes de yapabilir. Yani gidilen yer o zaten.

5:49Belki hani mevzu yapay zeka olunca onu üretenlerin çoğunlukla işte beyaz, genç, Amerikalı vs. olması artı o verilerin içerisinde ayrımcılık barındırması gibi noktaları da değinir sohbetin bir noktasında ama oraya geçmeden önce yapay zekayı biraz daha öğrenebilmek için aslında Ayşe Hanım'a soracağım. Şimdi biz yapay zeka deyince pek çok alanda faaliyet gösteren bir çatıdan da bahsediyoruz. İşte transhuman olarak adlandırılan bilincimizi dijitale aktarmak da bunun içinde. Bedenimize dışarıdan parçalar veya sıvılar alarak robotlaşma, sayborglaşma da bu çatı altında görülebilir. Biz bu programda yapay zekanın kendi içindeki gelişimini biraz Ayşe Hanım, siz tezinizde yeni bilsel modellemelerde kullanılan Kant felsefesi üzerinde çalıştınız, yapay zeka üzerinden. Biz şu an yapay zekada neredeyiz? Bizi bekleyen aşamalar neler?

6:40Şimdi yapay zekâda hangi aşamadayız? Yapay zekâ deyince korkmamız gereken bir aşamada mıyız ya da böyle bir aşama var mı? İşte otonomiyle ilişkili bu. Otonomi şemalarında böyle farklı farklı modeller var. 10'lu bir yapı çok yaygın olarak anlatılıyor. 10. aşamaya geldiğimizde tam bir otomasyon, tam bir özgürlük.

6:58kendi kendine karar alma aşamasına makinenin geçmesi bekleniyor. Şu anda orada değiliz. Bu onla otonomi aşamasını üç tanımla özetliyorlar. Ben Nick Bostrom'un tanımını çok sık kullanıyorum. Dar kapsamlı yapay zeka, şu an içinde bulunduğumuz aşama. İnsan düzeyinde yapay zeka, insanla eşdeğer olduğu düşünülen. Ve sonrasında da genel yapay zeka ya da süper zeka olarak tanımlanan ve teknolojik tekilliği getireceği için endişe edilen üçüncü aşama. Ama biz şu anda nesneyi bilen bir bilinçle karşı karşıyayız. Kendini bilmiyor ama. Yani nesneyi bilen bir bilinç, nesneyi hareket halinde de biliyor. Dolayısıyla makinelerin bir bilinci şu anda da var. Nesneyi bildikleri için bir bilinç sahibi olduklarını rahatlıkla söyleyebiliriz ama

7:41Kapalı bir dünyada gerçekleşiyor bu. Dolayısıyla insan düzeyinde değil. Yani birinci aşamada ve şu an mesela insanın yaptığını varsaydığımız içgörü kendini sorgulama gibi nitelikleri henüz yok. Yok. İşte o, farkındalıkla ilgili, kapalı dünya dediğimiz, güven güzel derenin çok sık kullandığı bir kavram. Kapalı dünya dediğimiz şey, kendisinin farkında değil. Mesela Alfa Go oydu, çok başarılı bir sonuçla yendi insan rakibini. Ama orada nerede olduğunu bilmiyor. Yani oyunu oynuyor ama nerede oynuyor bu oyunu? Kapalı dünyadan kastımız bu. Karşı tarafta rakibi ne halde? Endişeli mi? Kaygılı mı? Heyecanlı mı? Bunu bilmiyor. Var olduğunu bilmiyor makina.

8:20Peki, bu insan düzeyine geçme aşaması için herhangi bir zamansal beklenti var mı? Yoksa bilinmez bir gelecekten mi bahsediyoruz? Yok, zaman verenler var. Ray Kurzweil zaten bol bol açık ve net tarih veriyor. En popüler isimlerden bir tanesi. Ama onun dışında da tarih verenler var. Önümüzdeki 30 yıl içerisinde olacağını kabaca hesaplayarak söylüyorlar. Ama tabii bilmiyoruz yani.

8:45Hayal olan şu an diyelim, otonom, yapay zeka dediğimiz şeyin iradesinin olacağını varsayıyor muyuz? O iradenin içerisinde nasıl bir adalet olacak? Adalet olacak mı sizce? Bir irade bekleniyor tabii. Zaten ana kavram bu, otonomi. Dolayısıyla bir irade ve bir özgürlük. Ama benim gördüğüm, yapılan pek çok örnek de var. Yani bunu rahatlıkla artık söyleyebiliriz. Bence insana benzer bir şey olmayabilir. Yani başlı başına hiç karşılaşmadığımız bir zeka türü, henüz bilmediğimiz bir otonomi türü, henüz bilmediğimiz bir akıl türü. Olma ihtimali daha yüksek. Ayşe Hanım'a katılıyorum. Özellikle bu vermiş olduğu örnekteki AlphaGo'da

9:26Makine kendi kendiliğinden oynaya oynaya yeni taktikler geliştirdi. Ve o taktikleri nasıl geliştirdi? Ve o taktikler insan oyuncular için söz konusunda insanların hiç düşünmediği şekilde yeni taktikler geliştirdikleri görülmüş. Oradaki zeka gerçekten başka bir zeka.

9:47Ben bunu çok önemsiyorum. Hatta beni en çok heyecanlandıran yanı da bu, bu öteki meselesi. Aslında biz bugüne kadar özne merkezli bir dünyadan bahsediyoruz. Bir taraftan da Post Dream'in tartışmalarında merkezden öznenin artık çekileceğini, robotun, doğanın vesairenin de gireceğini söylüyoruz.

10:07Benim gördüğüm kadarıyla insan ilk defa bir ötekiyle karşılaşacak. Yani hayvanla ilişkisinde hayvan onun için pek öteki değil. Hayvanı kendine benzeterek yakınına alıyor insan. Bitki ve hayvan içinde. Mesela hayvan haklarından bahsederken evcilleştirdiği hayvanları öncelikli olarak işaret ediyor. Kimse haklarından bahsetmiyor. Yani insan daha çok kendine benzeterek alıyor her şeyi etrafına. İsim veriyor insan.

10:32İşte elmadır, armuttur, hayvandır, hangi hayvanın hakları öncelikli... Bunların hepsine insan karar veriyor. Merkezde hep insan ve insana yakınlaştıkça kıymet verdiğimiz hayvanlar ve bitkiler var. Şimdi bir ötekiyle hiç karşılaşmadı. Kendine benzeterek aldı hep varoluşun diğer ögelerini.

10:50Şimdi fotoğraf biraz farklı gibi galiba. Bu öteki isim de verebilir insana. Yani isim verme faaliyeti insanın elinden alınabilir. Yani biz şimdi makina diyoruz ya da işte Android, Humane Aid falan diyoruz. Bir müddet sonra o tam atonomi gerçekleştiğinde insana bir tür ismi verebilir bu makina. İnsana Flash diyebilir, kendisine Fresh diyebilir mesela. İnsana hiç kimse isim vermedi şimdiye kadar. Bu açıdan ilginç, çok ilginç bir süreç.

11:18Peki bu süreçte Barış Bey'e soracağım. Bu aşamaların hangisinde yapay zeka hukukun gözünde bir birey olma niteliği kazanacak? İrade sahibi bir yapay zeka geldiğinde onu özne olarak kodlayacak mıyız? Evet, biz hukukta böyle bir varsayımdan yola çıkıyoruz her zaman. Şu anda sadece insanlar hukukun öznesi. Özne olma özelliklerini her zaman bu iradeye veya irade varsayımına veya irade potansiyeline dayandırmaya çalışıyoruz. Çünkü hukuk çok eski çağlardan beri hep bu varsayımla yoğrulmuş, bu faraziyeyle yoğrulmuş.

11:55Tabi bazı sorulara kolaya kaçarak cevap vermiş. Özgür iradesi olmayan, diyelim ki psikolojik sorunlar yüzünden veya gelişim bozuklukları yüzünden özgür iradesi olmadığı kabul edilen hukuk tarafından bireylerin bu iradelerini ikame edecek başka mekanizmalar geliştirmiş ama eninde sonunda özneliği ya gerçek bir iradeye ya da bu ikame edilmiş iradeye dayandırmaya çalışmış. Tabii şöyle bir durumla karşı karşıyayız. Yapay zekanın özgür iradesi olduğunu kabul ettiğimiz anda aslında bir yandan da kendimizin özgür iradesi olmadığını kabul etmiş oluyoruz. Yapay zeka çalışmaları nörobilimsel çalışmalarla birlikte okunduğunda genellikle insanların özgür irade yanılsamasının işte bir yanılsamadan, bir ilüzyondan ibaret olduğunu da bize söylüyor. Diğer yandan ise

12:48yapay zekanın giderek bu özgür irade yanılsamasını mükemmel bir simülasyona dönüştürerek aynı şekilde uygulayabilme imkanını tanıyor. İşte bu 30 yıl içinde belki gerçekten böyle bir şeyden söz edeceğiz. Günümüz için tabii ki yapay zekanın bir özne olması söz konusu değil. Hukuk da her zaman sosyal ve teknolojik gelişmeleri geriden takip edip, ondan sonra yorumlayıp, ondan sonra buna bir takım cevaplar geliştiren bir yapı. Yani

13:17Kısa cevap bekleyip göreceğiz. Ama uzun cevap şu, aslında yapay zekanın gelişimi, Ayşe Hanım'ın söylediği gibi bize bir öteki yaratmanın yanı sıra buna paralel olarak bizim hukuktaki sorumluluk eşittir. Özgür irade varsayımı, denklemimizi büyük ölçüde yeniden gözden geçirmemizi ve belki hukukun temellerini değiştirecek adımlar atmamızı gerektirecek. Şu an robotlar yapay zeka hukukta ne statüsünde? Şu anda yapay zekanın kendisi sadece bir yazılım statüsünde. Yazılımın ne olduğunu hukukçular da tam olarak bir yere oturtamıyor ama fikri mülkiyet çerçevesinde bunu genellikle görüyoruz. Fikri mülkiyet, marka patent hukuku şu anda daha fazla yapay zekayla ilgileniyor.

14:05Ama başka bir takım hukuk alanlarına da yavaş yavaş yapay zekanın girmekte olduğunu ve bizi ilgilendirecek sonuçlar ortaya çıkartmakta olduğunu görüyoruz. Bunlar üç kategoride değerlendirilecek olabilir. Birincisi, yapay zekanın sebep olduğu zararlar, bunlardaki sorumluluk nasıl verilenecek, kime yüklenecek? İkincisi, yapay zekaya verilen zararlar nasıl bir sorumluluk doğuracak?

14:32Üçüncüsü de ceza muhakemesi veya polisye süreçlerinde yani önleme ve cezalandırma süreçlerinde yapay zekanın rolü ne olacak ve buradaki yapay zekaya ilişkin ne gibi etik ve hukuki ilkelerin belirlenmesi gerekecek. Bunlar şu anda bizi hukukçu olarak en fazla ilgilendiren konular. Şimdi yapay zekanın zarar verici bir faaliyette bulunması durumunda şu andaki hukukumuz buradaki sorumluluğun belli bir kişiye veya kişilere isnat edilmesini bizden bekliyor. Bu medeni hukukta daha fazla şirketlere yönlendirilecek bir sorumluluk oluyor, ceza hukukunda ise daha fazla kişilere yönlendirilecek bir sorumluluk sorumluluk oluyor. oluyor ama hiçbir zaman şu anda yapay zeka bir özne olarak kabul edilmediği için, bir süce olarak kabul edilmediği için o yapay zekayı nasıl cezalandırırız, ona nasıl bir yaptırım uygularız, onu nasıl terbiye ederiz, iyileştiririz gibi bir soruyla şu ana kadar karşılaşmış değiliz ama belki yarın öbür gün bunları da kendimize sormamız gerekecek.

15:30Bugün sorumluluğu yüklediğimiz zaman yapay zekayı kodlayan kişilere veya yapay zekayı uygulayan kişilere nasıl sorumluluk yüklenebileceğini düşünüyoruz, bunu tartışıyoruz. Hatta Avrupa Komisyonu'nun bu konuda almış olduğu ilke kararları tam da bu konuya değiniyor. Diyor ki hem kodlama aşamasında hem de uygulama aşamasında sorumluluk mekanizmalarının belirlenmesi ve kimin sorumlu olduğunun sağaptanabilmesi için kodlamada şeffaflık ilkelerinin geçerli olması gerekir. Bu çok güzel bir hukukçu bakış açısı. Fakat yapay zeka kodlayan kişilere biz bunu sorduğumuz zaman genellikle aldığımız yanıt nasıl şeffaf olabilir ki derin

16:12öğrenme veya güçlendirilmiş öğrenme metotları içinde zaten şeffaflığı sağlamaya imkan yok. Biz bu süreçlerin nasıl yürüyeceğini kendimiz bile öngöremiyoruz diyebiliyorlar. Neslihan Hanım'a soralım o zaman. Siz yazarken böyle bir hukuki süreci göz önünde bulunduruyor musunuz? Öğrencileriniz bulunduruyor mu? Yani kod yazarken bu şeffaflık ne derece işler?

16:37Mühendislikte, özellikle elektronik mühendisliğinde, her şeyin bir takım standartları var ve o standartlara göre iş yapmanız gerekiyor. Ama iş böyle kod yazmaya gelince o standartlar kurular tarafından belirlenmiş halde değil. Elektronik mühendis olarak ben hani bir, ne bileyim, radyo yaptığım zaman, radyo çalışmadığında hangi katta, hangi blokta ne olduğunu tespit edip onu düzeltebilme şansına sahibim. Ama burada öyle bir şey yok.

17:04Yani gerçekten şey de acıklı, biz yine elektronik mühendis olarak her şeyi bir matematik diline dökerek düşünüp matematikle iş yaparken, burada yine tabii ki denklemler yazıyoruz. Ama ve lakin o denklemlerin analizini yapıp da bir tür sonucun ne olacağına dair öngörüde bulunamayacak kadar karmaşık bir yerdeyiz. Ve bu karmaşa gitgide artıyor. Buna ek olarak şunu söylemem lazım. Tabii ki öngörülemeyecek noktada hukukta bir teori karşımıza çıkıyor. O da izin verilen risk teorisi. Biz şunu söylüyoruz. Toplumsal hayatta artık geçerli olan ve özellikle ekonomik düzenin devamı bakımından vazgeçilmez olan riskli faaliyetlere zarar doğru cüntelikte olsalar dahi bizim izin vermemiz gerekir. Bundan dolayı herhangi bir sorumluluğa yol açılmaması gerekir.

17:55Trafikte trafik kurallarına uyarak hareket eden kişiler dahi bir takım zararlı sonuçlara yol açacaktır. Bir yapay zeka trafiğe çıktığında, otonom bir araç olarak çıktığında bizim beklentimiz bir insan sürücüye göre daha fazla, daha riskli bir durumu yaratmıyor olmasıdır netice itibariyle. Eğer yaratmıyorsa o aradaki örüntülerin öngörülüp öngörülemediği bizi çok fazla ilgilendirmez. Öngörülemiyor olsa dahi bundan dolayı herhangi bir sorumluluğun doğmaması gerekir.

18:24Dolayısıyla burada bizim hukukçu olarak aslında yapay zeka üreten kişilere veya bunu uygulayan kişilere söyleyebileceğimiz tek şey, var olan riski özen yükümlülüğüne aykırı bir şekilde arttırıcı davranışlardan kaçınmaları olabilir şimdiki aşamada. Şu an olmayan bir aşama yapay zekayı cezalandırmaya karar verdiğimizde ona ne uygulayabiliriz? Yani yapay zekaya ceza verme, hangi aşamasını kastediyoruz değil mi yapay zekanın? Dar kapsamlı yapay zeka mı? İnsan düzeyinde yapay zeka mı? Ya da süper intelligence mi? Süper intelligence da zaten ceza verecek bir güç kalır mı elimizde bilmiyorum. Ama çok hani bütünüyle de paniklemeli miyiz? Ondan da çok emin değilim. İnsan düzeyindeki şeyin yapay zekanın çok ahlaklı olabileceğini de söyleyebiliriz.

19:13Yani mesela ahlak derken tabii neyi kastediyoruz? Donald R. Kenan'ın savaş robotları ile ilgili yapay vicdan çalışmaları var. Yapay vicdan konusunda hani dünyaca tanınan bir isim. Yapay vicdanlı robotların insanlardan, savaş robotlarının insan askerlerden çok daha ahlaklı davrandığını söylüyor.

19:31Yapay vicdan ne demek? Bir kodlamadan, yazılımdan bahsediyor tabii. Yani bir etik üzerine inşa edilmiş bir yazılımdan bahsediyor. Yapay vicdan dedikleri o. Tabii biz vicdan deyince biraz kalp, gönül falan filan, duygu dünyası falan öyle şeylere alınıyoruz. Ama en nihayetinde insanda da bu etik değerleri, bu değer dünyasını kuran şey tabii insan aklı kuruyor buna. Yoksa kalbin kendisinin kan pompalamak ve başka başka işler dışında pek bir görevi yok. Aslında vicdandan kastettiğimiz şey düşünce dünyası.

19:58Sizin geleceği biraz daha olumlu görmeniz, en azından distopik görmemenizin sebebi ne? Siz oradaki rasyonelliğin bir şekilde işleri çözeceğine mi inanıyorsunuz? Yani akıl dediğimizde rasyonel bir yapıdan, hesaplama yapabilir bir yapıdan konuşuyoruz. Ama insan düzeyinde yapay zeka aşamasında, bir sonraki aşamada ortaya çıkacak olan zekanın ya da aklın rasyonel akıl olup olmadığını da henüz bilmiyoruz. En azından şunu söyleyebiliyorum, keşke rasyonel akıl olsaydı. Bir taraftan rasyonel akıl eleştiri de getiriyorum ama bunların hepsi ideal tanımlar. Yani rasyonel akıl sahibiymişiz gibi kendimizi kabul ediyoruz. Hukuka bakıyoruz, irrasyonel kararlar var.

20:37Yani pek çok alanda aslında çok da rasyonel yürümüyor işler. Hatta öyle şeylerle karşılaşıyoruz ki keşke makineler yönetseydi, keşke şunu makine yapsaydı falan dediğimiz garip garip şeyler yaşıyoruz dünyada. Yani iklim kriziyle ilgili mesela ne kadar rasyonel parzandaşmasını imza atmamak ya da işte iklim krizi diye bir şey yoktur demek değil mi? Makinelerin aldıkları, en azından şu an almaya başladıkları kararlar üzerinden gidelim isterseniz. Sürcüsüz otomobilin verdiği kararlar var. Artı sağlıkta, hastalıkta teşhis yapabilmek, finans sektöründe risk hesaplama gibi ayakları var. Bu alanlardan, yapay zekanın şu an karar vermeye başladığı alanlardan bir tanesi de yargıçlık. Barış Bey, bugün yapay zeka yargıçları hangi alanlarda çalışıyor? Onlara hangi noktalarda söz söyleme hakkı veriyoruz?

21:26Ceza muhakemesi sisteminde yapay zekanın üstlendiği rollere baktığımızda günümüzde iki ana eksen etrafında döndüğünü görüyoruz. Bunlardan birincisi, basitleştirilmiş iş akışı şemalarının dijitize edilmiş halleri. Yani bu aslında çok karmaşık olmayan bir kodlama örneği olarak karşımıza çıkıyor ve kişilerin şikayetlerinin veya başvurularının niteliğini anlayıp uzlaşma konularını veya uzlaşamadıkları konuları ortaya çıkartan basitleştirilmiş şemalar. Bunlar bir takım soru cevaplar şeklinde bir yapay zeka arayüzü üzerinden uygulanabiliyor. Bu uygulama yapıldığı zaman aslında biz zaten hukukta kullanmakta olduğumuz iş akışı şemalarını dijitize etmiş oluyoruz. Örneğin Çin, geçtiğimiz aylarda böyle bir gösteri yaparak işte bir siber mahkeme oluşturduklarını ve yapay zeka hakimlerin artık insanların dertlerini dinlediğini iddia ederek bunun bir lansmanını yaptı fakat aslında yaptığı şey bu şekilde bir karmaşık iş akışı şemasını kodlaştırmaktan ibaret.

22:32Burada bir karar verici bir mekanizma araya girmiyor. Dolayısıyla buna bir yapay zeka dememiz söz konusu değil. İkinci, gerçekten yapay zekanın karar verme mekanizmasında yardımcı olmakta olduğu eksenlere baktığımız zaman, bunu da şu şekilde görüyoruz. Yapay zekanın geleceğe yönelik tahminlerde bulunduğunu, öngörülerde bulunduğunu ve bunlar üzerinden karar verme mekanizmalarında yardımcı olabildiğini görüyoruz. Bu gerçekten bir yapay zeka uygulaması olarak düşünülebilir.

23:02veya en azından öğrenmeye dayalı karmaşık bir algoritma olarak düşünülebilir. Bunu mesela medeni hukukta uzlaştırma veya ara buluculuk faaliyetlerinde iki tarafın uzlaşma faaliyetleri sürerken hangi noktada uzlaşabileceklerine yönelik bir öngörü olarak karşımıza çıktığını görüyoruz. Yani yapay zeka burada iki tarafın mesela bir boşanma sırasında ellerinde birçok uzlaşamadıkları nokta vardır. Bunlar da hangi noktalarda nasıl bir uzlaşmaya varabileceklerini bir öngörü olarak ortaya koyar ve bu gerçekten de gerçeğe çok yakın, isabetli tahminlerde bulunmak için kullanılabilir. Veya ceza hukukunda bazen biz yine geleceğe yönelik öngörüler üzerinden karar vermek durumunda kalabiliyoruz. Örneğin

23:46tutuklama veya tutuklamama yönünde bir karar vereceğimiz zaman kişinin tutuklanmadığımız takdirde kaçma veya elleri karartma şüphesinin olup olmadığını tahmin etmeye çalışıyoruz. Normalde bunu hakim takdiri çerçevesinde tahmin ediyor ama yapay zeka benzeri tahminlerde bulunabilir. Bu yönde bir karar alınması halinde kişinin yeniden suç işleme ihtimalinin azalıp artma olasılıklarını değerlendirerek burada verilecek kararda yardımcı olabilir ve olmaktadır. Bu noktada bir şey aklımı kurcalıyor. Atıyorum Türkiye'de uygulanmaya başladı diyelim ve şu an hakimlerin tavırlarından biliyoruz ki kadın ve erkek olduğunda diyelim ki bir boşanma veya bir şiddet süreci erkekten yana tavır alıyor hakimler ve çoğu zaman kadınlar korunmayan aday sahasından dışlanan özneler oluyorlar.

24:34Şimdi yapay zeka geldiğinde bizim onun cinsiyetçi olmayacağını bilmemizi sağlayacak şey onun verisinin cinsiyetsizleştirilmesi mi? Yoksa artık pozitif ayrımcılık vs. uygulaması mı? Hani o noktada nasıl bir garanti mekanizması işler diye merak ediyorum.

24:51Şimdi yapay zeka birçok noktada ayrımcı ve taraflı kararlar veriyor. Bu özellikle polisiye tedbirlerde daha fazla karşımıza çıkıyor ama tabii sözünü ettiğiniz gibi ceza muhakemesi uygulamalarında da karşımıza çıkabilir. Ve maalesef buradaki ayrımcılık yapay zekanın kendisinden değil bizden kaynaklanıyor. yapay zekaya öğrenme metodu çerçevesinde bir takım veriler yüklüyoruz. Bu verilerle o yapay zekayı besliyoruz ve ondan sonra buradan bir takım sonuçlar çıkartmasını bekliyoruz. Ama tabii ki bizim beslediğimiz veriler, bizim yüklediğimiz veriler aslında adalet mekanizmasına zaten içkin olan, bugüne kadar onun beraberinde gelen ayrımcı taraflı

25:34ön yargılı uygulamaları yapay zekaya beslemiş oluyor. Ve bundan çıkan sonuçlarda kendi kendini doğrulayan bir kehanet gibi sürekli o ayrımcı taraflı uygulamaların artarak devam etmesi sonucunu doğuruyor. Ve dahası insan uygulayıcı, yani yapay zekanın çıktığına göre uygulama yapan insan uygulayıcı da Yapay zeka isabetli kararlar alıyor diye bir ön yargıyla hareket ettiğinden bu ayrımcılığı artık sorgulamaz hale geliyor. Bu tabi çok tehlikeli, bunu düzeltmek için bilgisayar mühendisleri çok ciddi bir şekilde uğraşıyorlar. Bunun önüne geçilmesi de yine Avrupa Komisyonu'nun bahsettiğim talimatları çerçevesinde en temel noktalardan bir tanesi. Nasıl önüne geçilebilir?

26:19Cinsiyetsizleştirelim, etnik bilgilerden arındıralım. Her zaman yeterli dahi olmuyor. Coğrafi, bölge, etnik, bileşim, sınıf ayrımı, işte gelir dengesizliği, bütün bunlar yapay zekaya da maalesef şu anda ayrımcılık olarak yansıyan unsurlar. Neslihan Hanım, bunu önlemek için yapılabilecek şeyler var mı? Ne tür imkanlar yaratıyor yapay zeka öğretimi? Biz bu ağları eğitirken zaten bugüne kadar yaşamış olduğumuz deneyimleri onlara aktararak gidiyoruz. Rodotan Barış Bey'in dediği gibi, eğer deneyimler kötü bir şeyse ağ da kötü bir şey öğrenmiş oluyor.

26:58Ama tutup da bunun içine bir takım kurallar koymaya kalksak. Gerektiğinde, şunu öyle değil ama böyle gibilerinden. Veyahut da işte pekiştirmeli öğrenme gibi öğretilen yerde, iyi nasıl tanımladınız ve ona göre ödülü nasıl verdiğinize göre değiştirsek, acaba daha mı iyi olabilir? Ondan çok emin değilim. Çünkü o kuralları da biz koyuyorsak, biz yine kendi önyargılarımızı onun içine taşımayacak mıyız?

27:25Bir örnek var, yalan söyleyen botlarla yalan söylememek üzerine kodlanmış botlar. Yalan söylemeyen botları da bu arada can't in machine deniliyor. Can't makineleri var, ben çözdüm makineleri dediklerine yalan söyleyen makineler var. Yalan söyleyen makinelerin robot jörnalizmde, robot gazeteciliği, alışveriş yaparken ya da dijital anlaşmalarda, iş anlaşmalarında falan nelere mal olacağını ya da manipülatif haberler ya da siyasi erkin gücünü daha da kendi çıkar ölçüsünde genişletmek için bu botları nasıl kullanacağına dair raporlar var.

28:00O kant makinelerinde mesela bir TSM damgası gibi, ya da FDA damgası gibi kant meşiğinin ibaresini gördüğümüzde biz, kant meşiğinin hazırlanmış herhangi bir siteden alışveriş yaptığımızda ya da bir haber okuduğumuzda onun bir takım... İşte uluslararası anlaşmalarda ya da bir takım normlara göre yazıldığını, dolayısıyla daha güvenilir olduğunu görebileceğimizi söylüyorlar. Bence minik minik işte böyle yolda yürüyerek, bir onu deneyerek, bir bunu deneyerek falan ne yapacağımızı göreceğiz. Ama ben ısrarla söylüyorum, çok fazla hakikaten hocamın dediği gibi insanın aklını bu kadar övmek, bu kadar idealize etmek, biraz eleştirerek yürümekte fayda var yani.

28:38Bununla beraber sizin birebir görüşmelerinizde söylediğiniz bir şey de benim aklımda insan tarihsellikten de öğrenen bir özneydi diyorsunuz. Dolayısıyla robotların o tarihsellikten öğrendiği, şu an ona sahip olmadıkları için bir şey yok. En azından bir şey öğrenmişken onları o kurallardan, en azından seçebileceğimiz minimum kurallardan bir girdi yapmak gerçekten bu kadar sizin sakındığınız bir şey mi? Şimdi insanla makinen arasında bana sorsanız, şu aşamada tabii makineden kastım, Bugün gördüğümüz şeyler, bugün gördüğümüz yazılımlar, yarın ne olacağını bilmiyorum. Fark nedir insan ve makine arasında deseniz? Ben rahatlıkla insanın evrim sonucu bir tecrübeyle evrimsel, tarihsel bir varlık olduğunu, içgüdü varlığı olduğunu ve aynı zamanda insanın ölüm korkusu karşısında yaşadığını söylerim. Yani temel ansiyeti, temel kaygı olarak ölüm korkusu insanı şekillendiren çok büyük bir güç. Evrimin bütün macerasını taşıyoruz biz.

29:35Bütün macerasını. İşte epigenetiği falan da hesaba katarsanız, boş bir tabularasa olarak doğmadığımız çok belli. Boş bir levha olarak doğmuyoruz. Hatta bu söyleme Freud'u ve Jung'u da eklersek değil mi? Bilinç dışı denilen bir şey var. Dolayısıyla insan, evrim sonucu, içgüdü sahibi ve ölüm karşısında yaşayan bir varlık.

29:55Makineler öyle değil. Ölüm korkusu ve içgüdü insana iyi şeyler yaptırdığı gibi oldukça kötü şeyler de yaptırıyor. Maalesef biliyoruz. Yani insan star değil. Yani pür-upak bir star değil. Işıl ışıl parlamıyor. Çok dikkat etmek lazım. Bu kadar hani överken şimdiye kadar işe yarıyordu çünkü elmanın sese çıkmıyordu. Atmosfer de sesini çıkarmıyordu. Ama bu artık gitmez böyle yani.

30:22Ayşe Hanım'ı dur, beni dinlerken aklıma şey geldi. Yapay zekanın başlangıcında hani hedeflerden biri insan zekasını da anlamak. Ona da bir geri beslemede bulunmak. Yani bu böyle çok tek taraflı bir şey değil. İşte özellikle bu zeki olarak neyi tanımlayacağız, neyi yaparsak makine işte zeki davranıyordur gibi bir sürü tartışmanın arasında

30:46Yavaş yavaş şey fark ediyor. İlk başlangıçta zeka diye varsayarak başlanan yerin aslında zeka tanımı için çok kötü kaldı. Şimdi biz aslında yapay zeka üstüne çalışmaya başlarken ve ilerlerken zekayı daha iyi anlamaya başladık. Herhalde yapay vicdan diye bir şey yapmaya kalkıştıkça da kendi vicdanımızın ne demek olduğunu daha iyi anlayacağız büyük bir olasılıkla.

31:14Böylelikle vicdan üstünde daha fazla da tartışmaya başlıyor olacağız. Aynen zeka konusunda bir sürü tartışmanın geldiği gibi. Ve sanırım gitgide insan durumunu daha dışarıdan bakarak sorgulamaya doğru gidiyor olacağız. Bu öteki demiştim ya ben hani sohbetin başında, ötekiyle ilk defa karşılaşıyoruz. Lakan'da aynalaşma vardır. Bireyin kendisini oluştururken ötekiyle bir aynalaşma ihtiyacı ya da işte Feuerbach'ta, Hegel'de yabancılaşma meselesinden de hareketle söylenebilir. Hakikaten biz zeka yapıyoruz derken zekayı tanımak, vicdan yapıyoruz derken vicdanı tanımak,

31:57Hatta insanı tanımak. İnsan ne demektir? Sorusuna yeni yanıtlar, başka başka yanıtlar. Hatta dönüşmek. Ve belli ki bu doğal insan, yani doğal insandan kastım, organik bedenini kastediyorum. Bu organik bedenin bir sonucu olarak bir bilinç var ama makinelerde mesela organik olmayan

32:15bir yapıda bir bilinç yaratıyoruz, değil mi? İkisinin mikslenmesi, sayboluklaşma. Yani ötekileşecek ve daha sonra belki de ya da eş zamanlı. Hem ötekiyi yaratırken hem de kaynaşarak. Yani Lamaitre'nin makina insan dediği. Ama bu makina tabii bizim kavram olarak o kadar soğuk buluyoruz ki biz bu makina kavramını.

32:34Bilim kurgudan da kaynaklı anlayışımız çok da sıcak bir şey değil makine bizim için. Mesela et daha sıcak bir şey, daha doğal bir şey falan. Böyle okuyoruz. Ama tabii nano ölçekli bir şeylerden, yapay sinir ağlarından falan bahsediliyor. Dolayısıyla tanışmak, kendimizi tanımak öteki üzerine olabilir. Bu anlamıyla makineler bizim için gerçekten büyük bir olanak da sunuyor olabilir.

32:58Bu fırsatı kaçırmamak, o karşılaşma anını görmek, makine şahsanamak ve insanı övmemek tavsiyelerinizi anlamakla beraber galiba biraz daha beni kuşkuya düşüren süreçte bir aktör devlet, devletin dahli. Örneğin poliseye süreçlerde yapay zekayı kullanarak devletin ne yaptığının hayatımızı belirliyor olacağı, hatta olmaya başlayıp başlamadığını Barış Bey size sorayım. Gerçekten de yapay zekanın gelişimi hem devletler bakımından hem de devletlerle iş birliği yapan şirketler bakımından bir yandan da bilgi üzerinden güç dengesizliği yaratacak şekilde bir başka tehlike daha doğuruyor diyebiliriz. Polisiye tedbirler aşamasında yapay zekanın iki farklı kullanımı var şu anda. Birincisi

33:47bir coğrafi bölgede gelecekte suç işlenme olasılığının sıklığını tespit etmek ve dolayısıyla buraya yönelik olan polisiye tedbirleri artırmaya çalışmak. Yani coğrafi modelleme veya yakın tahmin sistemleriyle bir şehrin belli bölgelerinde hangi suçların gelecekte işitileceğini tespit edebiliyor. İkincisi, kişiler üzerinden hareketle kişilerin suç faili veya suç mağduru olabilme ihtimallerini hesaplayabiliyor. Bunu nasıl yapıyor diyecek olursak, kişinin yüz tanıma modellemeleri, şüphe çeken davranışlarda bulunup bulunmadığına yönelik kırmızı bayrak uygulamaları veya aynı kişinin diyelim ki yüz tanıma biyometrik verilerinin üzerinden kim olduğunu tespit etti, bunu sosyal medyada veya o sırada cep telefonundan kaynaklı sinyallerin değerlendirilmesiyle yakında bulunan kişilerle olan ilişkilerini de saptayarak bu kişinin ne kadar tehlikeli bir faaliyet yürütüp yürütmediğini bir kalabalığın içinden seçip alıp değerlendirme ihtimali var. Bütün bunları çok kısa bir zaman içinde hızlı

34:58değerlendirmeye tabi tutan yapay zeka modellemeleriyle karşı karşıya geleceğiz. Şimdiden bunun uygulamaları olduğu söyleniyor ama şu anda çok etkin değiller ama çok yakın bir zamanda etkinleşecek ve dolayısıyla bu bir kişi henüz suç işitilemeden işte o azınlık raporunda olduğu gibi veya saykopasta olduğu gibi kişinin üzerine doğrultulan bir sensörle bu kişinin o anda tehlikeli bir faaliyette olup olmadığını devletin anlayabilmesi anlamına gelecek. Bunun ön uygulamalarını Amerika Birleşik Devletleri'nde çeşitli yerlerde veya Çin'de görmeye başlıyoruz. Tabii çok basit uygulamalar şu anda, bu anlattığım karmaşıklıkta değil. Fakat yine iki noktada bizi tehlikeyle karşı karşıya bırakıyor. Birincisi, Bir kişinin henüz kendisi dahi farkında olmadan bir suç işleyebilme ihtimali üzerinden kendisine bir tedbir uygulanması gerçekten çok distopik bir anlayış. İkincisi, yine daha önce bahsettiğim ayrımcı, taraflı yaklaşımı yapay zekanın

35:58daha önceden var olan şekillerde ön yargılı bir biçimde bunların saptanmasına yol açabiliyor. Örneğin Amsterdam'da 2017 yılına kadar kullanılan bir yapay zeka programında Hristiyan olmayan devletlerden gelip de Amsterdam'a yerleşen kişilerin yaşadıkları bölgeler bir tehlike endikatörü olarak yapay zekaya beslenmiş. Ve dolayısıyla yapay zeka bu bölgelerde belli suçların işlenme sıklığını daha yüksek şekilde belirlemeye başlamış. Bu 3 yıl, 4 yıl boyunca bu şekilde gitmiş ve uygulanmış. Daha sonra bu algoritmanın şeffaflaştırılması sonucunda toplum baskısıyla bu endikatör listeden çıkartılmış. Amerika Birleşik Devletleri'ne baktığımızda bu şeffaflaşmayı da sağlayamadığımızı görüyoruz. Çünkü bunlar bu kez şirket

36:43ticari sır olarak korunmaya başlanıyorlar. Yani devlet bir şirketle anlaşma yapıyor, o şirkete kişilerin gelecekteki davranışlarını değerlendirme yükümlülüğü veriyor, o şirket bunu yapıyor, yapay zeka vasıtasıyla ama yapay zekanın hangi algoritmayla hareket ettiğini devlete de açıklamıyor, üçüncü kişilere de açıklamıyor. Bu çok büyük bir dengesizlik, çok büyük bir güç dengesizliği. Ve dahası gelecekte bunun yaratabileceği asıl büyük tehlike bana göre devletin ayrımcı veya baskıcı uygulamalarına karşı haklı bir direniş göstermek isteyen kitlelere karşı bu yapay zeka uygulamalarının doğrultulması ile yani o tehlikeli kavramının devletin istediği gibi sübjektif şekilde veya şirketlerin belirlediği şekilde saptanması ile artık bu güç dengesizliğinde koyduğumuzda işte bu haklı direnişin başarıya ulaşma şansını çok düşürecek bir noktaya doğru işin evrilmesi söz konusu olabilir.

37:43Aslında söylediğiniz özetle suçun tanımının eylemden eğilme de geçiyor, oluşuyor. Peki ceza bu süreçte nasıl dönüşüyor? Ceza hukukunda bu önleyici ceza hukuku bakış açısı, yani henüz suç işlenmeden biz ceza hukukunu devreye sokalım bakış açısı aslında 1990'lardan beri yavaş yavaş tartışılan, işte düşman ceza hukuku, risk ceza hukuku kavramlarıyla tartışılan bir şey. Yapay zeka sadece bunu kolaylaştırma ve bir sonraki aşamaya taşıma tehlikesi doğuruyor. Yapay zeka bu işi eline aldığında acaba onun vereceği ceza bizim ceza anlayışımızı nasıl dönüştürecek? Şimdiden söyleyeyim, yapay zeka hakiminin adalet anlayışının da şu andaki hakimlerin vicdan ve adalet anlayışıyla örtüşeceğini söylemek çok mümkün olmayabilir.

38:33Ama diğer yandan yapay zekanın üreteceği yaptırım metotları veya rehabilitasyon metotları bizim artık klasikleşmiş özgürlüğü bağlayıcı ceza, para cezası ayrımının ötesine geçerek gerçekten kişileri bireyselleştirilmiş, rehabilitasyon edici yaptırımlarla karşılaştıracak. Hatta buna ceza demek artık mümkün olmayacaktır. Yaptırımlarla karşılaşmaya bizi zorlayacak. çok önemli bir husus daha var, o da transhümanizm yine karşımıza çıkan veya insan-makine arayüzü. Çünkü insan-makine arayüzünün artık uygulanmaya başlaması ile birlikte, bu gibi bir varlığa bizim uygulayacağımız yaptırımın da artık klasikleşmiş hapis cezası veya para cezası ile bir anlamı olmama ihtimali de var. Buraya yepyeni yaptırımlar geliştirmemiz gerekecektir.

39:22Ayşe Hanım, size soracağım. Şimdiye kadar olabildiğince yapay zekanın adalette kesişim noktalarına dair böyle çıkan ana başlıkları andık. Ama eminim ki kaçırdığımız bir şeyler vardır. Sizce bunlar neler diye size sorayım. Sanal gerçeklik meselesini de çok dikkate almak gerektiğini düşünüyorum. Zaten yapay zeka çalışmalarından bağımsız bir alan değil. Yeni bir gerçekliğin, bu gerçekliğin doğal gerçeklik ya da duysal gerçeklik

39:49eş değer bir güce sahip olup olmayacağı konusunda bir takım düşüncelerim var. Yazdığım bilim kurgu romanlarda da mesela ceza meselesine bir örnek olarak artık hapis cezalarının doğal mekanda artık bir ceza verilmeyeceği, daha çok sanal hapis cezalarına dönüşeceğine dair bir kurgum vardı. Tarihte yaşanmış bir takım zorlu sahneler, Birinci Dünya Savaşı'nın en problemli, en sorunlu cephelerinde iki dakika kalmak. ölüm korkusuyla karşı karşıya kalmak mesela sanal gerçeklik ortamında tüm duyu niteliklerinin simüle edildiği bir dünyada yani koklamanın, dokunmanın, işitmenin olduğu simüle edildiği bir sanal gerçeklik ortamının da gerçeklik olduğu hatta bizim gerçeklik diye deneyimlediğimiz şeyin zihin tarafından simüle edilen bir şey olduğuna da gönderme yaparak. Dolayısıyla ben sanal gerçeklik meselesinin yapay zeka meselesiyle paralel olarak ondan bağımsız olmadan çok büyük sorulara yol açacağını, çok önemli bir konu olacağını düşünüyorum. Neslihan Hanım, aynı soruyu size de sormak isterim. Sizi heyecanlandıran gelecek adımlar neler?

40:56Gelecek adına aslında herhalde beni heyecanlandıran belki bütün bu yapay zeka çalışmaları bir tür insanı daha iyiye doğru götürebilir mi? Onu acaba görebilecek miyiz? Bir de tabii aslında yapay zeka dediğimiz hep böyle bir bilgisayar üstüne kalan bir şey mi olacak? Yoksa bambaşka şekilde mi karşımıza çıkacak? İnsan olmaya çalışan robot. Bunun tam tersi de var. Robot olmaya çalışan insanlar.

41:27Çünkü işte bir takım çipler, bir takım aletler takarak gitgide insanı daha mekanik, algımı daha öteye taşıyabilmek için işte görsel algımı, duysal algımı ileriye taşıyabilmek için bir takım çipler taksan beynine. Böylelikle gidilen yerde de ne olacak? Şimdi öylesine var olan insanları ne sınıfına koyacağız? Mesela yapılan suç durumunda çipin bozuldu mu direnilecek yoksa başka bir şey mi olacak?

41:57Ne bileyim, hepimiz telefon numaraları ezberlerdik. Şimdi hiçbirimiz ezberlemiyoruz. Her şey cep telefonu içinde. İçimize kolay geldi. Aklımızın bir kısmını başka şeylere vermeye kendimiz gönüllü olduk ve verdik. Vicdanlarımızın da bir kısmını böyle gönüllü olup verecek miyiz? Ne olacak gerçekten merak edici.

42:21O zaman cevabını veremeyeceğimiz soruları burada sorup izninizle programı burada sonlandıralım. Yapay Zeka üzerinden yakın gelecekte baş başa kalacağımız bu soruları düşünmemize kapı araladığınız için çok teşekkür ederiz. Biz teşekkür ederiz. Çok teşekkürler. Çok teşekkürler. Adalet Hattası'nın bir bölümünün daha böylece sonuna geldik. Gelecek bölümde görüşmek üzere.