Üç Milyar İnsanı Kurtaracağınızı Bilseydiniz Ölür Müydünüz?

1:22Evet, sorumuz şuydu. 3 milyar insanın hayatını kurtarmak için masum bir insanı öldürmek doğru mu? Çoğumuz için bahsettiğim gibi kolay bir soru olabilir. Aslında Sarah Connor için de öyleydi. Sarah'nın amacı yalnızca oğlu John'u korumak değil, aynı zamanda gelecekteki kıyamet gününü engellemeye çalışmaktı. O yüzden silahlarını kuşanıp Skynet'i üretecek araştırmayı yapan Miles Dyson'ın evine doğru yola çıkmıştı.

1:52Bu sıkça tartışılan alternatif evren sorusunun bir versiyonu aslında. Mesela Hitler'i öldürmek nasıl olurdu? Biliyorsunuz tartışılır sürekli. Tek bir masum canı feda ederek birçok hayatı kurtarma fikri. İlk bakışta çekici gelir. Aynı şey olmadığını biliyorum ama basitleştirmek için başka bir örnek verelim. Misal doktorunuz.

2:16organ nakli bekleyen 4 hastayı kurtarmak için sizi öldürüp organlarınızı almaya karar verse? Peki ya bu sayı 4 değil de 10, 100 veya 1000 olsa? Aslına bakarsanız belki de sayılar önemli değildir. Belki de Sarah Connor ve doktorumuzun dayandığı ilkenin kendisinde bir sorun vardır. Ya da bazı filozofların öne sürdüğü gibi soyut ilkelere dayanmaları baştan hatalı bir ahlaki düşünme biçimidir. Sarah Connor'ın da doktorumuzun da karşı karşıya kaldığı bu seçimler aslında zor ahlaki kararları nasıl verdiğimizle alakalı.

2:52Ama şunu biliyoruz, filozoflar genellikle bir otoritenin emirlerine dayalı ahlaki seçimleri reddeder. Kral, yasalar, incil, papa, ebeveyn ya da gelenekler fark etmez. Neredeyse tüm modern filozoflar bunu kabul etmezler. O halde Sarah kararını neye dayandırabilir?

3:14Bu soruya cevaplamak için en yaygın kabul gören iki felsefi bakış açısını inceleyelim. Faydacılık ve Deontolojik Etik Faydacılık, bir eylemin iyi ya da kötü olduğunu onun sonuçlarına bakarak değerlendirir. Özellikle de ne kadar haz ya da acı ürettiğine. Modern faydacılığın babası Jeremy Bentham'a göre, çoğumuz duygularımızla hareket eder ve bize en çok mutluluk getirecek şeyi yaparız.

3:44Bu yüzden toplum ve hükümetler en çok sayıda insana en fazla mutluluğu sağlama ilkesine göre yasalar yaparsa daha mutlu bir toplum olur. Hatta Bentham, mutluluğu ve acıyı ölçmek için hedonistik hesaplama adını verdiği bir formül seti bile geliştirdi. Bu yöntem hem insanların hem de hükümetlerin mutluluğu artırıp acıyı azaltmak için mantıklı kararlar almasını sağlayacaktı. Sarah Connor da milyarlarca hayatı kurtarmak için bir masum bilim insanını yani Miles Dyson'u öldürmeye karar verdiğinde aslında bir faydacı gibi davranıyordu. Yani sonuçları düşünüyordu. Bantam'ın felsefesine göre Sarah'nın bunu neden yaptığı önemli değildi. Belki de ünlü olmak istediği için hayat kurtarmak istiyordu. Ya da bilim insanlarından nefret ettiği için Miles Dyson'u öldürmek istedi. Burada önemli olan eylemlerinin sonuçlarıydı.

4:40ve faydacılığa göre Sarah'nın yaptığı şey iyi kabul edilebilirdi. Bu noktada Bentham'ın fikirlerini biraz daha ileriye taşıyan John Stuart Mill'e de bir göz atalım. 1863'te yayınlanan Faydacılık Kitabı'nda mutluluğun Bentham'ın sandığı kadar basit ölçülemeyeceğini söyler. Bu matematiksel kesinlikle hesaplanamayacak kadar belirsiz ve karmaşık bir şeydir.

5:08Ona göre, mutluluk farklı türlere sahiptir ve her türün değeri ayrıdır. Hatta şu cümlesini belki duymuşsunuzdur. Tatmin olmuş bir aptal olmaktansa, tatmin olmamış bir Sokrates olmak daha iyidir. İlginç bir bakış açısı değil mi? Ama tüm bu değişiklik ve geliştirmelere rağmen Mill de Bentham gibi bir eylemin doğru ya da yanlış olmasını sadece sonuçlarına bağlıyordu. Yani yine de sonuç odaklı düşünüyordu.

5:39İşte burada işler karışıyor. Ne Bentham ne de Mill, Sarah Connor'ın faydacı hesaplamasıyla ilgili problemimizi çözmüyor. Neden mi? Çünkü içimizdeki ahlaki sezgi, daha büyük bir iyilik için masum canları feda etme fikrine karşı çıkıyor.

5:56Düşünün, belki 3 milyar insanı kurtarmak için Miles Dyson'ı vurmayı onaylayabiliriz. Ama çoğumuz AIDS veya kanser için bir tedavi bulunacak olsa bile, tıbbi deneylerde insanları feda etmeyi onaylamayız. Ya da onaylar mıyız? Neyse. İşte bu problem bizi birçok filozofun benimsediği diğer ahlak sistemine getiriyor. Immanuel Kant'ın deontolojisi.

6:24Kant için Bentham'ın aksine motivasyonlarımız çok önemli. Örneğin sadece ahlaki kurallara uyma görevinden doğan bir eylem etik açıdan doğrudur. Yani Kant'ın Sarah Connor'ın kararı hakkındaki yargısı onun motivasyonlarına da bakmaya gerektiriyor. Zira Kant diyor ki bir şeyi sadece yapmalıyım çünkü doğru olan bu diye düşünerek yaparsak işte o zaman gerçekten ahlaki davranmış oluruz.

6:52Yani bir iyilik yapıyorsanız, bunun karşılığında bir şey beklediğiniz için değil, sadece iyi olduğu için yapmalısınız. Peki o zaman yeni bir soru atalım ortaya. Sizce hangi eylemler böyle saf bir görev duygusundan kaynaklanır? Dilerseniz burada kısa bir ara verelim. Sonrasında bu sorunun cevaplarını birlikte arayacağız.

7:16Evet, sorumuza dönersek. İnsan hangi eylemleri hiçbir çıkar gözetmeden, sadece görev bilinciyle yapar. Kant burada iki tür durumdan bahsediyor. Koşullu ve koşulsuz durumlar. Koşullu durumlar şöyle bir şey. Eğer x'i istiyorsan y'yi yapmalısın. Mesela sınavdan geçmek istiyorsan ders çalışmalısın. Bu tür bir durum bir amaca ulaşmak içindir. Koşulsuz durumlar ise daha farklı.

7:46Y'yi yapmalısın. Der. Neden mi? Çünkü Y'yi yapmak kendi başına doğru bir şeydir. Başka bir amaca hizmet ettiği için değil. İşte Kant'a göre gerçek ahlaki davranış bu koşulsuz durumlara uymaktan gelir. Ve bazı şeyler vardır ki ne olursa olsun yanlıştır. Mesela yalan söylemek ya da sözünü tutmamak gibi. Sonuçlarının iyi olup olmaması herhangi bir anlam ifade etmez. Her türlü yanlıştır.

8:17O zaman az önce bahsettiğimiz doktora gelirsek, hani organlarımızı alıp başka hastaları kurtarmak istiyordu ya, işte tam da bu noktada Kant'ın fikirleri size cazip gelebilir. Çünkü Kant'ın sistemi sonuç odaklı düşünceleri reddediyor. Eylemin kendisine bakıyor. Yani bu eylem çok kişiyi kurtaracak şeklindeki düşünceniz bu sistemde geçerli değil. Bu fedakarlık kurbanı olmak istemeyen birini oldukça rahatlatabilir değil mi?

8:46Kant'ın üçüncü ahlaki ilkesi ise Sarah Connor için en zor olanı olurdu. Bu ilke de bize en çok insan yapan şeyin akıl yürütme kapasitemiz olduğunu öne sürüyor. Yani diğer her hayvandan farklı olarak hedeflerimizi ve çabalarımızı belirlemek için aklımızı kullanırız. Ve bunların biyolojimiz tarafından belirlenmesine izin vermeliyiz. Kant'ın bu bakış açısına göre, rasyonel insanların amaçlarına ulaşmak için yapabileceklerinin temel bir sınırı vardır.

9:17Başka insanları istediklerimizi elde etmek için bir araç olarak kullanamayız. Ve bu tam tersi için de geçerlidir. O zaman Kant'a göre, Sarah'nın Holocaust'u önleme projesini gerçekleştirmek için Miles Dyson'u öldürerek kullanması yasaktır. Burada biraz köşeye sıkışmış olabiliriz. Faydacılık, 3 milyar insanı kurtarmak için bir kişiyi feda etmeyi haklı çıkardığında çekici görünüyor.

9:43Fakat beni başkasının amaçları için feda etmeyi haklı çıkarabilecekse sorunlu bir noktaya varıyor. Kantçılık ise beni koruduğunda çekici ama sonuçları fazla umursamıyor gibi görünüyor. Sonuçta bir insanı kullanmaktan kaçınmak için 3 milyar kişinin ölmesine izin vermek doğru olmaz. Bu noktada faydacılık ve kantçılık birbirlerinin kusurlarına panzehir gibi görünse de aslında ikisi de kendi sorunlarından kaçamıyor.

10:12Şimdi o zaman Sarah Connor'ın karşılaştığı etik ikilemi, yapay zeka bağlamında yeniden düşünelim. Acaba bir yapay zeka sistemi 3 milyar insanı kurtarmak için bir kişiyi öldürme kararını nasıl verirdi? Faydacı bir yapay zeka büyük olasılıkla Sarah Connor gibi düşünürdü. Peter Singer, ünlü faydacı filozof bu konuda şöyle söylüyor.

10:35Eğer bir eylemin sonuçları daha fazla iyilik üretiyorsa o eylem ahlaki açıdan doğrudur. Bu mantıkla faydacı bir AI, 3 milyar hayatı kurtarmak için bir kişiyi feda etmeyi mantıklı bulabilir. Öte yandan kantçı ilkelere göre programlanmış bir yapay zeka çok farklı bir sonuca varabilir. Kant etiği üzerine çalışan bir felsefeci şöyle açıklıyor, Kant'a göre her insan kendi başına bir amaçtır ve asla sadece bir araç olarak kullanılamaz. Bu perspektiften bakıldığında Kant'çı bir AI, masum bir insanı öldürmeyi sonuçlar ne olursa olsun kategorik olarak reddedebilir. Peki ya bu iki yaklaşımı birleştiren bir yapay zekâ nasıl bir cevap verirdi?

11:22MIT'den Iyad Rahwan, hibrit etik AI kavramını ortaya atıyor. Rahwan'a göre en etkili etik AI sistemleri hem sonuçları hem de temel ahlaki ilkeleri göz önünde bulunduran sistemler olacak. Ancak burada başka bir sorun ortaya çıkıyor. Buna da Georgia Teknik Üniversitesi'nden Mark Riddle değiniyor. Yapay zekaya etik kurallar öğretmek, bu kuralların her durumda nasıl uygulanacağını öğretmekten çok daha kolay diyor.

11:52Yani AI sistemimiz faydacılığı veya kant etiğini anlasa bile Sarah Connor'ın durumu gibi karmaşık senaryolarda nasıl karar vereceği hala belirsiz. Belki de çözüm yapay zekayı tamamen otonom, etik karar vericiler olarak görmek yerine insanlarla iş birliği içinde çalışan sistemler olarak tasarlamakta yatıyor. Zira Harvard'dan Mayra Levinson, etik kararların genellikle derin insani değerlendirmeler gerektirdiğinden bahsediyor. Yani yapay zeka bu süreçte bize yardımcı olabilir ama tamamen yerimizi almamalı.

12:28Sonuç olarak Sarah Connor'ın ikilemi yapay zeka çağında yeni boyutlar kazanıyor. Belki de gelecekte bir AI sistemi 3 milyar hayatı kurtarmak için bir kişiyi öldürmeli miyim sorusunu soracak. Ve bu sorunun cevabı sadece faydacılık veya kantçılık gibi etik teorilerle değil aynı zamanda yapay zekanın nasıl tasarlandığı ve insanlarla nasıl etkileşime girdiğiyle de belirlenecek. Bu noktada belki de asıl sormamız gereken şey şu. Yapay zekaya etik muhakeme yeteneği kazandırırken, kendi etik anlayışımızı nasıl derinleştirebilir ve genişletebiliriz? Çünkü sonuçta yapay zekanın etiği, bizim etiğimizin bir yansıması ve belki de evrimi olacak.

13:15Ne dersiniz? Sizce yapay zeka, Sarah Connor'ın karşılaştığı türden etik ikilemleri çözmemize yardımcı olabilir mi? Yoksa bu tür ikilemler, yapay zekanın da ötesinde, insani yargı ve sezgi mi gerektirir?