Geçtiğimiz ay içinde, biri San Francisco’da diğeri Moskova’da yapay zekâ kaynaklı iki olay meydana geldi. Ülke gündeminin yoğunluğu ve hızı nedeniyle dikkatlerden kaçmış olabilir. Zaten çok da büyük yansımaları olmadı. Ama her iki olayda da bilim kurgu sinemasının bol bol işlediği ‘katil robotlar’ temasını akla getirecek ilginç durumlar vardı.
LEYLA TUNÇ YELTİN
Yapay zekânın, akıllı robotların gündelik hayat içinde kullanılması henüz başlangıç aşamasında ve deneysel nitelikte. O nedenle aksamalar, tuhaflıklar normal. Ama bu iki olayı aynı ay içinde art arda okuyunca; kötü makinelerin dünyayı ele geçirdiği bir gelecek tasviri sunan Terminatör filmlerinden tutun da, ünlü bilim kurgu yazarı Asimov’un yazdığı ‘robotların üç yasası’na kadar birçok düşünce geçti aklımdan.
Makineler dünyayı ele mi geçirecek? Yapay zekâ bir gün insandan üstün hale gelecek ve insan türünü yok etmek mi isteyecek?
Yok yok, telaşa gerek yok. Dünya hala ve sanırım bir süre daha biz insanların kontrolünde gibi görünüyor. Yani mükemmel ve inanılmaz muhteşemlikteki hayatlarımız henüz tehdit altında değil… en azından robotların tehdidi altında değil.
Önce, bana böyle bir yazı için ilham veren iki olaya kısaca değinelim
-
Sürücüsüz taksiler neden hiç sebep yokken bir araya toplandı?
Bu yılın şubat ayında General Motors firmasının bir alt şirketi olan Cruise, ürettiği otonom taksileri San Fransisco’nun belirli bölgelerinde, önce ücretsiz, haziran sonundan bu yana da ücretli olarak hizmete soktu.
Otonom taksi dediğimiz, yapay zekâ ile çalışan ve içinde sürücüsü olmayan bir taşıt. Yani bir tür robot. Hatta ilk sürüşlerde bahşiş vermek isteyen ne yapacak diye şakalar yapılmıştı. İşte bu robot taksilerin bir düzineden fazlası geçtiğimiz günlerde bir kavşakta toplanıp uzun saatler boyunca trafiği tıkamışlar. Olan biten bundan ibaret.
Tabii bu olay çeşitli yorumlara yol açtı. Makinelerin insanları kontrol altına almak için plan yaptıkları uç noktasına kadar giden eğlenceli senaryolar dahi tartışıldı. Fakat şaka bir yana, robotik bilimi ile uğraşan bilim insanları yapay zekânın öğrenme kapasitesinin çok geniş olduğunu belirtiyor. Sıradan insanlarla etkileşim içinde olacakları ortamlarda iş görecek yapay zekâ destekli robotların/makinelerin kısıtlı da olsa anlık karar verme yeterliliği ile donatılmaları gerekiyor. Bu noktada da bazı tereddütler oluşuyor tabii.
Bu olaydaki ince ayrım, taksilerdeki yapay zekânın, yapmaya hiçbir şekilde programlanmış olmadığı bir davranışta bulunması. Ve bunun çok sayıda otonom takside birden gözlemlenmesi.
Buradan geçtiğimiz ay haber olan ikinci robot/insan etkileşimine geçelim.
-
Yapay zekâ, satranç oyuncusunun parmağını neden kırdı?
Moskova’da düzenlenen bir satranç turnuvasında, yapay zekâ destekli robot ile yedi yaşındaki çocuk oyuncu arasında tuhaf ve korkutucu bir olay yaşandı.
Haberle ilgili bir video seyrettim. Videoda; robot hamlesini tamamladıktan hemen sonra çocuk karşı hamleye başlıyor. Henüz satranç tahtasının üzerinden tam anlamıyla uzaklaşmamış olan robotik kol, çocuğun işaret parmağını sıkıca kavrıyor ve ilgililer gelip de robot parmakları ayırana kadar on beş saniye boyunca bırakmıyor. Tutuşun sertliği sebebiyle çocuğun parmağı kırılıyor.
Yazılanlara göre satranç oyuncusu çocuk, eli alçıya alındıktan sonra turnuvaya devam etmiş.
Olayı takiben Garry Kasparov “Sizi uyarmaya çalıştım!” diye tweet atmış. Kasparov’u hatırlıyorsunuz değil mi! Dünya satranç şampiyonu. Hani 1997 yılında IBM tarafından üretilmiş ‘deep blue’ adlı süper robota satrançta yenilmişti.
Robot insan etkileşimlerinin giderek artacağını varsayacak olursak, haberde olduğu gibi insan davranışlarının bireysel bazdaki öngörülmezliği nedeniyle meydana gelebilecek sayısız senaryonun her birinde güvenli ortam yaratmak için çalışmalar yapılması gerekecektir.
Günümüz bilim kurgu sinemasında çoğunlukla karşımıza çıkan senaryolar ise bu gerçek endişenin ötesinde robotların, yapay zekânın insanlara saldırması ile ilgili.
Sinemanın en sevdiği konular: canavarlaşan robotlar, kötü niyetli yapay zekâ
Bu tür filmlerin arasında en dikkat çekenlerden biri 1984 yılında gösterime giren Terminator (Yok edici). Hem zaman yolculuğu hem de makinelerin insan ırkını yok etme teması içeren film, aksiyon sahneleri ve sağlam senaryosu nedeniyle çok beğenilmişti.
Filmde, Skynet adlı bir yapay zekâ dünya hâkimiyetini ele geçirmesinin önündeki engel olan insanlıkla savaşa girer. Yıllar süren savaşı kaybetmek üzere olduğunu anlayan Skynet, Terminatör serisinden bir robotu zamanda geriye yollar. Robot, insan direnişinin lideri olan kişinin annesini, henüz direniş lideri doğmadan öldürmeye programlanmıştır. İnsan şeklindeki canavar robotların tekrar tekrar insanlara yenildiği bir film serisi.
Matrix serisini de biliyorsunuz. İlki 1999 yılında çekildi. Bu filmde de insanları yakıt olarak kullanan ve isyan etmesinler diye sanal bir dünya (matrix) yaratan yapay zekâ ve programlara karşı yapılan savaş anlatılıyor. Hem aksiyon sahnelerinin koreografisindeki yenilikler hem de özellikle ilk filmin zekice yazılmış senaryosu Matrix’in de çok beğenilen filmler arasına girmesini sağladı.
Stanley Kubrick’in 1968’de çektiği kült filmi 2001 Bir Uzay Destanı’nda HAL adlı bilgisayarın birden bire çıldırarak insanları öldürmeye başladığını da hatırlıyoruz tabii.
Sadece bir kaç örnek. Ama robot/insan sorunsalını ele alan kitap ve filmlerin çoğu, robotların er ya da geç insanları yok etmek isteyeceğini ve başlayacak bir savaşta türümüzün dezavantajlı durumda olacağını varsayıyor.
İnsan robot etkileşimi konusunda ‘canavar robot’ teması çoğunlukta olmakla birlikte, yukarıdakilerden farklı noktalara değinen örnekler de var. Farklı temaya sahip bizden bir örnek vereyim.
Turhan Selçuk’un ilk kez 1957 yılında okurla tanıştırdığı ünlü Abdülcanbaz çizgi roman serisini bilirsiniz. Bu serinin Volga Volga 2101 adlı bölümünde zeki, iyi niyetli, güçlü ve çalışkan robotların eşit haklar talebiyle barışçı isyanını görürüz. Daima iyinin ve doğrunun yanında yer alan Abülcanbaz ise bu macerada bir robot (mekanik insan/üstün insan) olarak karşımıza çıkar.
Öykü, hem kurgusu hem altında yatan düşündürücü unsular ile ilgi çekicidir. Üstelik, Turhan Selçuk’un kendine has çizgileriyle ortaya çıkan harika bir görselliği de vardır.
Belki yazarlar ve senaristler; zekâsı insanı aşan bir varlığın (robot/makine/yapay zekâ… ne derseniz) er ya da geç türümüzün diğer insanlara ve hayvanlara, bitkilere ve doğaya kötü davrandığını anlayacağını ve insanı tahtından indirmek isteyeceğini düşünüyordur.
Peki, ya yazının en başında yer verdiğim gerçek haberlere ne demeli? Çoğu yazarın kurguladığı senaryoların habercisi olmasınlar? Bir yerde toplanıp kim bilir ne planlar yapan sürücüsüz taksiler, satrançta erken davranan rakibine kızıp parmağını kıran robot… neler gelecek başımıza?
İçimizi rahatlatalım (bu tip bir gelecek -gelecekse bile- çok uzak). Ya da rahatlatmayalım (robotik çalışmalar tüm korkulardan bağımsız devam ediyor ve edecek). Ama önce bu konularda çok önemli eserler vermiş olan bilim insanı ve bilim kurgu yazarı olan Asimov’a kulak verelim.
Isaac Asimov ve Robotların Üç Yasası
Boston Üniversitesi’nde Biyokimya profesörü olan Isaac Asimov, bilim kurgu edebiyatının gelişmesinde, sevilmesinde, daha geniş kitleler tarafından benimsenmesinde önemli rol oynamış ve beş yüze yakın eser vermiş bir yazar. Bu yazıda Vakıf ve İmparatorluk gibi serilerine ve geliştirdiği ünlü psiko-tarih kavramına hiç değinmeyeceğim. Çünkü onlar ayrı bir yazı, hatta yazı dizisi ister.
Asimov 1942 yılında yazdığı “Runaround” adlı kısa öyküde, robot insan etkileşiminin sorunsuz gerçekleşmesi için üç yasa ortaya koymuş. 1950 yılında yazdığı “Ben, Robot” adlı robotik öyküler kitabında da âdeta bu yasaların uygulamaları ve aksaklıkları ile birlikte incelemesini yapmış. Yasalar şöyle:
- Bir robot, bir insana zarar veremez ya da eylemsiz kalarak zarar görmesine müsaade edemez.
- Bir robot, birinci yasayla çelişmediği sürece insanların verdiği emirlere uymak zorundadır.
- Bir robot, birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumak zorundadır.
Asimov 1985 yılında bu üç yasaya bir de insanlıkla ilgili bir yasa katmaya karar vermiş; üçlemeyi bozmak istemediği için de bu yeni yasayı sıfırıncı yasa olarak adlandırmış:
- Bir robot insanlığa zarar veremez ya da eylemsiz kalarak insanlığın zarar görmesine müsaade edemez.
Bu yasa birinci yasayı şöyle değiştiriyor: “Bir robot, sıfırıncı yasayla çelişmediği sürece bir insana zarar veremez ya da eylemsiz kalarak zarar görmesine müsaade edemez.”
Yani örneğin kötü niyetli bir kişi insanlığa büyük zarar verecek bir nükleer patlama gerçekleştirmek üzere ise, bir robot kendi içinde bu insana zarar verecek yetkiyi bulabilir.
Bugün robotlar konusunda çalışan bazı bilim insanları, robotların üç yasasının, ileride, robotlar günlük yaşamın içinde tam manasıyla yer aldıkları zaman kesinlikle kullanılacağını düşünüyorlar.
Bazı bilim insanları ise, bu üç yasanın gerçek hayatta işlemeyeceğini; hatta Asimov’un öykü ve romanlarının da aslında bu yasaların nasıl işlemediği ve bu durumun yarattığı sorunların nasıl çözümlendiği ile ilgili olduğunu söylüyor.
Asimov’un robotlar ve robotların üç yasası ile ilgili öyküleri gerçekten de çoğunlukla bu yasaları ruhundan ziyade lafzı ile anlayan robotların yarattığı sorunlarla ilgili. Hatta öykülerinin başkişisi bu sorunları gidermek için çalışan bir robot psikoloğu.
Yapay Zekâ konusunda çalışan bilim insanlarının, eleştirmek için bile olsa robotların üç yasasını incelemesi, üzerine makaleler yazması; kendisi de bir bilim insanı olan Asimov’un ne kadar uzak görüşlü olduğunu gösteriyor. Netice itibariyle 1964 yılındaki bir makalesinde yer alan gelecek öngörüleri içinde; donmuş gıdalar, sürücüsüz araçlar, görüntülü arama teknolojisi ve Mars’a insansız keşif araçları gönderilmesi gibi konuları dile getiren bir yazardan bahsediyoruz. Demem o ki, Asimov’un robotlar dâhil hiçbir konudaki değerlendirmelerini hafife almamak lazım.
Asimov, gelecekte yaşanabilecek insan yapay zekâ etkileşimlerine iyimser bir gözle bakabiliyor ve kurallarla sıkı sıkı belirlenmiş bir algoritmalar düzeneği çerçevesinde, insandan zeki ve güçlü olan robotlar ile insanların bir arada yaşayabileceklerini düşünüyorsa bu ulaşılabilir bir hedef olsa gerektir.
Sonuç
Sonuç yok. Bilimden bahsediyoruz. Bilim dediğimiz bir sonuç değil süreçtir. Yapay zekâ ve robotik bilimi konusunda henüz bebek adımları ile ilerliyoruz. Gerçekleşmemiş ve belki de asla gerçekleşmeyecek bir başkaldırı ihtimalinden korkup bilimi engellemek olmaz.
Belki de mesele, robotların üç yasası gibi sadece ahlaki bir altyapı oluşturan ve gayet muğlak ifadelerle ortaya koyulmuş kuralların, robotların anlayacağı algoritmalara çevrilmesinin zorluğu değildir. Belki de bu yasalar, robotik bilimi ile uğraşanların robotları kodlarken kendilerine yol gösterici olarak kullanacağı kurallar olmalıdır.
Bilim kurgu yazarı İsmail Yamanol bilimkurgu.com sitesindeki “Isaac Asimov’un Üç Robot Yasası” adlı yazısında Asimov’un bir ifadesine yer vermiş:
“Düşüncem iki yönlü: İlk olarak robotları kendi yaratıcılarını yok edecek canavarlar olarak görmüyorum. Çünkü robotları yapan insanların, kendi güvenliklerini sağlayacak vasıtaları da yine robotların içine koyabilecek kadar bilgi ve yetenek sahibi olacaklarını düşünüyorum. İkinci olarak robotların ya da genel anlamda makinelerin, bizlerin yerine geçebilecek kadar zekâya sahip oldukları anda bunu yapmaları gerektiği fikrindeyim.”
Asimov’un özellikle ikinci cümlesine dikkatinizi çekmek istiyorum. Eğer insandan daha zeki bir tür bir gün insanlığa üstün gelecekse, evrimin tüm aşamalarında başka türlerin başına geldiği gibi, türümüzün ona yol vermekten başka çaresi olmayacaktır diyor.
Çevresi ile iletişim kurmak için yapay zekâ teknolojisi kullanan ünlü bilim insanı Stephan Hawking de ne demişti bir hatırlayalım: “Yapay zekânın eksiksiz bir şekilde gelişmesi, insan ırkının sonu anlamına gelebilir.“
Bilim anatomik olarak modern insanların 300.000 yıl önce ortaya çıktığını, davranışsal çağdaşlığa ise yaklaşık 50.000 yıl önce ulaştığını söylüyor. Bu süre içinde dünyada hâkim durumda olan pek çok türü gerilettik, ortadan kaldırdık. Bizim hâkimiyetimizin sonsuz olduğunun garantisi nedir?
Yapay zekâ insan üretimidir. Öğrenmeyi öğrenmiş bir yapay zekâ; fikir yürütmeyi, bilişsel kaynaklarını kullanarak, kodlamasında yer almayan seçenekler öngörmeyi öğrenmiş bir yapay zekâ ne olacak; neye dönüşmüş olacak? Bu konu, tabii ki bugün için bilim kurgunun sınırları içinde. Ama felsefi olarak her türlü tartışmaya da açık.
Evet, insan kendinden daha zeki ve daha güçlü bir tür üretme yolunda. Gerçek hayattan verdiğim iki küçük örnek bunu kanıtlar gibi görünüyor. Bu yeni tür ileride kendine yönelik bir bilinç ve farkındalık kazanmadan önce, ilişkileri çok da dengesiz olmayan bir şekilde yeniden tanımlamak gerekebilir. Belki de bugünden robotlarla iyi geçinmeye başlasak fena olmaz.
Çünkü, insanın kendini örnek alarak ürettiği bir yapay zekânın, suretinden oluştuğu varlık kadar kusurlu olma ihtimalini göz ardı edemeyiz.
Bugünlük bu kadar. Kitapsız kalmayın. Şimdiye kadar okumadıysanız bilim kurgu da okuyun lütfen.
Kaynaklar:
mindmatters.ai
bilimkurgukulubu.com
theguardian.com
govtech.com
wikipedia.org
https://youtu.be/l295j5IifeE