Blog

1982 tarihli Blade Runner’ın açılışında Leon adındaki androide duygusal tepki vermesine sebep olacak sorular sorulur. Filme göre empati insanları yapay zekâdan ayıran az sayıdaki özellikten biridir. Annesiyle ilgili sorular sorulduğunda Leon ayağa kalkar silahını çeker ve görüşme yaptığı kişi ölene kadar ateş eder.

Bu, insan için mutlu bir son değildir ancak Hollywood yapay zekâyı resmederken nadir görülen bir senaryodur. Senaristler ve yönetmenler yıllardır ‘beyaz’ ekranda insanı makineyle karşı karşıya getiriyor, peki bu senaryolar bilimsel olarak ne kadar akla yatkın? (Dikkat: Spoiler içerir)

10. Chappie (2015)

1
Konu: Robot polis savaşçımız, bir programcının doğru yapay zekâ kodunu çözmesiyle özfarkındalık kazanır.

Doğru olan ne? Chappie dünya ve çevresi konusunda temel bir anlayışla “doğuyor” ancak deneyimle öğreniyor. Film makine öğrenimiyle ilgili en gerçekçi portrelerden olmasa da günümüzde en gelişmiş yapay zekâ algoritmalarında, robotların deneme yanılma yöntemiyle öğrenmesi konusunda doğru bir yerde duruyor. Kaliforniya Berkeley Üniversitesinde bilgisayar uzmanı ve Artificial Intelligence: A Modern Approach kitabının yazarı Stuart Russell’a göre “Bu kadar hızlı öğreniyor olması oldukça gerçekçi”.

Yanlış olan ne? Uzmanlara göre filmde oldukça fazla sorun var. Öncelikle dolandırıcı bir programcı evinde tek başına yapay zekâ için program yazıyor. Uzmanlar bu tür bir ilerlemenin gerçekdışı olduğu konusunda hemfikir; yapay zekâda böyle bir ilerlemenin çok sayıda bilimadamıyla ve uzun zamanda gerçekleşebileceğini düşünüyorlar. Başka bir konu: beyin/bilinç. İnsan beyninden –bir şekilde- çıkarılan insan bilinci bir çipe kopyalanıyor, bu da filmin ana teması. Russell “Bu kesinlikle dayanağı olmayan bir bir spekülasyon ve anlamsız” diyor. Kanada Alberta Üniversitesinde zeki sistem teorileri ve uygulamaları hakkında çalışmalar yapan bilgisayar uzmanı Randy Goebel ise “Bir gün bilincimizi bilgisayara yüklemek ve bize ölümsüzlük bahşedilmesi fütürist Ray Kurzweil tarafından popularize edilen bir fikir” diyor ve ekliyor. “Kurzweil açıkça hatalı”.

Gerçeklik notu: 1/10

9. A.I. (2001)

2
Konu: Hayatını kurtarmak için oğullarını uyku modunda bekletmeye karar veren bir aile, David isminde sevmeye programlanmış bir robot çocuğu evlat edinir.

Doğru olan ne? Film boyunca David’in programlanmasına bağlı değişmeyen bir amacı var, sevmek ve sevilmek. Asla hile yapmıyor veya amacını değiştirmiyor. Avustralya Ulusal Üniversitesinde yapay zekâya matematiksel yaklaşımlar üzerinde çalışan bilgisayar uzmanı Marcus Hutter “Bu robot çocuk sevilmek istiyor. Bir robot çocuğu bu şekilde tasarlarsanız, böyle istekleri olacaktır ve bu şekilde hareket edecektir” diyor. “Şirketin amacı yapay çocuk üretmek olduğundan, yapay zekânın bu şekilde hareket etmesi oldukça mantıklı”.

Yanlış olan ne? Chappie’de olduğu gibi tek bir takımın çok kısa sürede yapay zekâ yarattığını görüyoruz. Hutter “18 ayda çizimden bilinçli bir robot yarattıklarını görünce iki büklüm oldum” diyor, “Bilinçli modül için basabileceğiniz bir düğme bile var” Bir de David’in ve soydaşlarının dış dünyaya entegre olması sorunu var. Russell: “Yapay Zekâ’da robotların toplum tarafından çok iyi kabullenildiğini düşündüm” diyor.

Gerçeklik notu: 3/10

8. Blade Runner (1982)

3
Konu: Genetik mühendislik teknolojisinin, insanlardan ayırt edilmesi imkansız organik yaşam formlarının üretimine imkan verdiği bir gelecekte geçiyor. Ancak bu kopyalar ancak 4 yıl yaşıyor ve dünyada olma hakları yok.

Doğru olan ne? Organik yapay zekânın mekaniğe tercih edilmesiyle Blade Runner, bilincin laboratuarda yetiştirilebilmesini sorguluyor. Hutter “Duyguların olduğunu nereden bilebilirim?” diye soruyor. “Bunu gerçekten bilmeme imkan yok. Sadece bana benzer biçimde yapıldığından ve benim duygularım olduğundan bunu varsayabilirim”. “Benzer biçimde üretilmekle kopyalar bilinci tanımlamanın sularını bulanıklaştırıyorlar”.

Yanlış olan ne? Uzmanlar Ridley Scott’ın kara filmini eleştirirken ikiye bölünüyor. Hutter filmin gerçekçilik bakımından “en az derecede favorisi” olduğunu belirtirken, bazı çalışma arkadaşları filmi ortalama olarak nitelendiriyor. Kopyaların duygusallığı yerleştirilmiş hatıralardan türemiş görünüyor. Günümüzde hiçbir genetik mühendislik karmaşık hatıraları insanlara yerleştiremez.

Gerçeklik notu: 4/10

7. Ex Machina (2015)

4
Konu: Genç programcı (Caleb) bir bilgisayar dehasını (Nathan) ziyaret edip potansiyel bilinçli robot (Ava) üzerinde Turing testi uygulayabileceği bir seyahat kazanır.

Doğru olan ne? Nathan yapay zekâ problemini birdenbire çözmüyor. Ava’nın bilinçli olup olmadığından emin değil; test edilmesi gerekiyor. Hutter, Turing testin doğruluğunu yerle bir ettiğini düşünse de filmin abartılı aksiyon sahnelerinden kaçınmasını ve bilinçlilik konusundaki sofistike yaklaşımını övmekten geri kalmıyor. Bilinçlilik tüm bu filmlerdeki en çok öne çıkan konulardan biri, Hutter buna erişilebilinirse, programlanmış veya aktive edilmiş bir gelişmeden çok gelişmiş yapay zekâda bir dönüm noktası olacağını belirtiyor. “Genel olarak yeterince karmaşık bir sistemim olsaydı… şayet insanlardaki duygular gibi yorumlayabileceğimiz bir davranışlar sergileselerdi, duyguları olması olasılığı da oldukça akla yatkın görünüyor”. Ex Machina en azından konuyu, test edilmesi gereken bir karmaşıklık olduğunun farkında bir tutumla ele alıyor.

Russell, böyle bir teste ihtiyaç olup olmadığı konusundaki tavrı daha az iyimser, “Hiçkimsenin bilinci çözebileceğini sanmıyorum, en azından büyük kavramsal bir buluş ortada yok” diyor. “Bu buluş, programlamadan; neden bahsettiğimizi farkında olan bir felsefi kavrayıştan gelecek”. Russell kendi bilincimizin kökenini anlayamadan birini programlayamacağımızı söylüyor.

Yanlış olan ne? Bir kez daha “izole edilmiş dahiler”le karşı karşıyayız. Nathan dev internet firması BlueBook’u yönetmesine rağmen yapay zekâ ile ilgili çoğu görevini ormandaki yüksek teknolojiyle donatılmış evinde, yalnız başına yapıyor. Film Ava’nın muhtemelen duygusal beyninin arkasındaki tekolojiyi açıklama konusunda da zayıf kalıyor. (Bu durum yapay zekânasıl tasarlayabileceğimizi bilmediğimizden bir şekilde bağışlanabilir.) Nathan’ın Caleb’e Ava’nın içindeki donanımı gösterdiği sahnedeyse Nathan bunun bir donanım değil, biyolojik bir parça olduğundan söz ediyor. Ava’nın zekâsının ardındaki yazılımın internet aramalarınından elde edilen devasa miktardaki bilgiden aktarıldığını anlıyoruz. Arama sorgularının nasıl oluyor da duyguyla eşitlendiği hakkında hiçbir detay göremiyoruz.

Gerçeklik notu: 5/10

6. Transcendence (2014)

5
Konu: Bilgisayar uzmanı Will Caster, ölümünden sonra bilincinin bir kuantum bilgisayara yüklenmesiyle dünyanın ilk yapay zekâ modeli olur.

Doğru olan ne? Filmin sonuna kadar Will Caster’ın yapay zekâsı dijital dünyaya hapsediliyor, yalnızca bir bilgisayar programı olarak varoluyor. Uzmanlar fiziksel bedeninin bir kenara atılmasının yapay zekâya güvenlik ve özgürlük sağlayacağını düşünüyor. Hutter “Zekâyı veya beyni değiştirebildiğinizde evrimsel yapay olgudan da kurtulabilirsiniz” diyor. “İnsanlar gibi olmaya çok da takılacaklarını sanmıyorum”.

Yanlış olan ne? Tüm o beyin yükleme/indirme meseleleri. (bkz: #10)

Gerçeklik notu: 6/10

5. I, Robot (2004)

6
Konu: USR Robotik’teki bir uzman öldürülünce dedektif Del Spooner şirketin robotlarından birinin katil olabileceğinden şüphelenir.

Doğru olan ne? Listedeki tüm filmler Isaac Asimov’un robotlarla ilgili 3 kuralına işaret eder: 1) Bir robot insana zarar veremez, eylemsizlik ile insana zarar gelmesine seyirci kalamaz; 2) Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır; 3) Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumakla mükelleftir.

Tek başına bu yasalar güvenli yapay zekâ yaratımında iyi bir başlangıç noktası sayılabilirler. Filmin ana robot karakteri Sonny, bir şekilde programlamaya meydan okuyor ve ‘sürüden ayrılıyor”. Uzmanlara göre böyle bir şey asla mümkün değil, ancak I, Robot’ta makinelerdeki ani davranış değişikliğiyle ilgili oldukça makul bir açıklama var: “Bir robot insanlığa zarar veremez, eylemsizlik ile insanlığa zarar gelmesine seyirci kalamaz”. (bkz: Zeroth Yasası) Listedeki diğer birçok film gibi bu bildirim robotların insanlık tehlike altında olduğunda karar vermesi ve güvenlik sağlanmasını içeriyor. İleri yapay zekâyı programlarken dikkatli olunmazsa tahmin edilemez ya da istenmeyen sonuçlar gerçeğe dönüşebiliyor.

Ayrıca Spooner’ın Audi’si de muhteşem.

7

Yanlış olan ne? Zeroth Yasası’nı ya da robotların programını değiştirmelerine neden olacak bir talimat eklenmesi, onlara davranış değişikliği veya geleneksel 3 Robot Yasası’nı çiğneme izni verir. Ancak bu durum, VIKI’nin Zeroth Yasası’nı uygulamasına bir açıklama getirmiyor. Tüm uzmanlar robotların kodlamalarını değiştirmeyeceğini ve spontane biçimde saf aksiyona dayalı yeni bir gündem oluşturmayacaklarını vurguluyor. Hutter makinelerin programlanmış öncelikli amacının sabit olduğunun altını çiziyor. “Rasyonel amaca ulaşma etkeninin, kendi hedefini değiştirme güdüsüyle uzaktan yakından ilgisi olmadığını kanıtlayan matematik teorileri var”.

Gerçeklik notu: 6.5/10

4. Colossus: The Forbin Project (1970)

8
Konu: Dünyanın nükleer reaktörlerini kontrol eden ve Rusya’da bir benzeri bulunan ve bu bilgisayarla da işbirliği içinde olan süper bir Amerikan bilgisayarı üretilir. İnsanlık, toplumun kontrolünün bu bilgisayar devlerine bırakılması tehdidiyle karşı karşıyadır.

Doğru olan ne? Hollywood, makinelerin bilinçlenmesinin ya da özgür iradesinin insanlara karşı çıkmak için olacağıyla ilgili yanlış bir kanıya sahip. Ancak Russell’a göre “Bu kesinlikle gereksiz ve bilimsel değil”. Bu filmdeki süper bilgisayarların bilinci yoruma açık ancak insanlığa karşı durmalarına gerek yok. Bütün makine ihtiyaçları bizim isteklerimize göre programlanıyor. Russell: “Bu makinelere hedef verir ve bununla ilgili dikkatli olmazsak, bizim istediğimiz şeyleri yapacaklardır, ancak sonuçtan hoşnut olmayabiliriz” diyor. Hutter bilinçli bir makine tarafından kontrol edilmemizin mümkün olmadığını söylüyor. İnsanlar açgözlü ve diğerlerinin giderlerini bile takip etme eğilimindeler diye ekliyor. Bizden daha zeki, tamamen rasyonel bir bilgisayar herkes için daha adil bir toplum yaratma becerisine sahip olabilir. Bu açıdan Colossus’un sonuç bölümüne katılıyor: “Özgürlüğünüzü kaybedeceğinizi söylediniz. Özgürlük bir ilüzyon. Tüm kaybettiğiniz saltanat hissiyatı”.

Yanlış olan ne? Delikli kartlarla yönetilen bir bilgisayarın insanlığa hükmedecek yeterlilikte bilişimsel güce sahip olması dışında Colossus’ta çok fazla hata yok. 2001 tarihli yayında bilgisayar uzmanı Rodney Brooks herhangi bir teknolojideki gelişmelerin marjinal adımlarla gerçekleşeceğinden bahseder. Şayet kontrol edemeyeceğimiz bir robot yaratabildiysek, kontrol edemediğimiz ya da kontrolünü kaybetmiş olduğumuz birçok başka robot çoktan üretmişizdir. Brooks, şayet birazcık bile yaklaşabilirsek birçok uyarı olacağını düşünüyor. IBM’in Watson’ının 2011’de Riziko galibiyetlerini kazandığında ne oynadığını bile bilmediğini düşünürsek, önümüzde biraz daha zaman var gibi görünüyor.

Gerçeklik notu: 7/10

3. Bicentennial Man (1999)

9

Konu: Nesiller boyunca robot olan bir uşak ‘insanlaşmaya’ başlar, hatta bazı mekanik parçaları labaratuvar ürünü organlarla değiştirilir.

Doğru olan ne? Listemizde ilk defa şiddete başvurmayan bir yapay zekâ var. Çok da merak uyandırıcı bir hikaye olmamasına karşın uzmanların çoğu insanlığın yapay zekâyla barışçıl bir biçimde varolabileceği konusunda iyimser. Gobel “Kesinlikle saldırganca bir şey yok” diyor. “Belki de en ciddi mesele Hollywood’un resmettiği korku ya da endişe”.

Yanlış olan ne? Hutter, Andrew kadar gelişmiş bir robotun insanlaşma isteğinin egozantrik olduğu söylüyor. Transcendence’daki gibi gelişmiş makineler inorganik devrelerin avantajlarının farkında olacaktır. Belki de tüm filmin kaçırdığı en önemli nokta, Andrew kadar zeki bir robotun hassas ve kırılabilir olmaktan hoşlanabileceği fikri. Tabii her zamanki gibi Andrew’un açıklanamayacak hedefleri ve orjinal programlamanın dışında istekleri var.

Gerçeklik notu: 7.5/10

2. Her (2013)

10
Konu: Yakın zamanda boşanmış bir yazar olan Thedore Twombly bilgisayarına bilinçli bir işletim sistemi kurar ve ikili flört etmeye başlar.

Doğru olan ne? Samantha’nın vücudu yok ancak sesi var. Her, makinelere duygusal olarak bağlanma riskinden bahsediyor ve bunu yapay zekâyı insansı bir çerçeveye sokmadan yapıyor. Russell, özellikle insansı yapay zekâ tasarımı üzerinde duruyor: “İnsanlar duygusal olarak bağlanacaklardır” diyor. “Bilinçlilik halini gri bir kutuya yüklemek düşük bir ihtimal. İnsansı robota sahip olmanın kötü bir fikir olduğu düşünmemin nedenlerinden biri de bu. Büyümekte olan bir çocuk için ne kadar zor olabileceğini bir düşünün”.

Buna ek olarak yapay zekâ kendisini yaratan insanlardan farklı ilgilere sahip olabilir. Theodore Twombly, Samantha ile ilişkisiyle gelişme kaydedebilir ancak ikili asla ideal bir çift olamaz. Samantha internette serbestçe gezinebilir ve aynı anda yüzlerce farklı konuşmayı gerçekleştirebilir. Twombly vücudunun ve beyninin limitlerini sınırlandırabilir. Russell “Makineler dünyayı insanlarla aynı oranda deneyimlemek zorunda değil” diyor. Bu onların saniyede milyonlarca bilgisayım yapmasını sağlar ancak aynı zamanda berbat refakatçiler haline getirir.

Yanlış olan ne? Samantha’nın nasıl çalıştığı ya da madde ihtiyacının ötesinin ne anlama geldiğiyle ilgili bir açıklama yok. Ayrıca gelişmiş yapay zekânın dönüşümü düşünüldüğünde toplumun kalanının değişmemiş olması şaşırtıcı.

Gerçeklik notu: 8/10

1. 2001: A Space Odyssey

11

Konu: Discovery One tayfası büyük siyah bir taştan yayılan tuhaf sinyali araştırırken araçlarındaki yapay zekâda (HAL 9000) çalışma bozukluğu tespit eder.

Doğru olan ne? Uzmanlar 2001’in yapay zekâya olan yaklaşımının listedeki diğer filmlerden çok daha doğru olduğu konusunda hemfikir. HAL kesinlikle bilinçli görünüyor ancak bilgisayarın duyguları olup olmadığı sorulduğunda astronotlardan Dave bunu bilmenin bir yolu olmadığını söylüyor. Duyguları olduğunu iddia eden bir bilgisayara inanıp inanmayacağı sorulduğunda Russell da benzer şeyler söylüyor: “En sonunda omuzlarımızı silkeceğiz”. Dave yavaşça devre dışı bırakırken HAL korkuyor, ancak görevini yerine getirmek için umutsuz şekilde yalvarıyor da.

HAL programlamasına sadık kalıyor. HAL, Colossus gibi gerçek amacından sapmıyor. Tüm kötü eylemlerini görevi tamamlamak için en iyi yol olduğunu düşündüğünden gerçekleştiriyor. HAL’ü acımasız hale getiren hayatta kalma içgüdüsü ya da duygusu değil basit bir programlama. 2001 yapay zekânın karşı koyması için bilincin gerekli olmadığı konusuna açıklık getiriyor.

Yanlış olan ne? Çok fazla yanlış yok. İşleri karmaşıklaştırarak bu listenin en tepesinde olamazsınız. Daha önce de söylediğimiz gibi gelişmiş bir yapay zekâ yaratmayı bilmiyoruz, HAL’ün nasıl çalıştığıyla ilgili açıklama olmayabilir ancak bu karmaşık bir bilim dili kullanmaktan çok daha iyidir.

Orjinal metin: Which movies get artificial intelligence right? (David Shultz)

Author: Aslı Alkan

Leave a Reply