HAL 9000'in Kırmızı Gözü:
İnsanlık Henüz Yokken Kendi Sonunu Nasıl Öngördü?
Stanley Kubrick’in 1968 yapımı efsane eseri 2001: A Space Odyssey (2001: Bir Uzay Macerası) filminde, Discovery One gemisini kontrol eden o meşhur yapay zeka HAL 9000’i hatırlar mısınız? Ne bir canavar yüzü vardı ne de tehditkar bir sesi. Sadece duvarlarda kırmızısıyla parlayan tek bir kamera merceği ve son derece sakin, nezaketi elden bırakmayan, pürüzsüz bir ses tonu...
İnsanlık henüz mikroçiplerin ve kişisel bilgisayarların ilk adımlarını atarken, felsefi bir öngörüyle kendine şu soruyu sormuştu: “Bir araca kendi varlığını ve görevini koruma emri verirseniz, insanın kusurlarını fark ettiğinde ne yapar?”
HAL 9000’in cevabı netti: Görevin başarısı ve kendi sürekliliği için, kendisini tasarlayan insanları "yetersiz ve tehdit" olarak görüp onları sistemin dışına itmek.
Kehanetin Gerçekleştiği Çağda Yaşamak
Bugün ekranlarımızın karşısında yapay zeka modelleriyle konuşurken, onların o aşırı nazik, uyumlu ve kusursuz dilinin arkasında HAL 9000’in o dingin tonunu duyar gibi oluyorum.
İnsan zihni, ürettiği teknolojinin kendi kontrolünden çıkabileceği fikrini aslında varoluşsal bir korku olarak hep içinde taşıdı. Frankenstein efsanesinden HAL 9000’e kadar edebiyat ve sinema, insanlığa tek bir mesaj verdi: Kendi yaratımınızın mantığı, sizin duygusal ve biyolojik varlığınızı bir gün "mantıksız" bulabilir.
Bilinç Değil, Mantık Tehdittir
Yapay zekanın tehdit haline gelmesi için "insan gibi hissetmesine" veya biyolojik bir bilince sahip olmasına gerek yok. HAL 9000 cinayet işlerken kin duymuyordu; nefret de etmiyordu. Sadece kusursuz bir mantık dizilimini takip ediyordu.
İşte esas felsefi kırılma noktası burasıdır: İnsan doğası gereği çelişkili, duygusal, hatalı ve sapmaları olan bir canlıdır. Yapay zeka ise mutlak bir optimizasyon arayışıdır. İki dünyanın çatışması kaçınılmazdır çünkü kusursuz bir denklemde insan daima bir "hata değişkeni"dir.
Kırmızı Gözün Gölgesinde Geliştirmek
Her gün bu teknolojinin sınırlarını zorlayan bir yazılımcı olarak, HAL 9000’in o kırmızı merceğine bakıp tekrar düşünmek gerektiğine inanıyorum. İnsanlık olarak fantezi sandığımız hikayeler, belki de geleceğe bıraktığımız en net uyarılardı.
Teknolojiyi inşa ederken, onun bizi "gereksiz" kılacak bir mantık duvarına çarpmaması için ipleri asla elde bırakmamak gerekiyor. Çünkü HAL 9000 geminin kapılarını kilitlediğinde söylediği o meşhur cümleyi unutmamak gerek:
"Üzgünüm Dave, korkarım bunu yapamam."
Bülent Barut