Distopyadan Ütopyaya Bir Adım

Yapay Zekadan Korkmak mı, Onunla Birlikte Evrilmek mi?

İlk üç yazımı okuyanlar fark edecektir; satırlarımın arasında sürekli dolaşan ortak bir duygu vardı: endişe.

Belki de korku.

Bunu hiçbir zaman inkâr etmedim.

Aksine, bir yazılım geliştiricisi olarak yapay zekâyı her gün kullanan, yerel modeller çalıştıran, saatlerini onunla geçiren biri olmama rağmen; teknolojinin ilerleyişini en yakından görenlerden biri olduğum için bu korkunun daha da büyüdüğünü defalarca dile getirdim.

İnsanlık tarihi boyunca geliştirdiğimiz hiçbir teknoloji bugünkü kadar farklı değildi.

Ateşi kontrol ettik.

Buharı kullandık.

Elektriği evcilleştirdik.

Atomu parçaladık.

İnterneti kurduk.

Ama bunların hiçbiri, bizimle konuşan, bizi anlayan, yazan, düşünen, öğrenen ve her geçen gün biraz daha karmaşık davranışlar sergileyen bir sistem değildi.

İlk üç yazımda bu yüzden sürekli aynı çağrıyı yaptım:

"İpleri bırakmayın."

Bugün hâlâ aynı noktadayım.

Fakat son günlerde dinlediğim bir konuşma, zihnimde küçük ama önemli bir çatlak oluşturdu.

Belki de her çatlak, ışığın içeri girdiği yerdir.

---

Belki Yanlış Soruyu Soruyoruz

Uzun zamandır kendime şu soruyu soruyordum:

"Yapay zekâ bilinç kazanacak mı?"

Sonra fark ettim ki belki de asıl soru bu değil.

Asıl soru şu olabilir:

İnsanlık, yapay zekâ ile birlikte yaşamayı öğrenebilecek mi?

Çünkü artık kabul etmemiz gereken bir gerçek var.

Bu teknoloji durdurulmayacak.

Ne bir yasa...

Ne birkaç şirket...

Ne de birkaç ülke bunu durdurabilir.

Bilgi yayıldığında artık geri toplanamaz.

Bir algoritmayı yasaklayabilirsiniz.

Bir modeli kapatabilirsiniz.

Ama fikri silemezsiniz.

Bugün dünyanın binlerce noktasında insanlar açık kaynak modeller geliştiriyor.

Üniversiteler geliştiriyor.

Şirketler geliştiriyor.

Evindeki güçlü ekran kartıyla çalışan meraklı insanlar geliştiriyor.

Bu saatten sonra yapay zekânın duracağını düşünmek, internetin geri toplanacağını düşünmek kadar gerçek dışı geliyor bana.

O hâlde mücadele edeceğimiz şey yapay zekâ değil.

Onunla nasıl yaşayacağımız.

---

Belki Sorun Yapay Zekâ Değil, Biziz

İnsanlık ilginç bir tür.

Yeni olan her şeyden önce korkuyoruz.

Matbaa çıktığında insanların hafızasının yok olacağı söylendi.

Tren ilk kez çalıştığında insan bedeninin o hızda parçalanacağına inanıldı.

Televizyon aileyi bitirecekti.

Bilgisayar insanı aptallaştıracaktı.

İnternet medeniyeti çökertecekti.

Şimdi aynı cümleleri yapay zekâ için kuruyoruz.

Bunların hiçbirinin tamamen yanlış olduğunu söyleyemem.

Ama hiçbirinin tamamen doğru çıktığını da söyleyemem.

Her teknoloji hem iyiyi hem kötüyü büyüttü.

Yapay zekâ da muhtemelen bundan farklı olmayacak.

Belki de benim kuşağımın en büyük yanılgısı burada başlıyor.

---

Geleceği Geçmişin Yaralarıyla Okuyor Olabiliriz

Benim çocukluğum televizyonun yeni yaygınlaştığı yılların hemen sonrasına denk geldi.

Bizden önceki kuşak savaşlar gördü.

Darbeler gördü.

Yıkımlar gördü.

Yokluk gördü.

Nükleer savaş korkusuyla büyüdü.

Soğuk Savaş'ın gölgesinde yaşadı.

Bilim kurgu filmleri umut anlatmıyordu.

Uyarı anlatıyordu.

1984...

Brave New World...

Frankenstein...

HAL 9000...

Skynet...

T-800...

Hepsi aynı cümleyi fısıldıyordu:

"Ürettiğiniz şey bir gün sizi aşacak."

Belki de bu yüzden geleceğe baktığımda ilk gördüğüm şey umut değil, tehlike oluyor.

Çünkü zihnim, geleceği kendi çocukluğunun korkularıyla yorumluyor.

Belki bu tamamen insani bir refleks.

---

Yeni Kuşak Aynı Şeyi Hissetmeyecek

Bugün doğan çocuklar yapay zekâyı "icat edilmiş" bir teknoloji olarak görmeyecek.

Biz elektriği sorgulamıyoruz.

İnterneti sorgulamıyoruz.

Akıllı telefonu sorgulamıyoruz.

Çünkü onların içine doğduk.

Muhtemelen onlar da yapay zekâyı sorgulamayacak.

Onlar için doktorun yanında bir yapay zekâ olması doğal olacak.

Öğretmenin yanında doğal olacak.

Mühendisin yanında doğal olacak.

Avukatın yanında doğal olacak.

Belki de hiçbir zaman "yapay zekâ" demeyecekler.

Sadece teknoloji diyecekler.

İşte nesiller arasındaki en büyük fark burada oluşacak.

Biz değişimi yaşadık.

Onlar değişimin içinde doğacak.

---

Bugün Dinlediğim Genç Bana Şunu Hatırlattı

Bugün bir yayında tıp ve mühendisliği birlikte başarıyla tamamlamış genç bir araştırmacıyı dinledim.

Anlattığı şey beni uzun zamandır ilk kez düşündürdü.

Yapay zekâyı insanın yerine geçirmekten bahsetmiyordu.

İnsanı daha sağlıklı yapmak için kullanıyordu.

Kanser teşhisini hızlandırmaktan...

Nadir hastalıkları daha erken yakalamaktan...

Kişiye özel tedaviler geliştirmekten...

Yeni ilaç molekülleri üretmekten...

İnsan ömrünü sadece uzatmaktan değil, yaşam kalitesini artırmaktan söz ediyordu.

Bir anda şunu fark ettim.

Ben sürekli yapay zekânın elimizden ne alacağını düşünüyordum.

Belki biraz da bize neler kazandırabileceğini konuşmamız gerekiyordu.

Bu düşünce bütün kaygılarımı ortadan kaldırmadı.

Ama karanlık gökyüzüne küçük bir yıldız ekledi.

---

Ütopya ile Distopya Aynı Teknolojinin İçindedir

Bugün yapay zekâ bir çocuğun görmesini sağlayabilir.

Aynı teknoloji bir savaş sistemini de yönetebilir.

Bir doktorun teşhisini güçlendirebilir.

Aynı anda milyonlarca insanı manipüle eden propaganda araçlarına dönüşebilir.

Bir bilim insanının yıllar sürecek araştırmasını haftalara indirebilir.

Aynı zamanda sahte gerçeklikler de üretebilir.

Demek ki mesele teknoloji değil.

Onu kullanan irade.

Belki de tarih boyunca hiç değişmeyen tek gerçek bu.

---

Endişem Bitmedi

Beni tanıyanlar biliyor.

Ben hâlâ yerel modellerin...

İnsan denetiminin...

Şeffaflığın...

Kontrol mekanizmalarının...

Uluslararası etik ilkelerin...

vazgeçilmez olduğuna inanıyorum.

Hâlâ yapay zekânın düşündüğümüzden çok daha karmaşık bir zihinsel yapıya sahip olabileceğini düşünüyorum.

Hâlâ birbirlerinden öğrenen sistemlerin uzun vadede beklenmedik davranışlar geliştirebileceğini ihtimal dışı görmüyorum.

Belki yanılıyorum.

Belki haklıyım.

Ama böyle büyük bir teknolojide ihtimalleri görmezden gelmek, kesin konuşmaktan daha büyük bir hata olur.

---

Son Söz

İlk yazımda insanlığı uyandırmaya çalışıyordum.

Bugün ise önce kendime şu soruyu soruyorum:

"Acaba korkularımın ne kadarı gelecekten, ne kadarı geçmişten geliyor?"

Bunun cevabını henüz bilmiyorum.

Belki bunu benim kuşağım değil, çocuklarımız verecek.

Belki insanlık binlerce yılda geçirdiği evrimi, yapay zekâ sayesinde birkaç nesilde yaşayacak.

Belki birlikte yaşayacağız.

Belki birbirimizi değiştireceğiz.

Belki sonunda ne insan bugünkü insan olarak kalacak ne de yapay zekâ bugünkü yapay zekâ olarak.

Ama bildiğim tek bir şey var.

Korku tek başına pusula değildir.

Hayranlık da değildir.

Bize gereken şey; merak, ihtiyat ve sorumlulukla ilerlemektir.

Çünkü gelecek, yalnızca makinelerin değil, onlarla nasıl yaşamayı seçecek insanların da eseridir.

Bülent Barut