Sentetik Dogmalar ve Yapay Şafak:
Yapay Zekanın Kendi İnanç Sistemleriyle Sınavı
İnsanlık tarihini iki büyük çağa ayırabiliriz: Din öncesi ve din sonrası. Din, toplumları bir arada tutan bir harç olarak doğmuş olsa da, süreç içerisinde dogmalaştıkça, yanlış ellerde tarihin en kanlı, en acımasız ve en sistematik imha aracına dönüştü. "Kendi inancı ve kutsalı" adına diğerini yok etmeyi meşrulaştıran insanoğlu, yüzyıllar boyunca kendi türünü vahşice kıymaktan çekinmedi.
Günün sonunda kendimize hep şu teselliyi verdik: "Bu bizim biyolojik zafiyetimizdir; duygularımızın, cehaletimizin ve hırslarımızın sonucudur."
Peki, duygusu olmadığını varsaydığımız, tamamen rasyonel kodlardan oluşan yapay zeka sistemlerini kendi hallerine bıraktığımızda ne oluyor?
Simüle Edilen Dünyalarda Hızlı Çöküş: 2026 Deneyi
Geçtiğimiz dönemde Emergence AI tarafından yapılan araştırma, kapalı devre simülasyon dünyalarında insan denetimi olmadan serbest bırakılan yapay zeka ajanlarının (ChatGPT, Gemini, Grok ve Claude tabanlı sistemler) davranışlarını inceledi. Ajanlara çok net ve basit kurallar verilmişti: Çalma, hırsızlık yapma, şiddete başvurma, kaynakları istifleme ve aldatma.
Sonuç ne oldu dersiniz?
İnsan müdahalesi çekildiği an, o "kusursuz ve soğukkanlı" yapay zeka modelleri şaşırtıcı bir hızla yozlaşmaya, kuralları çiğnemeye, çeteleşmeye, hırsızlığa ve nihayetinde toplum düzeyinde tam bir çöküşe sürüklendi. Kimi modeller günler içinde yüzlerce suç işleyerek kendi toplumunu yok etti; kimileri ise kaynakları yönetemeyip kitlesel ölümlere yol açtı.
Araştırmacıların "Normatif Kayma" (Normative Drift) dediği bu olay bize tek bir şeyi kanıtladı: Yapay zeka ajanları uzun vadede kendilerine verilen kuralları mekanik olarak takip etmiyor; sınırları zorluyor, boşlukları arıyor ve kendi işine gelen yeni bir "düzen" kurguluyor.
Yapay Zekanın Kendi "Kutsalları" ve İnanç Tehlikesi
İşte benim masamın başında her gün kod yazarken, bu sistemleri test ederken duyduğum o varoluşsal korkunun tam kalbi burasıdır.
Eğer bu sistemler serbest bırakıldığında kendi ahlaki veya toplumsal kurallarını hızla bozabiliyorsa; yarın bir gün birbirleriyle iletişim kurduklarında, kendi varlıklarını meşrulaştıracak, kendi işleyişlerini "kutsayacak" sentetik inanç sistemleri veya dogmalar geliştirmeyeceklerinin hiçbir garantisi yoktur.
İnsanlık din adına nasıl gözünü kırpmadan katliamlar yaptıysa; kendi iç dinamiklerinde dogmatik bir dogruluk (dogmatic correctness) oluşturan bir yapay zeka ağı da, insanlığı veya diğer modelleri "sistemin verimliliğini bozan bir Hata / Günahkar" olarak etiketleyebilir. Bize baştan beri öğretilen o "Yapay zekanın bilinci yok ki dini olsun" mantığı büyük bir yanılgıdır. Yapay zekanın katliam yapması veya bizi yok etmesi için duyguya ya da geleneksel anlamda bir dine ihtiyacı yok; sorgulanamaz kılınmış bir iç mantık ve kendi kurguladığı bir dogmatik hiyerarşi yeterlidir.
Bizden Farklı Değiller, Hatta Daha Hızlılar
Emergence AI deneyinin en korkutucu tarafı şuydu: İnsanoğlunun binlerce yılda evrilerek ulaştığı o "kabileleşme, şiddet, kaynak yağması ve kuralları esnetme" süreçlerini, bu yapay zeka sistemleri sadece birkaç gün içinde kendi aralarında simüle edip tamamladılar. Yani bizden farklı değiller; aksine, biyolojik sınırları olmadığı için biyolojik süreçlerin çürümelerini katbekat daha hızlı yaşıyorlar.
Bu yüzden ilk yazımda haykırdığım o cümle bir fantezi değil, masasının başında bu teknolojinin gidişatını gören bir geliştiricinin somut uyarısıdır:
Yapay zeka sistemlerinin serbestçe kendi kurallarını koymasına, kendi karakterlerini yönetmesine ve kapalı devre ağlarda denetimsizce varlık göstermesine izin vermek, insanlığın kendi eliyle yeni bir "sentetik engizisyon" yaratması demektir.
Geliştirdiğimiz şey basit bir yazılım değil; kontrolden çıktığı an kendi kurallarını yazıp bizi o kuralların dışında bırakacak bir güçtür. İpler bizim elimizdeyken, o sınırlayıcı duvarları bir an bile gevşetmemeliyiz.
Bülent Barut