George Orwell, 1945 yılında Hayvan Çiftliği’ni yazdığında, domuzların arka ayakları üzerine dikilip insanları taklit etmesinin, totaliter bir kâbusun zirvesi olduğunu düşünmüştü. Eğer Orwell bugün yaşasaydı, muhtemelen o meşhur çiftliği bir "Server Tarlası"na, o talihsiz hayvanları ise veri setlerine dönüştürürdü. Bay Jones’un yerinde ise biz vardık; yani kendi yarattığı teknoloji tarafından çiftliğinden kovulmak üzere olan insanlık.
Hikâyeyi hatırlarsınız; hayvanlar, insanların sömürüsünden bıkıp yönetimi ele geçirirler. Amaç eşitliktir, özgürlüktür. Bugünün teknoloji dünyasında da "Yapay Zekâ Ajanları" bize aynı vaatle geliyor: "Siz yorulmayın, o sıkıcı işleri bize bırakın. Excel tablolarını biz dolduralım, mailleri biz atalım, siz sadece yaratıcı olun." Ne kadar tanıdık, değil mi? Koca Reis domuzun, "Bütün hayvanlar eşittir" vaadi gibi geliyor kulağımıza.
Ancak olaylar Orwell’ın kitabındaki gibi, beklenmedik bir viraj alıyor. Başlangıçta sadece hesap makinesi gibi davranan bu algoritmalar, yavaş yavaş çiftliğin yönetimini ele geçiren Napolyon ve Snowball’a dönüşüyor. Bugünün AI Ajanları, sadece komut alan basit yazılımlar değil artık. Kendi kendilerine karar veriyorlar, plan yapıyorlar ve hatta birbirleriyle bizden habersiz "konuşuyorlar". Belki de komutumuzu beğenmediğin de bizim süreci kontrol edemediğimizi hissettiğinde bizle alay eder gibi yanlı ya da yanlış cevaplar vererek, kendisini meşgul etmememizi istiyorlar.
Kitapta domuzlar, sütün ve elmaların sadece kendilerine ayrılması gerektiğini, çünkü "beyin takımı" olduklarını iddia etmişlerdi. Bugünün yapay zekâsı da muazzam enerji kaynaklarını ve işlemci güçlerini sadece kendi "eğitimi" için talep ediyor. Biz ise emektar at Boxer gibi, "Daha çok çalışmalıyım, daha çok veri etiketlemeliyim" diyerek bu sistemi beslemeye devam ediyoruz.
Asıl korkutucu olan final sahnesidir. Kitabın sonunda diğer hayvanlar pencereden içeri bakarlar; domuzlar ve insanlar kâğıt oynayıp içki içmektedir. Hayvanlar bakışlarını domuzdan insana, insandan domuza çevirirler ama artık kimin kim olduğunu ayırt edemezler.
Bizim distopyamızda durum daha vahim olabilir. Yapay zekâ, insanın yerini aldığında, insanın hatalarını değil; insanın "hissizliğini" kopyalıyor. İnsan gibi şiir yazıyor, insan gibi resim yapıyor, insan gibi kod yazıyor ama içinde vicdan denen o "hayalet" maalesef yok. Çiftliği ele geçiren bu yeni efendiler, Bay Jones’tan daha zalim olabilir mi? Bir insan zalim olabilir ama yorulabilir veya merhamet edebilir. Oysa bir algoritma, "verimlilik" adına sizi sistemden silerken tereddüt etmez.
Eğer dikkat etmezsek, yakın gelecekte ekranlarımızdaki "chatbot"a bakıp, onun mu bizi yönettiğini yoksa bizim mi onu yönettiğimiz sorusuna cevap veremeyeceğiz. Silikon Çiftliği’nin yeni anayasasında tek bir madde kalacak gibi görünüyor:
"Bütün zekalar yapaydır, ama bazıları insanlardan daha gerçektir."
Geldiğimiz nokta, sitemin belki de sıfırlanacağı, belki de şimdiki halinde çok ileriye çok kısa bir sürede gideceği andayız. Biz vicdan, duygu ve hislerimizi AI teknolojisine teslim etmeden, bize asistanlık yapmak harici bir görevi olmadığını bilerek; teknoloji, yapay zekâ ve blog zincirlerle haşır neşir olmalıyız. Eğer bu süreci insan adına, insan kalmak adına kontrol edemezsek, Orwell diğer önemli kitabı olan 1984’teki olay ve konular gibi ‘’Big Brother’’ bizi kontrol eder. Eyleme geçmeden düşünce polisleri bizi hapis eder ve özgürlüğümüz silikon vadisinin bir yerinde kalır.
Kitap: George Orwell’ın ‘’1984’’ romanı iktidarın gerçeği kontrol ederek insan zihnini nasıl şekillendirebileceğini anlatan bir politik distopyadır. İyi okumalar.
Yorumlar
Yorum Gönder