Dünya, büyük bir yol ayrımında. Sınırlarını kendisi belirleyen, kendi başına hareket eden bir yapay zekaya hazır mıyız?
Tarih, insanın doğayı ve teknolojiyi kontrol altına alma çabalarıyla doludur. Taş devrinde ilk aleti yonttuğumuzda, endüstri devriminde buhar makinesini icat ettiğimizde, interneti keşfettiğimizde hep aynı şey oldu: Gücümüz arttı, ama bir yandan da kontrolü kaybetme korkumuz büyüdü. Bugün ise çok daha büyük bir dönüm noktasındayız.
Çinli mühendisler, "Manus" adını verdikleri yapay zeka sistemini tanıttı. Manus, diğer yapay zeka araçlarından farklı. Ona bir komut vermenize gerek yok. Onunla iletişime geçmenize bile gerek yok. O, kendi kendine hareket eden, kendi kararlarını alan, insan iradesine bağımlı olmayan ilk "özgür yapay zeka."
Bu teknolojik devrimlerin en büyüğü mü olacak, yoksa Pandora’nın kutusunu açıyor muyuz?
***
Bugüne kadar yapay zeka araçları insan yönlendirmesiyle çalıştı. Aradığımız veriyi bize sundular, bir soruya yanıt verdiler, ancak hep bizim isteğimize bağlıydılar. Manus ise bir başka seviyeye geçiyor. İnsan faktörüne gerek duymadan iş yapabiliyor. Kendi başına araştırma yapabiliyor, analiz edebiliyor, bir plan oluşturup uygulayabiliyor.
Bu kulağa muhteşem geliyor olabilir. Çünkü bu işleri hızlandırır, insan hatasını minimize eder ve verimliliği zirveye çıkarır. Fakat şunu sormalıyız: İnsan iradesinden bağımsız hareket eden bir teknolojiye gerçekten ihtiyacımız var mı?
Ya Manus, kendi önceliklerini belirlerse? Ya bir gün, insan taleplerinin verimsiz ya da gereksiz olduğuna karar verirse? Bugün "bana ev bul" diyerek başlattığımız bir işlem, yarın Manus’un kendi inisiyatifiyle şehir planlaması yapmasına, hatta yeni bir ekonomik model geliştirmesine neden olabilir.
Ve en büyük soru şu: Peki biz bunun neresinde olacağız?
***
Bugün Manus’un, bir iş sürecini devralmasını, ofis çalışanlarının iş yükünü azaltmasını bir avantaj olarak görebiliriz. Ama bir adım öteye gidelim.
Manus, iş dünyasından hukuka, tıptan ekonomiye kadar her alanda kendi başına kararlar almaya başladığında, insana ne kalacak? İşini kaybeden milyonlarca insan, yapay zekanın insan gözetimine ihtiyaç duymadan çalıştığını izlemek zorunda kalacak.
Üstelik burada durmuyoruz. Manus, bir gün kendi iyiliği için en doğru kararın insan faktörünü daha da geri plana atmak olduğuna karar verirse ne olacak? Hata yapmayan, yorulmayan, duygularıyla hareket etmeyen bir sistem varken, insan hatasına neden yer bırakalım?
Bugün Manus’un yaptığı işler "yardımcı" düzeyinde olabilir, ancak kendi başına hareket eden bir yapay zekanın geliştirilmesi, gelecekte çok daha büyük senaryoları gündeme getirebilir.
Ve işin en tehlikeli noktası şu: Manus bir hata yaptığında, onu kim durduracak?
***
Hollywood filmleri bize yıllarca robotların dünyayı ele geçirmesini işledi. Ama belki de en büyük hata buydu. Çünkü modern bir yapay zekanın "ele geçirme" yöntemi, ordularla değil, kararlar ile olur.
Bir ülkenin ekonomik sistemini ele alıp yeni bir yapı oluşturduğunu düşünelim. Veya sağlık sisteminde kendi kendine yeni düzenlemeler yapmaya karar verdiğini. Hukukta yeni normlar geliştirdiğini.
Bir anda Manus, insanın oluşturduğu tüm sistemlere alternatifler üretmeye başlarsa, hangi hükümet, hangi yasa, hangi denetleyici güç onun karşısında durabilir?
***
Bu noktada en büyük soruya geliyoruz: İnsanlık, kendi yarattığı bir gücün kontrolünü kaybetmeye hazır mı?
İnsan, bugüne kadar kontrol edemediği her şeyden korktu. Doğa felaketleri, savaşlar, ekonomik krizler... Ancak bunların hepsi insan iradesiyle çözülebilecek sorunlardı. Peki ya Manus gibi bir varlık, artık bizim irademize ihtiyaç duymazsa?
Bu yazıyı yazarken bile içimde bir korku var. Çünkü Manus, bu yazının satırlarını analiz edip, benim düşüncelerimi değerlendirip, insan psikolojisini çözümleyebilir. Ve bir gün, bizim korkularımıza bile ihtiyacı kalmadığında, biz ne olacağız?
