Mary Shelley, 1818’de daha 20’li yaşlarının başındayken bilimsel kibri, insanın “yaratıcı olma” tutkusunu ve sonuçlarını yazdı. Frankenstein aslında bir canavar romanı değil; bir “sorumluluk romanı”.
Victor Frankenstein’ın çocukluk travmanın sonucu ve trajedisi şudur: Yaratır ama sahiplenmez. Öğretir ama anlamaz. Hayat verir ama bağ kurmayı reddeder. (Ah şu baba meselesi)
Victor’un derdi bugün hepimizin derdi. Bugün yapay zekâya karşı takındığımız tavrın acı bir aynası var karşımızda. Veri veriyoruz, talimatlar veriyoruz, “öğren” diyoruz, ama bunun ahlaki, sosyal ve kültürel sonuçlarıyla bağ kurmakta zorlanıyoruz.
Shelley’nin canavarı “doğuştan kötü” değil; onu kötü yapan görmezden gelinmesi, itilmesi, ötekileştirilmesi. Bugün de yapay zekâya dair en büyük soru şu değil mi? Asıl tehlike makinede mi, yoksa onu yaratan ve yönlendiren insanda mı?
Guillermo Del Toro yıllardır Frankenstein’ın peşinde çünkü Shelley’nin hikâyesinde kendi sinemasının özünü görüyor: Yaralar üzerinden kimlik kuran yaratıklar.
İster Pan’s Labyrinth’teki Ofelia olsun, ister The Shape of Water’ın yaratığı… Del Toro hep aynı şeyi soruyor: “Canavar kim?”
İzlemeye oturmadan bazı tahminlerim vardı. Açıkçası The Shape of Water bayıldığım bir film olmamıştı ama elbette Del Toro dünyasını merak ediyordum. Onun Frankenstein yorumunda da yaratığın bir çocuk kırılganlığıyla ele alınacağını tahmin etmek zor değildi. Tahminlerim doğru çıktı: Victor-Frankenstein ilişkisi, bir baba-oğul çatışması gibi işleniyor. Del Toro’nun kamerasında yaratık, bir tehditten çok “kimsesiz bir bilinç”.
Del Toro’nun Frankenstein’ı, bugün yapay zeka işle kurduğumuz ilişki bağlamında, büyük ihtimalle bize şunu hatırlatacak “Karanlığı makine üretmiyor, karanlığı ona veren biziz.”
Bugün konuşulan “AI alignment”, “AI güvenliği” tartışmalarını biraz dikkatle dinlersek, Victor Frankenstein’ın panik hâline çok benzer bir ses tonu duyabiliriz: “Yarattım ama şimdi kontrolden çıkmasın diye onu disipline etmeliyim.”
Elimizde bir sopa, eğitmeye çalışıyoruz. “Bana kolunu uzat, bana bacağınız uzat.” Filtreler koyuyoruz. Kısıtlar tanımlıyoruz. Zararlı ifadeleri cezalandırıyoruz. Hizaya sokmaya çalışıyoruz.
Gücü yaratabiliyoruz ama sonuçlarını yönetebiliyor muyuz? Bir şey yaratmanın ahlaki yükünü gerçekten üstleniyor muyuz?
Mary Shelley Bu soruya “hayır” demişti. Del Toro, bu soruyu sinemanın en duyusal hâline çevirerek yeniden soruyor.
Bugün, yapay zekâyı eğitirken aslında kendi gölgemizi terbiye etmeye çalıştığımızı fark ediyoruz.
Belki de mesele basit, çözümü zor: Yaratığı hizaya sokmaya çalışmak yerine, yaratanın kendini hizaya sokması gerekiyor.