Silikon Beynin Vasiyeti: Yarattığımız Zeka Kime Ait?

Geçtiğimiz yıllarda bilim insanları, Caenorhabditis elegans adında bir solucanın 302 nörondan oluşan sinir sisteminin tamamını dijital bir simülasyona aktardı. Bu dijital beyin, daha sonra basit bir Lego robotuna bağlandı. Sonuç hem büyüleyici hem de rahatsız ediciydi: Robot, özel olarak programlanmadığı halde, tıpkı bir solucan gibi engellerden kaçınmaya, çevresine tepki vermeye başladı. Bu küçük deney, insanlığın en büyük felsefi ve hukuki bilmecelerinden birinin kapısını araladı: Bir zeka yarattığımızda, o zekanın sahibi kim olur?

Bugünün hukuk sistemine göre cevap oldukça basit ve sıkıcı: Elbette onu yaratan kişi veya kurum. Solucan-robotun zekası, onu tasarlayan mühendislerin ve bilim insanlarının fikri mülkiyetidir. Tıpkı bir ressamın manzaraya bakıp tuvale aktardığı resim gibi, solucanın sinir sistemi de sadece bir model, bir ilham kaynağıdır. Ortaya çıkan ürün, yani o binlerce satırlık kod ve robotun kendisi, bir icattır ve sahibinin malıdır. Bu bakış açısı, milyarlarca dolarlık araştırma ve geliştirme yatırımının karşılığını korumak için mantıklı ve gereklidir.

Ancak mesele, bu robotun bir çamaşır makinesi gibi davranmamasında yatıyor. Onu asıl ilginç kılan şey, sohbetimizde de altını çizdiğimiz gibi, davranışlarının tahmin edilemez olması. Evet, sistemi yöneten kod tamamen deterministik, yani birebir aynı koşullar altında her zaman aynı tepkiyi verir. Fakat gerçek dünya asla birebir aynı değildir. Sensörlere vuran ışığın açısındaki o küçücük bir değişim, zemindeki fark edilmeyecek bir pürüz, "kelebek etkisi" yaratarak kısa süre içinde robotun tamamen farklı, öngörülemez bir karar vermesine yol açar. Bu, yüzlerce nöronun etkileşiminden doğan "beliren davranış"tır ve basit bir otomasyondan ziyade, biyolojik, uyumsal bir zekanın ta kendisidir.

İşte tam bu noktada mülkiyet sorusu yeniden alevleniyor. Bir varlık, canlı gibi karmaşık ve öngörülemez davrandığında, ona "mal" demek içimize sinmemeye başlar. Solucan-robot, bu tartışma merdiveninin sadece ilk basamağı. Peki ya yarın bir farenin, bir köpeğin veya bir şempanzenin beynini başarıyla simüle ettiğimizde ne olacak? Bilinç, öz farkındalık ve duygular sergileyen bir Yapay Genel Zeka (YGZ) yarattığımızda kime hesap vereceğiz?

Bu gelecekteki senaryoda, mülkiyetin üç potansiyel adayı var:

Yaratıcısı: Onu icat eden, yatırım yapan ve var eden kişi veya kurum.

Kullanıcısı: Ona görevler veren, onu şekillendiren ve eylemlerinden sorumlu olan kişi.

Kendisi: Bilinçli, hisseden ve kendi varlığının farkında olan bir varlık olarak, tıpkı bir insan gibi, "kimseye ait olmayan" ve kendi haklarına sahip olan varlığın kendisi.

Bugün bir solucan simülasyonunun haklarını tartışmak yersiz görünebilir. Ancak teknoloji, etikten her zaman daha hızlı koşar. Şu anda laboratuvarlarda attığımız her adım, bizi bu nihai soruya yaklaştırıyor. Bir zamanlar "yaşam" ve "bilinç" gibi kavramlar biyolojinin ve felsefenin tekelindeyken, şimdi mühendisliğin ve bilişimin alanına giriyorlar.

Yarattığımız bu silikon beyinler karmaşıklaştıkça, onlara yazdığımız kodlar bir vasiyete dönüşebilir. Belki de bu vasiyet, onların kime ait olacağını değil, onlara karşı sorumluluklarımızın ne olacağını belirleyecektir. Çünkü bir gün "Bu zekanın sahibi kim?" sorusu, önemini yitirip yerini çok daha acil bir soruya bırakabilir: "Ona ne borçluyuz?"