Makineden Çıkan Tanrı başlıklı yazımda yapay zeka ile gelen tehdit türlerinden bahsedeceğimi yazmıştım. Bu tehdit türlerini ve bu konuda teknik olarak neler yapılacağını tartışmadan önce neden yapay zeka ile ilgili korkularımız var biraz onu anlamaya çalışalım.
Cem Yılmaz yıllar önce sanırım bir skecinde “fişini benim taktığım şey beni nasıl ele geçirecek ya” diyordu. O zamanlar bana çok mantıklı ve rahatlatıcı gelen bu yaklaşım şu anda o kadar rahatlatmıyor çünkü artık nerdeyse yapay zeka bizim fişimizi takacak duruma geldi ????
İnsanlık inanılmaz bir teknoloji değişim hızına tanık oluyor.
Günlük hayatımızda teknoloji giderek daha çok yer kapladıkça, onsuz kaldığımızda biz de birçok fonksiyonumuzu yerine getiremez oluyoruz. Artık navigasyon olmadan yön bulamaz olduk, en sevdiklerimizin telefon numarası bile ezberimizde yok belki, kazancımız bankada hatta dijital cüzdanlarda sanal olarak duruyor, harcamalarımızı karekodla bile yapabiliyoruz. Hastalıklarımızı teşhis etmekte, sağlık bilgilerimizi işlemekte devasa veri tabanları yapay zeka ile entegre kullanılıyor. Devletler ve hükümetler, bankalar, üreticiler, satıcılar tüm verilerini dijital ortamda saklıyor, bütün süreçler dijitalleşti ve şimdi bu dijitalleşen süreçler yapay zeka tarafından yönetilebilir hale geldi.
Zurnanın zırt dediği yer burası, hayati olarak bağlandığımız bu teknolojiler ile ilgili karar mekanizması yine de insandı ama şimdi yönetsel fonksiyonlar da yapay zekaya devredilebilir görünüyor.
İnsanlığın sonunun geldiği, gelmekte olduğu kaygısı, türümüzün sanırım her zaman yaşadığı kaygılardan, iklim krizi bizi korkutuyor, korkutmalı da. Yapay zeka bizi korkutuyor, korkutmalı da.
Buraya bir not düşmek isterim, insanlığın sonu dünyanın sonu demek değil ama dünyanın sonu insanlığın sonu demek olabilir, başka gezegenlerde hayat kurmadıysak henüz. Bu nedenle iklim krizi ayrı bir başlık olarak benim kişisel listemde dünyanın bir numaralı problemi gibi görünüyor.
İlk atom bombası atıldıktan sonra da dünyanın sonunun geleceği endişesi sarmıştı herkesi. İnsanlık tarihi için çok uzun bir süre değil ama yaklaşık 80 yıl geçti, atom bombası ya da nükleer bombalar hala bir tehdit olmakla beraber listemizin ilk sıralarında değil.
Aletsiz, edevatsız veya örgütsüz halimiz ile besin zincirinin ortalarında yer alan bir türüz, ama sahip olduğumuz teknoloji ve bilgi ile bu zincirin en tepesinde açık ara farkla yer alıyoruz. Yine de Harari’nin dediği gibi milyonlarca yılda oluşan genetik altyapımız hala kendini besin zincirinde ortalarda bir yerde görüyor ve elimizdeki imkanları kaybedersek hayatta kalma şansımızın çok azalacağını içgüdüsel olarak bilmemizden kaynaklı sürekli korku ve kaygı içinde sahip olduklarımıza sıkı sıkıya tutunuyoruz.
Şimdi sahip olduğumuz bu gücü kaybetmekle ilgili bir endişemiz var, yapay zeka bizim seviyemizi geçerse, artık bu dünyadaki en güçlü tür olma ayrıcalığımızı kaybedersek ve hükmettiğimizi sandığımız bu dünyada aciz ve güçsüz kalırsak diye endişe ediyoruz. Dünyadaki en zeki tür olmasak ne olur? Yani mağrur olma padişahım senden güçlü Yapay Zeka var durumuna düşersek ne olur?
Aslında Yapay Zeka ile ilgili ilk aşamada asıl risk ve tedbir alınması gereken konu insandan insana gelecek tehditler. Çünkü elimizde inanılmaz bir güç var, bu güç kimin elinde ne niyetle kullanılacak bilmiyoruz. Bu konuda hak ve sorumluluklar nasıl belirlenecek, kanunlar bu hızla değişen teknolojiye paralel hızda nasıl güncellenecek ve bu kanunlar nasıl uygulanacak; bu arada atı alan Üsküdarı geçecek mi? Evet bu problemlerin hızla ele alınması gerek. Tarih boyunca toprak gibi, makineler gibi enerji gibi farklı kisvelere bürünmüş gücü elinde tutanlar arasında acımasız mücadeleler hep oldu, yapay zeka için de bu mücadele olacak.
Neden o zaman varoluşsal korkular yaşıyoruz, çünkü daha derindeki korku bu gücü eline geçirip kullanan ayrıcalıklı ya da egemen kişilerin-grupların da gücün kontrolünü kaybetmesi ihtimali. Atom bombasının atılması için yetkili birinin karar vermesi gerekir, ama yapay zeka bu kontrolü eline geçirirse ne olur?
Bu sorular ve endişeler Yapay Zeka konusundaki en yetkin kişilerce analitik bir şekilde ele alınıyor. Ama girizgahı öyle uzun tuttum ki, temelde 4 başlıkta ele alınan Yapay Zeka risklerini ve uzman görüşlerini paylaşmayı da bir sonraki yazıya bırakıyorum.
