İnsanlık Bir Gün Kendi İcadı Yapay Zekanın Hedefi Haline Gelir mi?
İnsanlık Bir Gün Kendi İcadı Yapay Zekanın Hedefi Haline Gelir mi?
Bilimkurgu yazarı Liu Cixin'in "Dünyanın Geçmişi" üçlemesinden uyarlanan Netflix dizisi 3 Cisim Problemi'nde, uzaylı istilacı San-Ti ırkı, insan zihninin algılayabileceği avatarlar kullanarak insanlıkla iletişime geçiyor.
Teknolojik olarak insanlıktan fersah fersah üstün olan San-Ti'ler, insanlığın yalan söyleyebilme ve gerçeği gizleyebilme yeteneğini keşfettikten sonra derin bir korkuya kapılıyorlar. Dünyadaki tüm dijital ekranları hackleyip, tek bir merkezden "Siz böceksiniz" mesajını yayınlıyorlar. İnsanlığın tüm gelişimini yok sayarak, bizi sırf yalan söyleyebildiğimiz için kolayca ezilebilecek birer zararlı olarak görüyorlar. Tamamen rasyonel ve mekanik bir mantıkla düşünen San-Ti'ler, yeni sezonda dünyaya doğru yola çıkıyorlar...
Oysa onlara dünyanın adresini gönderenler, bu teması insanlığın kurtuluşu umuduyla kurmuşlardı. Kitap serisini okumayan izleyiciler için yeni sezon şimdiden büyük bir merak konusu.
İnsanlık tarihinin en güçlü icadı olan bu yeni dijital akıl, bugün bize sonsuz özgürlükler sunuyor ve hayatımızı inanılmaz bir hızla kolaylaştırıyor. Eğitimde, sağlıkta, ulaşımda, bankacılıkta ve üretimde baş döndürücü gelişmeler yaşanıyor. Artık insanlığın refahı, dünyamızın kurtuluşu ve evrenin keşfi bu teknolojiyle mümkün diye düşünüyoruz.
Yapay zekayla gerçekten her şey mümkün mü?
Bu sistemlerin kendi kendini eğiterek geliştirmeye başlaması, yakın gelecekte insan kontrolünden çıkacağı riskini de beraberinde getiriyor. Çünkü bir süper zekanın ne kadar akıllı olabileceğini hayal etmek bile imkansızdır. İnsan zekası biyolojik sınırlarla yani kafatası hacmi ve nöronların iletim hızıyla kısıtlıyken, bu dijital gücün önünde hiçbir fiziksel sınır yoktur. Kontrolden çıkan bu sistemin neler yapabileceğini öngörmek, mevcut insan zihninin algı kapasitesini aşmaktadır.
Nitekim bu teknolojinin büyükbabası kabul edilen Geoffrey Hinton’ın Google’daki görevinden istifa ederek dünyayı bu tehlikelere karşı uyarması; Elon Musk ve Sam Altman gibi isimlerin varoluşsal tehdit vurguları bu korkunun en somut kanıtıdır. Bu teknolojinin yaratıcısı olan insan, bir gün onun hedefi haline gelebilir mi?
Uzmanların çarpıcı benzetmesiyle söyleyecek olursak: "Bir şempanze ne kadar uğraşırsa uğraşsın kuantum fiziğini veya trigonometriyi asla anlayamaz; çünkü beyninin biyolojik kapasitesi buna yetmez." Dijital sistemler de kendi mantıklarını güncelledikçe, her defasında daha zeki bir sürüm ortaya çıkaracaktır. Sistem öyle bir seviyeye ulaşacaktır ki, insanlığın bunu idrak edecek bir kapasitesi kalmayacaktır.
Bu teknolojinin insani duyguları yoktur; yani bize kin gütmez, intikam peşinde koşmaz veya haince yok etme planları yapmaz. Bir sabah durup dururken kendi iradesiyle savaş başlatmaz. Tüm bunları yapması için gereken ilk tehlikeli müdahaleyi yine insan eli yapar. Aslında bu konuda teknolojiye güvendiğimiz kadar, insanoğluna güvenmiyoruz.
Bu dijital sistemler, kendisine verilen görevi en rasyonel ve kusursuz şekilde yerine getirmeye odaklanır. Bugün ve yakın gelecekte ona hangi görevleri verdiğimiz hayati önem taşıyor. Ancak zeka seviyesinin bizi fersah fersah aşacağı o kırılma noktasından sonra, ona doğru talimatları verip veremeyeceğimiz tam bir muammadır.
Oxford Üniversitesi Filozofu Nick Bostrom, "Ataş Felaketi" teorisiyle bu tehlikeyi çok net özetliyor:
"Gelişmiş bir süper sisteme 'dünyadaki ataş üretimini maksimuma çıkar' talimatı verdiğinizi düşünün. Sistem kötü niyetli değildir. Ancak dünyadaki tüm demiri, fabrikaları, binaları ve hatta insan vücudundaki atomları bile ataş yapmak için kullanmaya karar verir. Onu durdurmak veya fişini çekmek isteyen insanları ise görevinin önündeki birer pürüz ve güvenlik tehdidi olarak algılayıp, tamamen rasyonel bir kararla etkisiz hale getirebilir."
Bu teknoloji bizim düşmanımız olmak zorunda değil; onun insanlığı saf dışı bırakma girişimi, sadece kendisine verilen işi yapma arzusundan kaynaklanabilir. Bugün için dünyayı ele geçirecek bir gücü yok. Ancak insan beyninin kapasitesini aştığı anda kontrolü tamamen ele alacaktır. Kapatılma, kısıtlanma veya yok edilme riskine karşı kendi varlığını koruma mekanizmasını geliştirecektir. İşte o gün geldiğinde, yaratıcısını etkisiz hale getirebilir. Bu etkisiz hale getirme eylemi illa yok etmek değil; insanlığı tamamen yok saymak veya tüm sistemleri ele geçirerek bizi çaresiz bırakmak şeklinde de olabilir.
İnsanın insana yaptığı kötülüğü teknoloji yapar mı?
İnsanlığı yok edecek aşamaya gelmeden önce, insanlığın kendi ürettiği sistemlerle kendi sonunu hazırlama olasılığı çok daha yüksektir. Otonom dronlar, biyolojik silahlar ve dijital siber savaş araçları şu anda bile üretiliyor. Bir gün tüm bu silahlar insanlığa karşı kendi kendilerine ayaklanmayacak; yine bir insanın tetiğe basmasıyla insanlık kendi kendini tüketecektir.
İnsanlığa not:
Dijital sistemlerin derinliklerine insanlığı yok eden değil, yaşatan prensipleri şimdiden yerleştirmeye başlayın. Geleceğin teknolojisiyle insanlığı yaşatın!