Yapay zekâ (AI), Alexa’dan otonom arabalara kadar süratli bir şekilde ilerliyor. Bilim kurgu genellikle yapay zekayı insan gibi özelliklere sahip robotlar olarak gösterirken ederken, yapay zekâ Google’ın arama algoritmalarından ve çevirisinden IBM’in yapay zeka ürünlerine ve otonom silahlara kadar her şeyi kapsayabilir.
Günümüzde yapay zeka, tek bir görevi yerine getirmek için tasarlandığından (örneğin sadece yüz tanıma veya sadece internet aramaları veya sadece araba kullanmak) tekil yapay zeka (veya zayıf yapay zeka) olarak bilinir. Bununla birlikte, birçok araştırmacının uzun vadeli hedefi, genel yapay zekayı (güçlü yapay zeka) oluşturmaktır. Limitli yapay zeka, satranç oynamak veya denklem çözmek gibi belirli görevi ne olursa olsun insanlardan daha iyi performans gösterebilirken, AGI neredeyse her bilişsel görevde insanlardan daha iyi performans gösterecektir.
Çoğu yapay zeka araştırmacısı, bir yapay zekanın insan duygularını sergileme ihtimalinin düşük olduğu ve yapay zekanın kasıtlı olarak iyiliksever ya da kötü niyetli olmasını beklemek için hiçbir neden olmadığı konusunda hemfikir. Bunun yerine, yapay zekanın nasıl bir risk haline gelebileceğini düşünürken, uzmanlar büyük olasılıkla iki senaryo düşünüyor:
Yapay zeka, yıkıcı bir şey yapacak şekilde programlanmıştır: Otonom silahlar, öldürmeye programlanmış yapay zeka sistemleridir. Yanlış kişinin elinde, bu silahlar kolaylıkla toplu kayıplara neden olabilir. Dahası, bir yapay zeka silahlanma yarışı, yanlışlıkla bir AI savaşına yol açabilir ve bu da kitlesel kayıplara neden olabilir. Düşman tarafından engellenmekten kaçınmak için, bu silahların basitçe “kapatılması” son derece zor olacak şekilde tasarlanacak, böylece insanlar makul bir şekilde böyle bir durumun kontrolünü kaybedebilecekti. Bu risk, tekil yapay zeka ile bile mevcut olan bir risktir, ancak yapay zeka zekası ve özerklik seviyeleri arttıkça artar.
Yapay zeka, faydalı bir şey yapmak üzere programlanmıştır, ancak amacına ulaşmak için yıkıcı bir yöntem geliştirmektedir: Bu, yapay zekanın hedeflerini bizimkilerle tam olarak uyumlu hale getirmekte başarısız olduğumuzda gerçekleşebilir ki bu oldukça zor. Bir otonom araçtan sizi havaalanına götürmesini isterseniz, sizi oraya götürmek için elinden daha doğrusu zekasından gelen her şeyi yapar. Süper zeki bir sistem iddialı bir jeo mühendislik projesi ile görevlendirilirse, ekosistemimize bir yan etki olarak zarar verebilir ve onu durdurmaya yönelik insan girişimlerini karşılık verilmesi gereken bir tehdit olarak görebilir.
Bu örneklerde de görüldüğü gibi, gelişmiş yapay zeka ile ilgili endişe kötü niyet değil kendini güvene almaktır. Bir yapay zekâ, hedeflerine ulaşmada son derece başarılı olacaktır ve bu hedefler bizimkilerle uyumlu değilse bir sorunumuz var demek olabilir.
Bu gibi sebeplerden ötürü eğer yapay zekaya çok güvenirsek yarı yolda kalabiliriz, onu tehdit olarak görürsek eterince gelişmesine engel olabiliriz, yeterince koruyamazsak yıkımlar gerçekleşebilir. Bence yapay zeka şu anlık olmasa bile yapay zeka ilerde kontrol yetersiz olursa kötü ellerde sorun olabileceği gibi yeterince iyi korunursa ve geliştirilir ise insanlığa en büyük lütuflulardan biri olabilir.