İnsanlar seçimlerini sadece artı eksilere bakarak mı yapar? Yoksa işin içine duyguları karıştırır mı? İnsanlar dünya üzerinde irade ve düşünce becerisine sahip olan tek canlı türüdür. İnsanlar hayatları boyunca seçimler yapar ve bu seçimleri genelde duygularını ön plana koyarak yaparlar. Bazı durumlarda duygulardan kurtulup nötr bir şekilde karar vermemiz gerekse bile genelde çoğu seçimimiz kalbimizin bize söylediği olur. Ama işin içine duyguları katmasak o zaman düşünce becerisinin bir anlamı kalır mı? Her insanın her durumda aynı seçimi yaptığını düşünün, bu düşünme becerisi midir?
Gelişen teknoloji ile insanlık yapay zekaya merak saldı. Bu teknolojinin insanlığa yararlı olacağını düşünenler kadar insanlığın sonunu getireceğini düşünenler de var. Yapay zekanın gelecek yıllar içinde çoğu alanda insanlığın yerini alacağı söyleniyor. Örneğin doktorluk, aşcılık, hakimlik gibi meslek dallarını robotların devralacağı söyleniyor. Hakimlik mesleği yüksek derecede insani duygu ve insanların hayatının kaderini belirleyecek seçimler yapmayı gerektiren bir meslek. Her ne kadar kanunlar olup belli başlı sınırlar olsa da bu mesleğin içinde insanlıktan uzaklaşıp tamamen nötr kararlar vermek neredeyse imkansız. Peki bir insanın kodladığı bir robot hakim olursa seçimleri neye göre yapacak.
Bir robotumuz var diyelim. Robotumuzun içine insan öldürmenin kesinlikle yasak olduğu ve bunun ağır cezalar ile sonuçlandırılacağı ile ilgili kodlar yazalım. Şimdi ise olay örgüsünü kurgulayalım. Sokakta yürürken bir kadına taciz edildiğini gören bir insan kadını kurtarmaya çalışırken adamı öldürüyor fakat isteyerek değil, sadece yanlış açıdan yanlış yere atılan bir yumruk yüzünden. Bu insan mahkemeye çıktığı zaman robotumuzun vermesi gereken karar nedir ? Robotun içinde sadece kodlayan kişinin bu konu hakkında düşüncesini belirten bir kod var, robot ne düşünebiliyor ne de ahlaki değerlere sahip, sadece içinde bulunan koda göre bir seçim yapacak. Bu örnekte olduğu gibi aslında yapay zekanın düşünce ve ahlaki becerisi onu kodlayan kişi kadardır. Sadece içinde yazılanı uygular. Yapay zekanın adı üstünde kendi kendisini geliştirebilir diyebilirsiniz fakat kendisini geliştirmesi içinde temel bir koda ihtiyacı var. Yani burada kendisini geliştirme olayı ona verilen kodun daha kapsamlı hale gelmesinden ibarettir. Ana kod ne diyorsa temelde ona dayanır. İnsan öldürmenin kesinlikle yasak olduğunu yazarsanız robot düşünse bile bu sınırı asla aşmaz çünkü siz öyle istiyorsunuz. Yani kısacası yapay zeka kendisini geliştirebilir fakat temelinde bulunan kodları değiştiremez.
İnsanlar en önemli özelliği olan düşünce becerisi sadece kurallardan ibaret değil, duyguları da kapsayan bir konudur. Robotların duyguları edinebilmesi şu anda mümkün olmadığı için şu anki yapay zekalar ahlaktan uzak yanlış ve doğruyu ayırt edemeyen oluşumlardır. Ahlak kurallar yapay zekalar için öğrenilmesi neredeyse imkansız, yani kısacası robotların ahlaki kuralları öğrenebilmesi için daha çok zamana ihtiyacımız var.