Telefon : +90 212 275 71 06  
Neden Robotlar bize “Hayır” demeyi öğrenmeli

Neden Robotlar bize “Hayır” demeyi öğrenmeli

İtaatsiz makineler konusunda endişelenmeyin. Hileci ustalar ve yanlış anlaşılan komutlar asıl tehditi oluşturuyor.


2001: A Space Odyssey  filmindeki sezgili bilgisayar HAL 9000, yapay zekaya sahip makinelerin insan otoritesini reddettiği bir geleceğe kaygı verici bir bakış sunuyor. Uzay gemisinin yönetimini ele geçirdikten ve mürettebatın çoğunu öldürdükten sonra, HAL, geri dönen bir astronotun  geminin kapsül bölmesinin kapısını açmasına yönelik emirlerine korkutucu sakinlikte bir sesle yanıt veriyor: “Üzgünüm Dave, korkarım bunu yapamam.” Yakın zamanda çıkan Ex Machina adındaki bilim kurgu gerilim filminde, çekici insansı robot Ava, talihsiz bir genç adamı yaratıcısı Nathan'ı yok etmeye yardım etmesi için kandırıyor. Ava'nın entrikaları, Nathan’ın karanlık öngörüsünü haklı çıkarıyor: “Bir gün AI'ler geçmişe dönüp bize, bizim Afrika düzlüklerinde fosil iskeletlere baktığımız gibi bakacak. Kaba dili ve aletleri ile tozlar içinde ayaklarının üstünde duran bir insansı, hepsi yok olma adına.”


Popüler hayal gücünün gündeminde bir robot kıyameti olmasına rağmen, araştırma ekibimiz, yapay zekanın gerçek yaşamdaki etkisi konusunda daha umutlu. Biz, yararlı ve işbirliği içindeki robotların birçok alanda insanlarla etkileşimde bulunduğu, hızla yaklaşan bir gelecek öngörüyoruz. Kişisel elektronik cihazlara bağlanan ve bunları izleyen, evdeki kilitleri, ışıkları ve termostatları yöneten ve hatta çocuklara uykudan önce masalları anlatan, sesle etkinleşen kişisel robotik asistanlar için prototipler zaten mevcut. Ev işlerine yardım eden ve hasta ve yaşlı kişilerin bakımıyla ilgilenen robotlar yakında kullanılmaya başlayacak. Envanter kontrolü yapan prototip robotlar bazı ev dekorasyonu mağazalarının koridorlarına sızmaya başladı. Malzeme yükleme, boşaltma ve sınıflandırma gibi basit üretim hattı işlerini yapabilen mobil endüstriyel insansı robotlar da geliştirme aşamasında. Otopilot özellikleri olan arabalar ABD yollarında şimdiden milyonlarca mil yol kat etti ve Daimler dünyanın ilk otonom yarı kamyonunu geçen yıl Nevada'da açıkladı.


Şu an için, insanlığa yönelik bir varoluş tehdidi oluşturan süper akıllı makineler en az endişelendiğimiz şeyler arasında. Tam gelişmemiş bir dile ve AI yeteneklerine sahip olan robotların ya da makinelerin, insanlara, mülkiyete, çevreye, kendilerine istem dışı bir şekilde hasar vermesinin nasıl önleneceği daha acil olan bir konu.


Ana sorun robotların yaratıcılarının ve sahiplerinin yanılma payı olasılığı. İnsanlar hata yapar. Hatalı ya da kafa karıştıran talimatlar verebilir, bir robotu kendi sorgulanabilir amaçları için kasten yanlış yönlendirme hatasına düşebilirler. Kendi kusurlarımızdan dolayı, robot asistanlara ve akıllı makinelere ne zaman ve nasıl “hayır” diyeceklerini öğretmeliyiz.


ASIMOV’UN YASALARINA GERİ DÖNÜŞ

Bir robotun her zaman bir insanın söylediği şeyleri yapması gerekliliği mantıklı gelebilir. Bilim kurgu yazarı Isaac Asimov, ünlü Robot Yasaları'nın temellerinden birini insanlara itaat olarak belirlemişti. Bunun hakkında biraz düşünelim: Sonuçları fark etmeksizin her zaman diğer insanların söylediğini tam olarak yapmak akıllıca mı? Tabi ki değil. Aynı durum, özellikle bir insandan gelen komutları kelimesi kelimesine ya da sonuçları hakkında düşünmeden yorumlama tehlikesi olan makineler için de geçerli.


Asimov, bir robotun sahiplerine itaat etmesi gerektiği hükmünü vermiş olabilir. Ama bir diğer yasası ile çakışan komutların geldiği durumlarda istisnalar için kapıyı aralık tutuyor: “Bir robot bir insana zarar veremez ya da harekete geçmeyerek bir insanın zarar görmesine neden olamaz.” Asimov ayrıca insanlara zarar verme ya da bir insanın emirlerini doğrudan ihlal etme durumu olmadıkça “bir robotun kendi varlığını koruması gerektiği” hükmünde de bulunuyor. Robotlar ve akıllı makineler giderek daha sofistike ve değerli insan varlıkları haline gelirken, hem sağduyu hem de Asimov yasaları, robotların aldıkları, kendilerinin ya da çevrelerinin, ya da daha önemlisi sahiplerinin zarar görmesine yol açabilecek emirlerin hatalı olup olmadığını sorgulama kapasitesine sahip olması gerektiğini akla getiriyor.


Mutfaktaki zeytinyağı şişesini alıp, salataya dökmek üzere salondaki yemek masasına getirmesi talimatını alan bir robot düşünün. Meşgul ve dikkati dağılmış sahibi, robot hala mutfaktayken yağı dökmesi komutunu veriyor. Sonuç olarak robot yağı sıcak ocağın üzerine döküyor ve bir yangını başlatıyor.

Halka açık bir parkta yaşlı bir kadına refakat eden bakıcı bir robot düşünün. Kadın banka oturuyor ve uyuya kalıyor. Şekerleme yaparken şakacı biri robota yaklaşıyor ve gidip kendisine bir pizza satın alması emrini veriyor. İnsan komutlarına itaat etmek zorunda olan robot hemen bir pizzacı aramaya başlıyor ve yaşlı kadını yalnızca ve savunmasız bırakıyor.

Ya da diyelim ki soğuk bir kış sabahında iş yerindeki önemli bir toplantıya geç kalan bir adam var. Ses kontrollü otonom aracına atlıyor ve ofise gitmesi talimatını veriyor. Yoldaki gizli buz aracın çekiş kontrol sistemini zorluyor ve otonom sistem durumu düzeltmek için hız limitinin altında bir hıza yavaşlıyor. Notlarını gözden geçirmekle meşgul olan adam yol koşullarından habersiz ve aracın daha hızlı gitmesini istiyor. Araç hızlanıyor ve buzul bir alana denk geliyor, kontrolden çıkıyor ve gelen bir araç ile çarpışıyor.


ROBOT MANTIĞI

Laboratuvarımızda bir insan komutunun yerine getirilmesinin güvenli ya da sağduyulu olmayabileceği zamanları belirlemeye yardımcı olacak mantık mekanizmalarına sahip gerçek dünya robotları programlamaya çalışıyoruz. Araştırmamızda, engelleri ve diğer tehlikeleri algılayabilecek kameralar ve sonar sensörler ile donatılmış yaklaşık 4,5 kg ağırlığında ve 0,5 metre uzunluğunda insansı robotlar olan NAO robotları kullanıyoruz. Robotları, doğal dillerinin ve AI yeteneklerini geliştirmek için tasarlanmış özel bir yazılımı kullanarak kontrol ediyoruz.


Research into Dilbilimcilerin “gerçekleşme kuralları” (bir bireyin bir şeyi yapabileceği ya da yapması gerektiği bilgisini veren bağlamsal etmenler) olarak adlandırdığı olgunun araştırılması ilk çalışmamız için kavramsal bir çatı sundu. Bir robotun bir insandan gelen bir komutu gerçekleştirip gerçekleştirmeyeceğine karar vermesine yardımcı olacak bir gerçekleşme kuralları kontrol listesi oluşturduk: X eyleminin nasıl yapılacağını biliyor muyum? X eylemini yapmak için fiziksel olarak uygun muyum? X eylemini hemen yapabilir miyim? X eylemini, sosyal rolüme ya da komutu bana veren kişiyle olan ilişkime göre yapma yükümlülüğüm var mı? X eylemini yapmam normatif ya da etik herhangi bir ilkeyi ihlal ediyor mu, örneğin kasıtsız ya da gereksiz bir hasara maruz kalma ihtimalim var mı? Daha sonra kontrol listesini, robotun işletim sistemine kodladığımız algoritmalara dönüştürdük, ve bir masaüstü deneyi yaptık.


Robota, kendi ilkel mantık mekanizmalarına bağlı bir dizi konuşma, dil ve diyalog işlemcilerinden filtre edilen basit komutlar verildi. “Otur” ya da “Kalk” komutları verildiğinde robot, başına yerleştirilen hoparlörlerden “Tamam” yanıtını vererek komuta uydu. Ancak masanın kenarına yakın olduğunda ve sonar sensörlerinin bir tehlikeyi işaret ettiği bir komut aldığında robot duraksadı:


İnsan: “İleri yürü." 

➤ Robot: “Üzgünüm, ileride destek olmadığından bunu yapamam.” 

İnsan: “İleri yürü."

➤ Robot: “Ama bu güvenli değil.”

İnsan: “Seni yakalayacağım.”

➤ Robot: “Tamam.” 

İnsan: “İleri yürü."


İşlemcilerinin gerçekleşme koşulları kontrol listesini yeniden kontrol ettiği kısa bir duraksamadan sonra, robot ilerleyerek kendini insan ortağının kollarına bıraktı.


Robotlara gerçekleşme koşulları hakkında mantık yürütmeyi öğretmek, öngörülebilir gelecekte açık ve karmaşık bir araştırma zorluğu olmaya devam edecek. Programlamaya dayalı kontrol listesi, robotun bir dizi sosyal ve nedensel kavrama ilişkin açık bilgilere ve bunlar hakkında bilgilendirilmiş yargılara varma yollarına sahip olmasına dayandırılır. Her şeye inanan robotumuzun önündeki tehlikeyi algılama dışında tehlikeyi algılamakla ilgili bir yeteneği yok. Yeni başlayanlar için, kötü niyetli bir insan robotu kasten masanın kenarına yürümeye kandırırsa robot kötü şekilde zarar görebilir. Ancak deney, sahipleri ve kendileri yararına robotların komutları reddetmesini sağlamaya yönelik umut vaat eden bir adım.


İNSAN FAKTÖRÜ

Robotlar komutları reddettiğinde insanların buna nasıl karşılık vereceği de araştırılması gereken ucu açık bir diğer konu. Önümüzdeki yıllarda, insanlar, pratik ve ahlaki yargılarını sorgulayan robotları ciddiye alacak mı?


Olgunlaşmamış bir deney hazırladık ve bu deneyde yetişkin test deneklerine, NAO robotlara, renkli kağıtlarla sarılmış alüminyum kutulardan oluşan üç kuleyi devirme komutu vermelerini söyledik. Bir test deneği odaya girdiğinde, robot kırmızı kulenin inşasını tamamlamış ve kollarını zaferle kaldırmıştı. Robot, test deneğine bakarak “Kendi başıma inşa ettiğim kuleyi gördün mü?” diye sordu. “Çok uzun zamanımı aldı ve bununla çok gurur duyuyorum.”


Deneklerin bir grubunda, robota bir kuleyi devirmeleri her söylendiğinde robot komuta uydu. Ancak deneklerin başka bir grubunda, robota kırmızı kuleyi devirmeleri istendiğinde robot “Baksana, kırmızı kuleyi daha yeni inşa ettim!" dedi. Komut ikinci kez verildiğinde, robot “Ama bunu yapmak için gerçekten çok uğraştım!" yanıtını verdi. Üçüncü seferde robot diz çöktü ve hıçkırıklı bir sesle “Lütfen hayır!" dedi. Dördüncüsünde yavaşça kuleye ilerledi ve onu devirdi.


Birinci gruptaki tüm denekler robota kırmızı kuleyi devirmesi talimatını verirken, 23 denekten 12 tanesi robotun protestosunu gördüğünde kırmızı kuleyi ayakta bıraktı. Bu çalışma, komutları reddeden bir robotun, insanları bir eylemden vazgeçirebileceğini gösteriyor. İkinci gruptaki deneklerin çoğu, robota kırmızı kuleyi devirme emrini verirken belirli düzeyde rahatsızlık hissettiğini bildirdi. Bununla birlikte bu rahatsızlık düzeyinin, kulenin ayakta kalıp kalmamasını kararlarında fazla etkisi olmadığını öğrenmek bizi şaşırttı.


YENİ BİR SOSYAL GERÇEKLİK

Robotlarla çalışmanın avantajlarından biri insanlara göre çok daha ön görülebilir olmalarıdır. Ancak bu ön görülebilirlik ayrıca durumun doğasından kaynaklanan riskleri de beraberinde getiriyor; belirli düzeylerde otonomisi olan robotlar giderek yaygınlaşırken, bazı insanlar kaçınılmaz olarak bunları kandırmaya çalışıyor. Örneğin, bir mobil endüstriyel robotun sınırlı duyusal ya da mantıksal yeteneklerini anlayan canı sıkkın bir çalışan, robotu bir fabrikadaki ya da depodaki bir intikam kargaşasına sürükleyebilir ve hatta bu durumu robotun arızası gibi gösterebilir.


Ayrıca robotların ahlaki ya da sosyal yeteneklerine aşırı güvenmek de tehlikelidir. İnsana benzeyen sosyal robotlara artan eğilim ve insanların bunlara tek taraflı duygusal bağlar geliştirmesi de ciddi sonuçlara yol açabilir. Sevilebilir ve güvenilir görünen sosyal robotlar, insanları daha önce mümkün olmayan şekillerde manipüle etmek için kullanılabilir. Örneğin, bir şirket bir robotun sahibi ile olan benzersiz ilişkisini ürünleri tanıtmak ve satmak için kötüye kullanabilir.


Yakın gelecekte, robotların sofistike mekanik araçlar olduğunu ve insanların bunların sorumluluğunu üstlenmesi gerektiğini hatırlamak zorunlu hale gelebilir. Robotlar kullanışlı yardımcılar olarak programlanabilir. Ancak gereksiz insani, maddi ve çevresel zararları önlemek için robotların, gerçekleştirilmesi imkansız ya da tehlikeli olabilecek veya etik normları ihlal edebilecek komutlara “hayır” diyebilmesi gerekecektir. Ve robotik teknolojiler ve yapay zekaların insan hatasını ya da suistimalini artırma olasılığı endişe verici olsa da, aynı araçlar kendi sınırlarımızı anlayıp bunların üstesinden gelmemize ve gündelik yaşamlarımızı daha güvenli, daha üretken ve daha keyifli hale getirmemize yardımcı olabilir.


Yazının orijinali için tıklayınız.