Kendi kendini süren bir araba kimleri öldürecek? Makine, mümkün olduğu kadar çok insanı kurtar, ama hepsinden önemlisi, beni kurtar!
Bir arabanın otonom sisteminin yakın bir kaza durumunda kimi feda edeceği konusunda hızlı bir seçim yapması gereken bir durum ortaya çıkarsa, nasıl tepki vermelidir? Yayaları kurtarmak için yolcuları feda etmek mi? Gerekirse, örneğin bir arabada seyahat eden dört kişilik bir aileyi kurtarmak için bir yayayı öldürün mü? Ya da belki her zaman önce kendini korumalıdır?
Altmıştan fazla şirket yalnızca Kaliforniya'da kişisel test izinleri almış olsa da, endüstrinin etik ikilemlerle karşı karşıya olduğunu söylemek zor. Şu anda, daha temel sorunlarla mücadele ediyor - sistemlerin çalışması ve navigasyon verimliliği ve sadece çarpışmalardan ve öngörülemeyen olaylardan kaçınma. Yakın zamanda Arizona'da bir yayanın öldürülmesi veya müteakip kazalar (1) gibi durumlarda, şimdiye kadar sadece sistem arızalarıyla ilgiliydi ve arabanın bir tür "etik seçimi" ile ilgili değildi.
Zenginleri ve gençleri kurtarın
Bu tür kararların alınması sorunları soyut sorunlar değildir. Herhangi bir deneyimli sürücü bunu onaylayabilir. Geçen yıl, MIT Medya Laboratuarı'ndan araştırmacılar, 2014 yılında başlatılan araştırma sırasında topladıkları, dünyanın dört bir yanından katılımcılardan gelen kırk milyondan fazla yanıtı analiz ettiler. "Etik Makine" olarak adlandırdıkları anket sistemi, dünyanın çeşitli yerlerinde Dünyada benzer sorulara farklı cevaplar soruluyor.
En genel sonuçlar tahmin edilebilir. Aşırı durumlarda insanlar, hayvanlara bakmaktansa insanları kurtarmayı tercih ediyor, mümkün olduğu kadar çok hayat kurtarmayı hedefliyor ve yaşlılardan daha genç olma eğilimindeler (2). Kadınları erkeklere, daha yüksek statülü insanları daha yoksullara ve yayaları araba yolcularına tercih etmeye gelince, bazı, ancak daha az belirgin olan tercihler de vardır..
2. Araba kimi kurtarmalı?
Neredeyse yarım milyon katılımcı demografik anketleri doldurduğundan, tercihlerini yaş, cinsiyet ve dini inançlarla ilişkilendirmek mümkün oldu. Araştırmacılar, bu farklılıkların insanların kararlarını "önemli ölçüde etkilemediği" sonucuna vardılar, ancak bazı kültürel etkilere dikkat çektiler. Örneğin, Fransızlar kararları tahmini ölüm sayısına göre değerlendirme eğilimindeyken, Japonya'da vurgu en azdı. Ancak, Yükselen Güneşin Ülkesinde, yaşlıların hayatına Batı'dan çok daha fazla değer verilir.
"Otomobillerimizin kendi etik kararlarını vermelerine izin vermeden önce, bu konuda küresel bir tartışma yapmamız gerekiyor. Otonom sistemler üzerinde çalışan şirketler tercihlerimizi öğrendiğinde, onlara dayalı makinelerde etik algoritmalar geliştirecekler ve politikacılar yeterli yasal hükümler getirmeye başlayabilir ”diye yazdı bilim adamları Ekim 2018'de Nature'da.
Ahlaki Makine deneyine katılan araştırmacılardan biri olan Jean-Francois Bonnefont, daha yüksek statüdeki insanları (evsizler yerine yöneticiler gibi) kurtarma tercihini endişe verici buldu. Ona göre, bu çok ilgili belirli bir ülkedeki ekonomik eşitsizlik düzeyi. Eşitsizliklerin daha fazla olduğu yerlerde, yoksulları ve evsizleri kurban etmek tercih edildi.
Önceki çalışmalardan biri, özellikle, katılımcılara göre, otonom bir arabanın, yolcularını kaybetmek anlamına gelse bile, mümkün olduğunca çok insanı koruması gerektiğini gösterdi. Ancak aynı zamanda katılımcılar bu şekilde programlanmış bir araba satın almayacaklarını belirtmişlerdir. Araştırmacılar açıkladı İnsanlar daha fazla insanı kurtarmayı daha etik bulurken, aynı zamanda kendi çıkarlarını da düşünüyorlar; bu da üreticilere, müşterilerin fedakar sistemlerle donatılmış arabaları satın almak konusunda isteksiz olacağına dair bir işaret olabilir.. Bir süre önce Mercedes-Benz şirketinin temsilcileri, sistemleri yalnızca bir kişiyi kurtarırsa, yayayı değil sürücüyü seçeceklerini söyledi. Halkın protesto dalgası şirketi beyanını geri çekmeye zorladı. Ancak araştırmalar, bu kutsal öfkede çok fazla ikiyüzlülük olduğunu açıkça gösteriyor.
Bu zaten bazı ülkelerde oluyor. yasal düzenlemeye yönelik ilk girişimler alanında. Almanya, sürücüsüz araçların her ne pahasına olursa olsun yaralanma veya ölümden kaçınmasını gerektiren bir yasa çıkardı. Kanun ayrıca algoritmaların asla yaş, cinsiyet, sağlık veya yaya gibi özelliklere göre karar veremeyeceğini belirtiyor.
Audi sorumluluk alıyor
Tasarımcı, arabanın çalışmasının tüm sonuçlarını tahmin edemez. Gerçeklik her zaman daha önce hiç test edilmemiş değişkenlerin bir kombinasyonunu sağlayabilir. Bu, bir makineyi "etik olarak programlama" olasılığına olan inancımızı baltalıyor. Bize öyle geliyor ki, "arabanın arızası nedeniyle" bir hatanın meydana geldiği ve bir trajedinin meydana geldiği durumlarda, sorumluluk sistemin üreticisi ve geliştiricisi tarafından üstlenilmelidir.
Belki bu akıl yürütme doğrudur, ama belki de yanlış olduğu için değil. Bunun yerine, 2019'da yapma olasılığından% arınmış olmayan bir harekete izin verildiği için. Sebep bu gibi görünüyor ve geçtiğimiz günlerde içinde otomatik Trafik Sıkışıklığı Pilotu (8) sistemi kullanırken 3 yaşındaki bir AXNUMX'in karıştığı kazaların sorumluluğunu üstleneceğini açıklayan şirket ortak sorumluluktan kaçmıyor.
3. Audi Trafik Sıkışıklığı Pilot Arayüzü
Öte yandan, araba kullanan ve aynı zamanda hata yapan milyonlarca insan var. Öyleyse, sayısız hatanın da gösterdiği gibi, istatistiksel olarak insanlardan çok daha az hata yapan makineler neden bu konuda ayrımcılığa maruz kalsın?
Otonom araçlar dünyasında etik ve sorumluluk ikilemlerinin basit olduğunu düşünen varsa, düşünsün...
