Өздігінен басқарылатын көлік кімдерді өлтіреді? Машина, мүмкіндігінше көп адамды құтқар, бірақ бәрінен де мені құтқар!

Автокөліктің автономды жүйесі апат болған жағдайда кімді құрбан ету керектігін жылдам таңдауы керек жағдай туындаса, ол қалай әрекет етуі керек? Жаяу жүргіншілерді құтқару үшін жолаушыларды құрбан ету? Қажет болса, жаяу жүргіншіні, мысалы, көлікте келе жатқан төрт адамнан тұратын отбасын құтқару үшін өлтіріңіз бе? Немесе ол әрқашан алдымен өзін қорғауы керек шығар?

Тек Калифорнияда алпыстан астам компания жеке тестілеуге рұқсат алғанымен, сала этикалық дилеммаларға тап болады деп айту қиын. Қазіргі уақытта ол негізгі мәселелермен күресуде - жүйелердің жұмысы мен навигациялық тиімділігі және соқтығыстар мен күтпеген оқиғалардың алдын алу. Жақында Аризонадағы жаяу жүргіншіні өлтіру немесе одан кейінгі апаттар (1) сияқты жағдайларда әзірге бұл көліктің қандай да бір «этикалық таңдауы» туралы емес, жүйенің ақаулары туралы болды.

Байлар мен жастарды сақтаңыз

Жолда мұндай шешімдерді қабылдау мәселелері абстрактілі мәселелер емес. Мұны кез келген тәжірибелі жүргізуші дәлелдей алады. MIT Media Lab зерттеушілері өткен жылы 2014 жылы басталған зерттеу барысында жинаған дүние жүзіндегі респонденттердің қырық миллионнан астам жауаптарын талдады. Олар «Этика машинасы» деп атаған сауалнама жүйесі ұқсас сұрақтар әртүрлі бөліктерде қойылатынын көрсетті. әлемнің әртүрлі жауаптары.

Ең жалпы қорытындылар болжамды болып табылады. Экстремалды жағдайларда адамдар жануарларға қамқорлық жасаудан гөрі адамдарды құтқаруды жөн көреді, мүмкіндігінше көп адамның өмірін сақтап қалуды мақсат етеді және қарт адамдарға қарағанда жас болады (2). Ерлерге қарағанда әйелдерді, кедей адамдарға қарағанда жоғары мәртебеге ие адамдарды және көлік жолаушыларына қарағанда жаяу жүргіншілерді құтқаруға қатысты кейбір, бірақ онша айқын емес артықшылықтар бар..

2. Көлік кімді сақтау керек?

Жарты миллионға жуық респондент демографиялық сауалнаманы толтырғандықтан, олардың қалауларын жасы, жынысы және діни сенімдерімен салыстыруға болады. Зерттеушілер бұл айырмашылықтар адамдардың шешімдеріне «айтарлықтай әсер етпеді» деген қорытындыға келді, бірақ кейбір мәдени әсерлерді атап өтті. Мысалы, француздар шешімді өлім-жітімнің болжамды санына қарай таразылауға бейім болды, ал Жапонияда ең аз екпін болды. Дегенмен, Күншығыс елінде қарттардың өмірі Батысқа қарағанда әлдеқайда жоғары бағаланады.

«Біз көліктерімізге өздерінің этикалық шешімдерін қабылдауға рұқсат бермес бұрын, бұл туралы жаһандық пікірталас жүргізуіміз керек. Автономды жүйелерде жұмыс істейтін компаниялар біздің қалауларымыз туралы білгенде, олар негізінде машиналарда этикалық алгоритмдер әзірлейді және саясаткерлер барабар заң ережелерін енгізе алады », - деп жазды ғалымдар 2018 жылдың қазан айында Nature журналында.

Моральдық машина экспериментіне қатысқан зерттеушілердің бірі Жан-Франсуа Боннефонт жоғары мәртебеге ие адамдарды (мысалы, баспанасыздардан гөрі басшыларды) құтқаруды артық көрді. Оның пікірінше, бұл өте байланысты белгілі бір елдегі экономикалық теңсіздік деңгейі. Теңсіздіктер көп болған жерде кедейлер мен үйсіздерді құрбандыққа шалуға артықшылық берілді.

Алдыңғы зерттеулердің бірі, атап айтқанда, респонденттердің пікірінше, автономды автокөлік жолаушыларды жоғалтып алса да, мүмкіндігінше көп адамды қорғауы керек екенін көрсетті. Алайда, бұл ретте респонденттер мұндай бағдарламаланған көлікті сатып алмайтындарын мәлімдеді. Мұны зерттеушілер түсіндірді адамдар көбірек адамдарды құтқаруды этикалық деп санағанымен, олар өз мүдделерін де ойлайды, бұл өндірушілерге тұтынушылардың альтруистік жүйелермен жабдықталған автокөліктерді сатып алғылары келмейтіні туралы сигнал болуы мүмкін.. Біраз уақыт бұрын Mercedes-Benz компаниясының өкілдері олардың жүйесі бір адамды ғана құтқарса, жаяу жүргіншіні емес, жүргізушіні таңдайтындарын айтқан болатын. Қоғамдық наразылық толқыны компанияны декларациясынан бас тартуға мәжбүр етті. Бірақ зерттеулер бұл қасиетті ашуда екіжүзділіктің көп болғанын анық көрсетеді.

Бұл қазірдің өзінде кейбір елдерде орын алып жатыр. құқықтық реттеудің алғашқы әрекеттері алаңда. Германияда жүргізушісіз көліктер кез келген жағдайда жарақаттанудың немесе өлімнің алдын алуды талап ететін заң қабылдады. Заң сонымен қатар алгоритмдер ешқашан жас, жыныс, денсаулық немесе жаяу жүргіншілер сияқты сипаттамаларға негізделген шешім қабылдай алмайтынын айтады.

Ауди жауапкершілікті өз мойнына алады

Дизайнер көлікті пайдаланудың барлық салдарын болжай алмайды. Шындық әрқашан бұрын ешқашан тексерілмеген айнымалылар комбинациясын қамтамасыз ете алады. Бұл біздің машинаны «этикалық бағдарламалау» мүмкіндігіне деген сенімімізді әлсіретеді. Бізге «автокөліктің кінәсінен» қателік орын алған және қайғылы жағдай орын алған жағдайларда жауапкершілікті жүйені өндіруші және әзірлеуші ​​өз мойнына алуы керек сияқты.

Мүмкін бұл пайымдау дұрыс шығар, бірақ қате болғандықтан емес. Керісінше, қозғалысқа рұқсат етілгендіктен, оны жасау мүмкіндігінен 2019% бос емес. Бұл себеп болған сияқты және компания ортақ жауапкершіліктен бас тартпайды, ол жақында 8 жасар A3-де автоматты Traffic Pilot (XNUMX) жүйесін пайдалану кезіндегі жазатайым оқиғаларға жауапкершілік алатынын жариялады.

3. Audi Traffic Jam Pilot интерфейсі

Екінші жағынан, миллиондаған адамдар көлік жүргізіп, қателеседі. Неліктен статистикалық тұрғыдан адамдарға қарағанда әлдеқайда аз қателіктер жіберетін машиналарды, көптеген қателіктер дәлелдейді, бұл тұрғыда кемсіту керек?

Автономды көліктер әлеміндегі этика мен жауапкершілік дилеммалары қарапайым деп ойлайтын адам болса, ойланыңыз...