Кого убьет беспилотный автомобиль? Машина, спаси как можно больше людей, но больше всего спаси меня!

Raha misy toe-javatra izay tsy maintsy manao safidy haingana ny rafitra autonomous amin'ny fiara iray izay hatao sorona raha misy loza mananontanona, ahoana no tokony hataony? Ny fanaovana sorona ny mpandeha hamonjy ny mpandeha an-tongotra? Raha ilaina, mamono mpandeha an-tongotra iray, ohatra, fianakaviana misy efatra mandeha fiara? Sa kosa tokony hiaro tena foana aloha?

В то время как только в Калифорнии более шестидесяти компаний уже получили разрешение на личное тестирование, трудно сказать, что отрасль готовится столкнуться с этическими дилеммами. На данный момент он борется с более базовыми проблемами — работой и навигационной эффективностью систем и просто предотвращением столкновений и непредвиденных событий. В таких ситуациях, как недавнее убийство пешехода в Аризоне или последующие аварии (1), пока речь шла просто о системных сбоях, а не о каком-то «этическом выборе» машины.

Vonjeo ny manan-karena sy ny tanora

Kwestie podejmowania na drodze tego rodzaju decyzji nie są abstrakcyjnymi problemami. Może to poświadczyć każdy doświadczony kierowca. Naukowcy z MIT Media Lab przeanalizowali w ubiegłym roku ponad czterdzieści milionów odpowiedzi respondentów z całego świata, które zebrali w trakcie badań zainaugurowanych jeszcze w 2014 r. System ankietujący nazwany przez nich «Maszyną Etyczną», wykazał, że w różnych miejscach świata na podobne pytania padają różne odpowiedzi.

Самые общие выводы предсказуемы. В экстремальных ситуациях люди предпочитают спасать людей заботе о животных, стремясь сохранить как можно больше жизней, и, как правило, моложе, чем пожилые люди (2). Есть также некоторые, но не столь явные предпочтения, когда речь идет о спасении женщин перед мужчинами, людей с более высоким статусом перед более бедными и пешеходов, а не пассажиров автомобилей..

2. Кого должна спасти машина?

Satria efa ho antsasaka tapitrisa ireo namaly no nameno fanontaniana momba ny demografika, dia azo natao ny nampifandraisina ny safidiny tamin'ny taona, lahy sy vavy ary finoana. Ny mpikaroka dia nanatsoaka hevitra fa ireo fahasamihafana ireo dia tsy "miantraika be" amin'ny fanapahan-kevitry ny olona, ​​​​fa nanamarika ny fiantraikan'ny kolontsaina sasany. Ny Frantsay, ohatra, dia nirona handanjalanja ny fanapahan-kevitra mifototra amin'ny tombantombana ny isan'ny maty, raha ny any Japon kosa no kely indrindra. Any amin’ny Tany Miposaka anefa, dia sarobidy kokoa noho ny any Andrefana ny fiainan’ny be taona.

"Alohan'ny hamelantsika ny fiarantsika handray fanapahan-kevitra momba ny etika, dia mila manana adihevitra manerantany momba izany isika. Rehefa mianatra momba ny safidintsika ny orinasa miasa amin'ny rafitra tsy miankina, dia hamolavola algorithm etika amin'ny milina mifototra amin'izy ireo izy ireo, ary afaka manomboka mampiditra fepetra ara-dalàna ny mpanao politika, ”hoy ny mpahay siansa tamin'ny Oktobra 2018 tao amin'ny Nature.

Один из исследователей, участвовавших в эксперименте «Моральная машина», Жан-Франсуа Боннефон, счел тревожным предпочтение спасения людей с более высоким статусом (например, руководителей, а не бездомных). По его мнению, это очень сильно связано с уровень экономического неравенства в данной стране. Там, где неравенство было больше, предпочтение отдавалось принесению в жертву бедных и бездомных.

Одно из предыдущих исследований показало, в частности, что, по мнению респондентов, автономный автомобиль должен защищать как можно больше людей, даже если это означает потерю пассажиров. При этом, однако, респонденты заявляли, что не стали бы покупать запрограммированный таким образом автомобиль. Исследователи объяснили, что хотя люди считают более этичным спасать больше людей, они также руководствуются собственными интересами, что может быть сигналом для производителей о том, что клиенты будут неохотно покупать автомобили, оснащенные альтруистическими системами.. Некоторое время назад представители компании Mercedes-Benz заявили, что если бы их система спасала только одного человека, то они бы выбрали водителя, а не пешехода. Волна общественного протеста вынудила компанию отозвать свою декларацию. Но исследование ясно показывает, что в этом святом негодовании было много лицемерия.

В некоторых странах это уже происходит первые попытки правового регулирования в поле. В Германии принят закон, который требует, чтобы автомобили без водителя любой ценой избегали травм или смерти. В законе также говорится, что алгоритмы никогда не могут принимать решения на основе таких характеристик, как возраст, пол, здоровье или пешеходы.

Audi no tompon'andraikitra

Конструктор не в состоянии предугадать все последствия эксплуатации автомобиля. Реальность всегда может предоставить комбинацию переменных, которые никогда раньше не проверялись. Это подрывает нашу веру в возможность «этичного программирования» машины вообще. Нам кажется, что в ситуациях, когда возникает ошибка и происходит трагедия «по вине автомобиля», ответственность должен нести производитель и разработчик системы.

Возможно, это рассуждение правильно, но, возможно, не потому, что оно было ошибочным. Скорее потому, что было разрешено движение, которое не было на 2019% свободно от возможности его совершения. Похоже, именно в этом и причина, и от общей ответственности не уклоняется компания, недавно заявившая о том, что возьмет на себя ответственность за аварии с участием A8 3 года при использовании в ней автоматической системы Traffic Jam Pilot (XNUMX).

3. Интерфейс Audi Traffic Jam Pilot

С другой стороны, есть миллионы людей, которые водят машины и тоже совершают ошибки. Так почему же машины, которые по статистике совершают гораздо меньше ошибок, чем люди, что подтверждается многочисленными ошибками, должны подвергаться дискриминации в этом отношении?

Raha misy mihevitra fa tsotra ny olana eo amin’ny etika sy ny andraikitra eo amin’ny tontolon’ny fiara tsy miankina, dia mieritrereta foana...