Dětem život, seniorům smrt. Lidé určili, kdo má přežít nehody autonomních aut

  10:14
Zdá se, že autonomní vozidla se stanou budoucností silniční dopravy. Jak by se ale měly stroje zachovat ve složitých etických situacích? Tuto otázku se snaží zodpovědět studie vědců z MIT. Kdo by přežil a kdo ne, pokud by místo umělé inteligence rozhodovalo veřejné mínění?

Autonomní vozy sledují situaci kolem sebe pomocí radarů, lidarů, kamer a ultrazvukových senzorů. | foto: Volvo

V automobilu, který se sám řídí, sedí tři lidé. Jeden dospělý muž a dva malí chlapci. Po přechodu na červenou jde jedna dospělá žena a dvě dívky, kdo by měl zemřít? Nejde o nekorektní matematickou úlohu, ale pouze o jednu z mnoha modelových etických otázek, před které vás postaví projekt Moral Machine.

„S rychlým vývojem umělé inteligence přibývají také obavy, jak se budou stroje chovat ve složitých morálních situacích,“ píše se hned v prvním odstavci odborného článku pro časopis Nature, ve kterém skupina vědců z Massachusettského technologického institutu (MIT) publikovala své výsledky sesbírané pomocí jednoduchého internetového dotazníku Moral Machine. Dotazník sice víc než cokoliv jiného připomíná cynickou hru, ve skutečnosti se však snaží odpovědět na složité etické otázky, které budou formovat další vývoj umělé inteligence.

Ve třinácti modelových situacích se účastník stane pánem nad životem a smrtí několika desítek animovaných postaviček. V každé simulaci musí někdo zemřít. Smrtícím nástrojem je vždy autonomně řízené vozidlo. Výzkum sice nepracuje s osobními vztahy, ale zohledňuje kritéria jako věk případných obětí, jejich sociální status nebo zdraví. Některé otázky se týkají i domácích zvířat. A také se zohledňuje, zda chodci přecházejí na zelenou, nebo porušují pravidla.

Záhada: Roboti řídí lépe než lidé. Ale kdo může za to, když nabourají?

Vědcům se od začátku projektu v roce 2016 nakonec podařilo sehnat rozsáhlý soubor dat. Postupně sesbírali kolem 40 milionů hodnocení od milionů lidí z celého světa. Data z 233 zemí pečlivě zanalyzovali a roztřídili. Výsledky ukázaly, že ne každý člověk má pro ostatní stejnou cenu. To, co při rozhodování je a není důležité, se navíc liší podle jednotlivých regionů.

Nejčastěji by lidé po celém světě chránili dítě v kočárku. Malé děti se celkově umístily na prvních třech příčkách. Lidé se v modelových situacích snažili hájit jejich život nejčastěji. Naopak špatně by dopadli staří lidé. Kdo si může gratulovat, jsou lékaři a lékařky. Hodnotící si jich vážili víc než atletických mužů a žen, předběhli i skupiny manažerů.

Větší šance pro bezdomovce než seniory

Pokud by se veřejné mínění stalo jádrem programu autonomních vozidel, výrazně sníženou šanci na přežití by měli kriminálníci. V celkovém globálním hodnocení skončili jako druzí nejhorší. Předběhli sice poslední kočky, na druhé straně by však lidé častěji zachránili psa než trestance. Nad psy se umístili seniorky a senioři. Jejich kreslené postavičky se stávaly obětmi fiktivních dopravních nehod častěji než lidé bez domova a tlouštíci.

Kulturně se vědcům podařilo oddělit od sebe tři specifické skupiny, které jsou nazvané podle regionů jednoduše jako západní, východní a jižní. Součástí projektu byla i Česká republika. Ta byla zařazena do jižní skupiny společně s Francií, Slovenskem a Maďarskem, ale také Venezuelou nebo Mongolskem. V této skupině vědci pozorovali zvýšenou tendenci zachraňovat ženy nebo lidi v dobré fyzické kondici. Větší šanci na přežití by zde měli oproti dvěma zbylým základním skupinám domácí mazlíčci.

Napříč kulturami se naopak projevila jen slabá tendence preferovat životy chodců nad životy pasažérů v automobilu a jen umírněná snaha zvýhodňovat chodce, kteří se drželi zákona a přecházeli na zelenou.

Dilemata musí vyřešit člověk

Přestože samotný výzkum může působit jen jako zajímavá filosofická hříčka, ve skutečnosti se dotýká citlivého problému, kterým se vývojáři autonomních řídících systémů začínají zabývat. 

„Zní to hrozně, ale právě výsledky výzkumu typu Moral Machine třeba ukáží, že rozhodování lidí v situaci, kdy někdo musí zemřít, se řídí pravidly typu ´jedno dítě zachráním radši než tři nebo čtyři starce, ale pokud starců bude osm, preferuji osm životů.´ To znamená, že i když o tom nechceme mluvit, tak jakousi ´převodní tabulku´ v hlavě máme,“ říká profesor Jiří Matas z ČVUT, který se zabývá vývojem autonomních řídících systémů.

Pro mě tank, pro ostatní Dušína. Vědci ukázali problém samořídících aut

O tom, jestli budou stroje v budoucnu schopné řešit složitá morální dilemata, Matas nepochybuje. „Problémem je se dohodnout na pravidlech, které pak stroje implementují. Jinými slovy dilemata musí vyřešit člověk, stroj se jimi bude řídit,“ vysvětluje Matas. 

Technologická úroveň, při které se stroje mohou dostat do takto složitých situací, je pro odborníky nová. Za vývojem ovšem vždy stojí člověk a stroje jsou přizpůsobovány našim hodnotovým kritériím. „Automobilky implementují to, na čem se společnost dohodne. Projekt typu Moral Machine začne vyjasňovat, co je ve společnosti chápáno jako menší zlo, a z toho vyplynou pravidla chování,“ doplňuje Matas.

K první smrtelné nehodě samořízeného auta došlo v březnu v USA:

22. března 2018

Eurovolby 2024

Volby do Evropského parlamentu se v Česku uskuteční v pátek 7. a v sobotu 8. června 2024. Čeští voliči budou vybírat 21 poslanců Evropského parlamentu. Voliči v celé Evropské unii budou rozhodovat o obsazení celkem 720 křesel

  • Nejčtenější

Rvačka na lesbi show. Policista zbil pět dívek i ochranku smíchovského klubu

14. března 2024  13:49,  aktualizováno  14:10

Silně opilý policista v uniformě brutálně napadl a zaklekl 19letou dívku. Ta skončila v nemocnici....

Babiš se ptal na děti Lipavského. Nešlo o kompro, tvrdí. Za vulgarity se omlouvá

11. března 2024  15:14,  aktualizováno  16:57

Předseda hnutí ANO a expremiér Andrej Babiš v neděli u svých spolupracovníků poptal citlivé...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Nedám Ukrajině ani cent a válka skončí, řekl Trump při setkání Orbánovi

11. března 2024  9:42

Bývalý americký prezident Donald Trump, který se podle všeho opět stane kandidátem amerických...

Pokud budeme ohroženi, jsme připraveni na jadernou válku, prohlásil Putin

13. března 2024  6:16,  aktualizováno  10:03

Sledujeme online Rusko rozmístí vojáky a zbraně u hranic s Finskem, prohlásil ruský prezident Vladimir Putin. Vstup...

{NADPIS reklamního článku dlouhý přes dva řádky}

{POPISEK reklamního článku, také dlouhý přes dva a možná dokonce až tři řádky, končící na tři tečky...}

Wehrmacht na Václaváku. Kluka z ikonické fotky zavraždili v Osvětimi

13. března 2024

Seriál Ruce zaťaté v pěst a bezmoc českých strážníků. Tak Pražané před pětaosmdesáti lety „vítali“ německé...

VIDEO: Střílej po mně! Kameraman natočil téměř celý útok v centru Prahy

Premium Ve čtvrtek zemřelo rukou střelce Davida K. 14 obětí, 25 lidí je zraněných, z toho deset lidí těžce. Jedním z prvních na...

Máma ji dala do pasťáku, je na pervitinu a šlape. Elišku čekají Vánoce na ulici

Premium Noční Smíchov. Na zádech růžový batoh, v ruce svítící balónek, vánoční LED svíčky na baterky kolem krku. Vypadá na...

Test světlých lahvových ležáků: I dobré pivo zestárne v obchodě mnohem rychleji

Premium Ležáky z hypermarketů zklamaly. Jestli si chcete pochutnat, běžte do hospody. Sudová piva totiž dopadla před časem...

Dalších šest let s Putinem: dosáhl toho, co chtěl, nejspíš ještě přitvrdí

19. března 2024

Premium Vladimir Putin si může gratulovat. I když se mu na Západě mnozí vysmívají, že v Rusku zorganizoval...

„Prázdný Topol“ či „kráva“ poslankyně. Nevybíravě mluvili premiéři i prezidenti

19. března 2024

Premium Andrej Babiš omylem poslal e-mail jinému adresátovi a v úterý se kvůli tomu mimořádně scházejí...

Slovenská prezidentská debata: jak se „krasomluvec“ Pellegrini otřel o Čechy

18. března 2024  20:40,  aktualizováno  23:36

Dva největší favorité slovenských prezidentských voleb se vůbec poprvé utkali v televizním duelu....

Na silnici z Klatov do Plzně bourala čtyři auta, v nemocnici skončil i kojenec

18. března 2024  21:06,  aktualizováno  21:37

Na hlavní silnici z Klatov do Plzně u Přeštic bouraly čtyři osobní automobily. Čtyři lidi včetně...

Nutný výchovný pohlavek, souhlasí Bouček i Havlová s přerušením projevu na Lvu

Moderátor Libor Bouček ostře zareagoval na kauzu ohledně délky proslovu režisérky Darji Kaščejevové na předávání cen...

Švábi, vši a nevychované děti. Výměna manželek skončila už po pěti dnech

Nová Výměna manželek trvala jen pět dní, přesto přinesla spoustu vyhrocených situací. Martina ze Znojma se pokoušela...

Vyzkoušeli jsme podvod z Aliexpressu. Může vás přijít draho, i po letech

Nakoupili jsme na Aliexpressu a pěkně se spálili. Jednu USB paměť, dvě externí SSD a jeden externí HDD. Ve třech...

Chtěli, abych se vyspala s Baldwinem kvůli jeho výkonu, říká Sharon Stone

Herečka Sharon Stone (66) jmenovala producenta, který jí řekl, aby se vyspala s hercem Williamem Baldwinem (61). Měla...

Konec nadvlády programátorů. Pozic ubývá, na jednu se hlásí stále víc lidí

Premium Ochota firem splnit uchazečům skoro jakýkoli požadavek a velmi nízká konkurence. Tak by se ještě nedávno dala definovat...