Už od začátku své teoretické existence budila samořiditelná auta řadu pochybností. Fascinace technologickým pokrokem je jedna věc, ovšem etické a morální otázky, jež jsou s ním spojené, bychom rozhodně neměli přehlížet. V kontextu aktuálních událostí, kdy v nedávné době došlo hned k několika nehodám týkajícím se právě samořiditelných vozů, je nutno se ptát, jaké jsou vlastně možnosti takovýchto aut? A ať se zachovají, jak se zachovají, budeme s tím souhlasit?
Aktuální autonomní starosti
V březnu srazil samořiditelný Uber v americké Arizoně ženu, která dost nešťastně přecházela silnici. Auto jelo v režimu autopilota, řidič se kontrole vozidla nevěnoval, a došlo tak k první smrtelné nehodě chodce v souvislosti s provozem samořiditelných aut. Uber zareagoval promptně a v řadě států přestal tato vozidla využívat. O pouhých několik dnů později ale na amerických silnicích zemřel další člověk, tentokrát ve vozidle Tesla z výroby populárního vizionáře Elona Muska. Muž nedával pozor na cestu a i přes upozornění systému nechal auto nabourat do betonové zdi. Stálo ho to život.
Odpůrci autonomních technologií tak mají rázem v ruce argumenty pro zákaz automatického řízení. Je však vina skutečně na straně techniky? Musíme si uvědomit, že samořídící systémy se prezentují jako asistenti, kteří by měli řízení ulehčit, nikoli ho plně nahradit. Jedná se proto o pouhou automatizaci některých činností, což by mělo v důsledku umožnit větší bezpečnost a pohodlí při jízdě. Pokud se však na tyto systémy kompletně spolehneme, nemůžeme čekat, že se vždy zachovají zrovna tak, jak bychom chtěli my. Minimálně v současné době není technologický pokrok dostačující na to, aby se auta mohla řídit kompletně sama, a tak je lidská supervize stále ještě nezbytná.
Morálka, nebo etika?
Jaký je vlastně mezi těmito dvěma termíny rozdíl? Zjednodušeně by šlo říci, že etika je teoretickým základem, na němž morálka jako konkrétní aplikace staví. Etika je odnoží filozofie a má mnoho škol a myšlenkových proudů, na kterých pak vyvstává morálka jednotlivce, který se chová (alespoň v ideálním případě) podle vlastního svědomí ovlivněného souborem hodnot a správného chování dle preferovaného etického rámce dané kultury.
Chtěli byste tank?
Ale i kdyby lidská supervize nezbytná nebyla, nebudou to autonomní auta mít vůbec jednoduché. Například Robin Kopecký z Přírodovědecké fakulty UK se ve své přednášce na konferenci New Media Inspiration pozastavoval nad tím, proč chceme, ba dokonce vyžadujeme, aby se auta rozhodovala morálně, když třeba bojové drony nebo umělá inteligence představují mnohem palčivější etické otázky. Pro svůj výzkum Kopecký využívá známého tramvajového dilematu a sleduje, jaké chování by od svého auta potenciální uživatelé vyžadovali. Auta mohou být naprogramovaná jako "tanky" (vždy dávají přednost záchraně posádky), "počítadla" (vyhodnotí situaci tak, aby přežilo co nejvíce lidí, ať už v autě, či mimo něj), nebo "rytíři" (nikdy neudělají čin, který by s velkou pravděpodobností vedl ke smrti člověka).
Asi vás nepřekvapí, že většina lidí by pro sebe (a především své blízké) volila tanky, přestože je nepovažují za morálně správné - zajímavé je: pokud by volba byla veřejná, a ne tajná, největší podíl respondentů se přikláněl k počítadlu. Ukazuje se tedy určitá povrchnost a dvojí metr, který aplikujeme na sebe a druhé. V zásadě nic šokujícího, ovšem dokážete si představit, jak je tím pádem složité naprogramovat samořiditelná auta "správně"? Jde o nemožný úkol, s jehož výsledkem nikdy nebudou spokojeni všichni. To zkrátka vyplývá z logiky věci.
Bylo by tedy nejlepší, kdybychom se na morální problémy spojené se samořiditelnými auty dokázali dívat realisticky. Uvědomit si, že i se zapojením této technologie prostě budou lidé na silnicích umírat; jenže s tím rozdílem, že dost možná v mnohem menších počtech. Riziko ze strany řidičů a jejich lidských chyb (mimochodem až 94 % nehod na silnicích je způsobeno chybou řidiče) považujeme za samozřejmost, jsme však ochotni riskovat i to, že zahyneme "rozumným" rozhodnutím ze strany umělé inteligence? Zdánlivě prostá technologická otázka v nás tak probouzí nečekané otázky, které možná vedou až na dřeň našeho lidství a o kterých určitě ještě hodně uslyšíme.
