Kdo je kriv, če avtonomno vozilo povzroči prometno nesrečo?

Avtonomna vožnja naj bi prinesla naslednjo veliko revolucijo na področju transporta, a hkrati odpira številne etične dileme. Eno glavnih nerazrešenih vprašanj je, kdo bo kazensko odgovoren, če avtonomno vozilo povzroči nesrečo. Po številnih incidentih trenutno dostopnih različic – od avtonomnih taksijev, ki so vozili v napačno smer, do Teslinega avtopilota, ki je bil do danes vključen v več kot 40 različnih prometnih nesreč, tudi s smrtnim izidom. Ker se tehnologija razvija hitreje od zakonov, je jasen odgovor vse prej kot enoznačen. 

Kdaj je kriv proizvajalec?

Jasnega odgovora ni, saj vsako nesrečo opredeljuje kopica raznolikih dejavnikov, skoraj vedno pa je vpletenih več različnih strani. Na proizvajalca pade krivda, če je avtomobil kljub rednim servisom in vzdrževanju povzročil nesrečo zaradi napake v izdelavi; okvara senzorjev ali mehanična težava bi krivdo večinoma zvalila na proizvajalca. Odgovornost pa lahko nosi tudi razvijalec programske opreme za avtonomno vožnjo; avtonomna vozila se podobno kot ljudje ves čas učijo in izpopolnjujejo, neznane in nepredvidene situacije pa jih lahko zmedejo, podobno kot fizičnega voznika. Če torej nesrečo povzroči napačen odziv programskega dela, je zanjo lahko odgovoren tisti, ki jo je razvil. 

A tudi v primeru napake na strojni ali programski ravni lahko lastnik avtonomnega vozila nosi določeno odgovornost. Če avtomobila ni ustrezno vzdrževal ali ni dovolj vestno posodabljal njegove programske opreme, se lahko smatra, da je nesreči botrovala lastnikova malomarnost, s čimer (vsaj del) odgovornosti pade nanj. Če govorimo o polavtonomnih vozilih, kjer naj bi vožnjo ves čas nadzoroval tudi voznik in ukrepal v primeru napake, pa se slika hitro obrne; Tesla na primer jasno opozarja, da je njihov avtopilot napreden asistenčni sistem, ki ves čas zahteva človeško pozornost in pripravljenost na ukrepanje. V primeru nesreč, ki jih je povzročil njihov sistem polavtonomne vožnje, torej krivda pade na voznika, ki ni pravočasno ukrepal. 

So lahko krivi drugi udeleženci?

Seveda pa so tudi v primeru avtonomnega vozila za nesrečo lahko krivi drugi vozniki, pešci ali kolesarji, ki so se obnašali malomarno. Če se neavtonomni avto od zadaj zaleti v popolnoma ali delno avtonomno vozilo, bo za nesrečo še vedno odgovoren fizični voznik. Tudi če pešec ali kolesar pri rdeči luči prečka cestišče in trči z avtonomnim vozilom, je zelo malo verjetno, da bo krivdo lahko zvalil na proizvajalca vozila ali razvijalca programske opreme. Krivda ni enoznančna; eno je objektivna odgovornost proizvajalca, drugo pa malomarnost ostalih vpletenih. Avtonomna vozila nikakor niso popolna, naj pa bi bila veliko bolj varna in zanesljiva od nepopolnega človeškega voznika. Večino nesreč, v katere so vključeni avtonomni sistemi vožnje, naj bi povzročile napake ostalih udeležencev v prometu. Je pa res, da bodo preiskave prometnih nesreč v prihodnosti očitno postale vse bolj kompleksne, saj bodo zahtevale temeljito analizo vozila, programske opreme in dejanj vpletenih.

Distopična prihodnost?

Ker so navadnim smrtnikom trenutno dostopna le polavtonomna vozila, ki zahtevajo človeški nadzor in pripravljenost na ukrepanje, je malo verjetno, da boste lahko krivdo za povzročeno nesrečo prevalili na strojno ali programsko napako proizvajalca. Komercialno dostopna popolnoma avtonomna vozila so še precej oddaljena, čemur gotovo botrujejo tudi nejasnosti glede kazenske odgovornosti. Scenariji, ki smo jih obdelali zgoraj, so vseeno etično gledano precej nedvoumni; v polavtonomnem vozilu bo za povzročeno nesrečo kriv voznik, v popolnoma avtonomnem pa večinoma proizvajalec, če je ne bo povzročil drugi udeleženec v prometu. Kaj pa se bo zgodilo, če se bo avtonomni avtomobil v prihodnosti moral odločiti med bolj kompleksnimi "etičnimi" možnostmi? Žrtvovati voznika ali pešca; katero življenje je več vredno? Ni si težko predstavljati, da bi v distopični prihodnosti veliki proizvajalci razvili različne pakete avtonomne "varnosti"; več kot plačujete na mesec, več nedolžnih bi bil avto pripravljen žrtvovati, da bi vam prihranil resne poškodbe. Danes se sliši kot za lase privlečena epizoda Black Mirror, čez nekaj desetletij pa lahko postane realnost tehnološko visoko razvitega sveta.

Na kratko: zaenkrat boste v komercialno dostopnih vozilih s sistemi za avtonomno vožnjo za povzročeno nesrečo odgovorni vi, saj proizvajalci predvidevajo stalni človeški nadzor. Ko pa bodo na trg enkrat prišla popolnoma avtonomna komercialno dostopna vozila, pa se bo odprla kopica novih etičnih vprašanj, na katere danes še nimamo jasnega odgovora.