Uberova istraga pokazala je da su senzori ispravno zabilježili kretanje pješakinje po cesti, no softver je njihovo očitanje ignorirao

Sredinom ožujka gotovo svi su se svjetski tehnološki mediji raspisali o nesreći u Arizoni u kojoj je Volvo XC90, testirajući Uberovu tehnologiju autonomne vožnje, naletio na pješakinju koja je preko ceste gurala bicikl – i na mjestu je usmrtio. Kasnije se Uber kao krivac za ovaj događaj izvan suda nagodio s obitelji poginule pješakinje i tako izbjegao dugotrajnu i skupu parnicu, ali svoju istragu problema nastavili su kako bi mogli nastaviti i s testiranjima autonomnih vozila.

Sada, gotovo dva mjeseca nakon fatalne nesreće, Uberovci su (neslužbeno) otkrili što je u njihovom sustavu automatike pošlo po zlu i zašto Volvo nije niti pokušao samostalno zakočiti prije nego je udario nesretnu Elaine Herzberg. Stručnjaci su zaključili, naime, da su senzori zaduženi za "skeniranje" ceste i okruženja oko automobila zaista na vrijeme detektirali kretanje pješakinje. Međutim, softver koji obrađuje podatke iz senzora ovo je očitanje protumačio kao "lažni pozitivni" rezultat, pa stoga nije aktivirao kočnice vozila.

Naravno, ovdje se ne radi o tome da je softver za autonomnu vožnju zaista prepoznao da se radi o osobi na cesti i odlučio je pregaziti. Stvar je u tome da strojno učenje koje je zaduženo za prepoznavanje prepreka mora biti vrlo dobro "istrenirano" i podešeno kako bi znalo razlikovati stvarne prepreke (pješake, automobile, ili veliko kamenje, na primjer) od onih zbog kojih ne treba kočiti – poput plastičnih vrećica nošenih vjetrom i sličnih predmeta koji se mogu naći na putu vozilu.

The self-driving Uber's software system, which normally flags — then dismisses — things like plastic bags and other minor obstacles, decided not to take evasive measures when it encountered a woman walking her bike, sources told a tech news website. https://t.co/KUrTjXbVK9 — HuffPost (@HuffPost) May 8, 2018

Upravo ugađanje softvera i povećanje točnosti kojom on "uči" tumačiti podatke iz kamera, lidara i drugih senzora ključno je kod autonomnih vozila, i zbog njega kompanije poput Ubera, Wayma ili Lyfta s testnim vozilima rade milijune kilometara i konstantno poboljšavaju algoritme za što sigurniju vožnju.

No, vožnja mora biti i udobna, pa učestalo kočenje i izbjegavanje najmanjih bezopasnih prepreka treba izbjeći. Upravo balansiranje između normalne, udobne vožnje i one koja je potpuno sigurna trenutačno je jedan od najvećih problema s kojim se bore inženjeri radeći na sustavima umjetne inteligencije za autonomna vozila.