Autonómne autá – rasisti? Ich systémy ťažšie identifikujú ľudí s tmavšou pleťou

Podobný problém sa objavil už skôr pri kamerových systémoch s rozpoznávaním tvárí. Začiatkom roku 2018 štúdia výskumných pracovníkov z MIT odhalila, že nástroje na identifikáciu tvárí od IBM, Microsoftu a čínskej spoločnosti Megvii dokážu identifikovať mužov so svetlo pokožkou s presnosťou 99%.

V prípade žien s tmavšou pleťou však chybovosť dosahovala až jednu tretinu prípadov.

Zdá sa, že rovnakému problému čelia aj systémy umelej inteligencie vo funkcii autopilotov autonómnych áut.

Analýza vedcov z Georgia Tech, publikovaná v článku s názvom Predpovedanie odchýľok pri detekcii objektov  odhalila, že systémy, ktoré používajú autonómne autá na detekciu chodcov, mali isté ťažkosti pri detekcii ľudí s tmavšími odtieňmi pokožky.

Tmavšie osoby v ohrození?

Pri sledovaní záberov z video-databázy Berkeley Driving Dataset, s videami z ulíc New Yorku, Berkeley, San Francisca a San Jose, výskumníci dokázali študovať, ako systémy reagujú na rôzne typy chodcov.

V štúdii pracovali s ôsmimi druhmi systémov na rozpoznávanie obrazu, aké sa bežne používajú v autonómnych autách. Vyhodnocovali pritom, ako každý z týchto systémov  reagoval na odtieň pleti, podľa Fitzpatrickovej škály. A aké boli výsledky?

Zistili, že pri detekcii chodcov s typmi kože medzi 4 a 6 podľa tejto stupnice, čo zodpovedá tmavším typom, boli výsledky u všetkých systémov horšie, ako pri bledých typoch pokožky.

Fitzpatrickova škála je numerická klasifikácia farby pleti. Vytvoril ju v roku 1975 Thomas B. Fitzpatrick, dermatolog z Harvardu a popisuje klasifikáciu odozvy rôznych fototypov kože na pôsobenie ultrafialového žiarenia.

K nepresným výsledkom detekcie môže viesť niekoľko faktorov, napríklad rozličná denná doba, alebo farba oblečenia. Vedci však zistili, že čisto na základe farby kože pri chodcoch s tmavšou kožou presnosť klesla v priemere o 5 percent.

Dôsledky takéhoto „rasizmu“ monitorovacích a rozpoznávacích systémov by mohli byť nebezpečné. Kvôli nesprávnemu rozoznaniu chodca by mohlo prísť aj k vážnym dopravným nehodám.

Hrozba je len teoretická

Situácia však nie je taká tragická, ako by sa mohlo zdať. Systémy autonómneho riadenia sú stále vo vývoji a priebežne sa zdokonaľujú. Umelá inteligencia s hĺbkovým učením sa jednoducho môže naučiť zručnosti, ktoré predtým nemala, a zdokonaliť schopnosť identifikácie objektov.

To platí aj o chodcoch s tmavšou farbou pleti. Tieto zdokonalené schopnosti potom výrobcovia áut, alebo systémov pre autonómnu jazdu dokážu implementovať do „kolektívneho vedomia“ celej autonómnej flotily.

Navyše, máloktoré systémy sa spoliehajú len na monitoring optickými kamerami. Mnoho autonómnych áut používa kombináciu LiDARu, radaru, ďalších senzorov a kamier.

Spoločnosť Blackmore napríklad vyvinula takzvaný FMCW (frequency modulated, continuous wave) LiDAR využívajúci Dopplerov efekt. Nemôže ho pomýliť žiadna farba šiat, ani odtieň pleti.

Namiesto obrazu sníma rýchlosť objektov a deteguje predmety, ktoré sa pohybujú, narozdiel od stacionárnych objektov, ako sú stromy, stĺpy, dopravné značky a podobne.

Legislatíva predpisujúca povinnú výbavu autonómnych áut je zatiaľ v plienkach, bolo by však žiaduce zapracovať do nej najnovšie technologické poznatky. V hre je bezpečnosť na cestách, aj psychologické bariéry spojené s prijímaním autonómnych áut.

Niektorí odborníci sú však veľkí optimisti. Tvrdia, že dnešní novorodenci už šoférovať nikdy nebudú. Dôvodom budú práve autonómne autá.