Moderné vozidlá sú čoraz častejšie vybavené pokročilými systémami na sledovanie pozornosti vodiča. Pomocou kamier a senzorov kontrolujú, či vodič neupadá do mikrospánku alebo nie je rozptýlený. Práve jeden z takýchto systémov sa však nedávno postaral o kurióznu situáciu.
Automatická výstraha pred mikrospánkom spustila poplach
Muž z Ázie, ktorého totožnosť zostala nezverejnená, riadil moderný automobil vybavený kamerovým systémom sledujúcim oči a mimiku tváre. Vozidlo počas jazdy niekoľkokrát upozornilo na to, že vodič zrejme stráca pozornosť – pričom v skutočnosti išlo len o prirodzený tvar jeho očí.
Inteligentný automobil si „myslel“, že vodič zaspáva, no realita bola úplne iná. Ukazuje to na limity umelej inteligencie v autách.
Kde zlyhala technológia?
Systém monitorovania bdelosti vodiča využíva umelú inteligenciu, ktorá analyzuje uhly pohľadu, frekvenciu žmurkania či polohu hlavy. No v tomto prípade technológia nesprávne vyhodnotila etnické črty tváre ako prejav ospalosti. Výsledkom bolo neustále upozorňovanie vodiča, aby si urobil prestávku – napriek tomu, že bol plne sústredený.
Odborníci varujú: umelá inteligencia potrebuje lepšiu diverzitu v tréningových dátach
Incident otvára diskusiu o nedostatkoch algoritmov strojového učenia. Mnohé systémy, ktoré monitorujú správanie ľudí, sú trénované na úzkych vzorkách údajov – často reprezentujúcich len časť populácie.
„Algoritmy, ktoré neberú do úvahy rôzne fyzické črty, môžu zlyhávať v reálnom svete,“ uviedla vo vyhlásení organizácia AI Now Institute.
Čo môže nasledovať?
Automobilka, ktorá vozidlo vyrobila, sľúbila, že systém aktualizuje tak, aby lepšie rozpoznával rôzne typy očí a tvárí. V budúcnosti sa očakáva zavádzanie sofistikovanejších algoritmov, ktoré budú spravodlivejšie a presnejšie voči všetkým používateľom bez ohľadu na ich pôvod.
V skratke
- Vozidlo vybavené systémom sledovania bdelosti omylom spustilo výstrahu pred mikrospánkom.
- Dôvodom bolo nesprávne vyhodnotenie tvárových čŕt vodiča systémom umelej inteligencie.
- Prípad upozorňuje na problém nedostatočnej diverzity v tréningových dátach AI.
- Odborníci apelujú na vývojárov, aby systémy testovali na rôznych skupinách používateľov.