Patří mezi přední odborníky na počítačové vidění. Pro americké ministerstvo obrany pracoval na systému, který dnes používají také samořiditelná auta k rozpoznávání okolí. Nyní působí James Pritts na pražském ČVUT. Podle něj nehoda autonomního vozu Uberu, při které v Arizoně minulý týden zemřela chodkyně, jen ukazuje, že v této oblasti není kam spěchat.

HN: Z toho, co dnes víme, co se podle vás před týdnem přihodilo při srážce chodkyně samořiditelným autem Uberu?

Po zhlédnutí videa se nabízí závěr, že by člověk nedokázal této nehodě zabránit, protože byla tma a chodkyně nečekaně vstoupila do vozovky. Pokud by však systém fungoval tak efektivně, jak si myslím, že by měl, auto by díky svým senzorům a softwaru rozeznalo, že je tam chodkyně a zachránilo by jí život. Je to počítač, takže umí reagovat dost rychle. Samořiditelné vozy mají za jeden z cílů zvýšit bezpečnost a udělat něco, na co by člověk nestihl zareagovat. V tomhle smyslu systém selhal.

HN: Takže auto Uberu má takové senzory, které by mohly podobnému neštěstí zabránit?

Má laserový senzor − takzvaný Lidar, videosenzory, radar i ultrazvukový snímač. Není to jisté, ale jsem přesvědčený, že senzory chodkyni s kolem viděly dlouho před tím, než vůbec začala přecházet silnici. Přijmout signál a pochopit jeho význam jsou dvě odlišné věci. V USA jsem pracoval na vývoji Lidaru, takže rozumím tomu, jak funguje. To je to legrační zařízení, které se otáčí na střeše vozu a vysílá do svého okolí laser. Má 360stupňové zorné pole, což je mnohem větší šíře než lidské. Získá strukturu okolního prostředí a vytvoří dynamickou mapu svého okolí. Je to velmi drahé zařízení, což je zřejmě ten důvod, proč ho do svých sériově vyráběných vozů nezahrnula Tesla.

První smrt chodce

Arizonská policie zveřejnila minulý týden po smrtelné srážce chodce samořiditelným autem ve městě Tempe video z okamžiku těsně před nehodou. Ukazuje, že devětačtyřicetiletá chodkyně s kolem se na silnici objevila nečekaně a kontrolní řidička Uberu v ten moment nedávala pozor. Podle policie vůz (upravené Volvo XC90) nezpomalil ani se nesnažil předejít smrtelné nehodě. Přestože na videu to vypadá, že jí nešlo zabránit, experti upozorňují, že záznam z kamery plně neodpovídá tomu, co by mohl vidět pozorný řidič. Podle nich zjevně selhaly také senzory, které měly ženu zachytit už dříve, než vstoupila na silnici. Uber pozastavil svůj program testování autonomních vozů na veřejných silnicích v Tempe, Pittsburghu, San Francisku i Torontu. Svá testovací auta stáhla také Toyota.

HN: Když jste Lidar spoluvytvářel, máte tedy za to, že vůz signál o chodkyni přijal?

Ano, když opomenu všechny ostatní senzory, domnívám se, že musel pomocí laseru dostat signál o pohybující se chodkyni. Všechny tyhle informace putují do algoritmu počítačového vidění, který pak musí zjistit, co ten signál znamená. A to je velmi pravděpodobně fáze, kde došlo k selhání. Laser zřejmě vytvořil shluk bodů, který vypadal jako chodkyně s kolem, ale systém chodkyni mylně detekoval, nebo ji nezaznamenal vůbec. Chybná detekce je něco, čemu je potřeba se v budoucnosti vyhnout, mohlo by to způsobit další tragédie. Tady se podle mě stala chyba.

HN: V čem se tato srážka lišila od první známé smrtelné nehody auta jedoucího v autonomním režimu, kdy před dvěma lety řidič zemřel po nárazu do kamionu?

Řidič Tesly před nehodou pravděpodobně vůbec nedával pozor, sledoval film, v troskách vozu se dokonce našel tablet. Slepě věřil autu, což bylo mimochodem bláhové. Jeho Tesla tehdy udělala velmi základní chybu v detekci, velmi podobnou té chybě při nehodě Uberu. Jenže takovou chybu by žádný pozorný řidič neudělal. Kamion byl poměrně vysoko nad silnicí a byl celý bílý. Tesla měla první verzi softwaru, což je úplně jiný systém, než mají současné vozy. Systém tehdy náklaďák vyhodnotil jako billboard nad silnicí. Zároveň nepoznal, že se pod něj auto nevejde, tedy že mu návěs utrhne střechu.

James Pritts (40)

Posledních sedm let působí v Centru strojového vnímání na pražském ČVUT, zaměřuje se na počítačové vidění a strojové učení. Tím se dříve zabýval ve firmách v USA. Pět let pracoval jako vedoucí softwarový inženýr ve třetí největší zbrojní firmě světa BAE Systems, podílel se na výzkumu pro americké ministerstvo obrany. V NASA vyvíjel software na rozpoznávání gest pro dálkové ovládání robotického ramene na ISS. Vystudoval matematiku na University of North Texas a informatiku na ČVUT.

HN: Jak k tomu dvojímu selhání senzorů došlo?

Vysvětlovalo se to tím, že kamion byl celý bílý a že na pozadí bylo úplně jasné nebe a bylo to vlastně jako podívat se do slunce. Ale v tu chvíli tu jsou další senzory, radar nebo Lidar, aby se s tím vyrovnaly. Jenže ty Tesla neměla. V té době funkce Autopilota spoléhala do značné míry na kamery. To považuji za skutečně děsivé. Taková zařízení nejsou dostatečně spolehlivá na to, aby řídila auto. Dá se jim věřit natolik, že mohou řidiči pomáhat. Od Tesly bylo nezodpovědné říkat tomu Autopilot, protože ten systém ještě nebyl tak sofistikovaný. Bylo to marketingové selhání, lidé na to skočili, nezodpovědní řidiči třeba za jízdy přelezli na zadní sedadla a podobně. V tuto chvíli už je technologie jinde, dva roky jsou ve vývoji samořiditelných vozů věčnost.

HN: Jak vidíte budoucnost samořiditelných aut?

Myslím, že mnoho z těchto problémů budeme schopni vyřešit, i když ne tak brzy, jak se nám lidé z marketingu snaží podsunout. Podle mě jsou jejich odhady příliš ambiciózní. Řekl bych, že plně samostatná auta, do kterých jen naskočíte a ony vás někam odvezou, by mohla v USA, kde jsou volnější zákony, jezdit nejdříve za deset let. Ještě je hodně co zlepšovat. Vozy mohou udělat katastrofální chyby, které by člověk nikdy neudělal. Ale věřím, že podobným nehodám, jako se stala minulý týden, budou moci auta v budoucnu zabránit. Zvlášť s Lidarem. Ale pokud bych dnes viděl samořiditelné auto, snažil bych se mu nestát v cestě. Díval bych se na něj se zájmem, ale raději bych kousek ustoupil. Ale myslím, že do deseti let by se chodci skutečně mohli cítit bezpečněji. Že budou moci předpokládat, že se takové samořiditelné vozidlo bude na silnici chovat ještě lépe než nejlepší řidič za prakticky jakýchkoli okolností. Ale tam ještě nejsme.

Související

HN: Myslíte si, že bude mít nehoda dopad jen na Uber, nebo na celé odvětví autonomních vozů?

Měla by v lidech vyvolat zdravou skepsi. Každý, kdo trochu rozumí technice, vidí, že Uber má v tomhle zjevně problém. Tohle je situace, kterou auto rozhodně mělo vidět. Myslím si, že je velmi nebezpečné například to, že Kalifornie teď nově umožňuje jízdu autonomních vozidel i bez toho, aby kdokoli seděl uvnitř, a vůz pouze kontroluje na dálku operátor. To přišlo, myslím, příliš brzy.

HN: Také je zde otázka odpovědnosti. Pokud nastane nehoda samořiditelného vozu, kdo za ni bude nést odpovědnost? Řidič, nebo výrobce vozu?

To dosud není jasné. Třeba při nehodě Uberu, kdy auto srazilo chodkyni, seděla za volantem i řidička, která měla na systém dohlížet. Je to její vina? Tohle je dosud po právní stránce nezmapovaná oblast. Pokud by tam ten řidič vůbec nebyl, je za to zodpovědný výrobce softwaru? Tohle je prostě něco úplně nového, co teprve právní experti musejí vyřešit. Obvykle tyhle věci vyřeší soudy. Chystají se nové zákony, ale jejich interpretace bude záviset na prvních soudních sporech, což by třeba mohl být případ nehody Uberu.

Často nám jako spotřebitelům marketing vykresluje umělou inteligenci jako něco úžasného a fantastického. Přitom to není revoluce, je to evoluce něčeho, co tu je už od šedesátých let, a jako taková má své meze. A my zkrátka posunujeme hranice umělé inteligence tak, aby byla schopna vytvářet modely světa, což zahrnuje i samořiditelné vozy. Proto jsou tak křehké, dosud nedokážeme přesně odhadnout, jak se budou chovat. Ta technologie má své limity. Není to žádný nový model umělé inteligence, který bychom využívali, pořád je to evoluce technologií z padesátých let, statistických modelů.

HN: Když ten vůz sbírá tolik dat, nehrozí riziko zneužití těchto údajů?

To je dobrá otázka. V podstatě tu máme velmi výkonné senzory, které se pohybují městem a zachycují úplně všechno. Teď se samozřejmě experti soustředí především na to, aby auto dokázalo samo řídit, ale lze si představit, že ta data budou nějakým způsobem využívána. Na druhou stranu, oni potřebují opravdu velké množství dat, aby tahle věc mohla fungovat, aby se chovala tak, jak má, za použití těch jejich modelů. Takže čistě pro účely učení musejí sesbírat velké množství údajů. Bůhví, kolik těch dat vůbec mají a odkud je přesně vzali. Ty obavy jsou samozřejmě na místě i v jiných oblastech využívání umělé inteligence. Vezměte si například způsob, jakým vám Facebook nabízí reklamy. K tomu využívá vaše osobní údaje. Čím složitější věci po strojích vyžadujeme, tím víc dat od nás potřebují, aby se to naučily. Teď se bavíme o tak neuvěřitelném množství dat, že je to samozřejmě znepokojivé.

HN: Máte za sebou působivý životopis. Co vás přivedlo do Česka?

Když jsem pracoval v BAE Systems, řešili jsme problémy spojené s počítačovým viděním. Takže jsem často četl různé články k tomuto tématu. Sledoval jsem velké hráče na tomto poli, a tak jsem se dostal k řadě článků z ČVUT. Výzkum, který dělali, byl velmi blízký problémům, které jsem potřeboval vyřešit, takže jsem některé postupy využil ve své práci a zjistil jsem, že jsou chytré a zároveň elegantně jednoduché. Začal jsem se o tyhle chlapíky zajímat, a když jsem skončil práci na předchozích projektech, řekl jsem si, že by bylo zajímavé podívat se do Evropy. Nikdy jsem tu nebyl, a navíc na ČVUT pro mě měli místo.

HN: Jak srovnáváte své předchozí působení s prací na ČVUT?

Řekl bych, že úroveň vědy ve skupině, kde působím, je velmi vysoká. Je to velmi náročné a v oboru panuje velká soutěživost, což mám rád. Publikujeme na předních konferencích a naše práce je oceňovaná. Spolupracuji s profesorem Jiřím Matasem a Ondřejem Chumem, na jejich práci jsem nejčastěji narážel už v USA. Je mi blízko také Zuzana Kúkelová, která je excelentní vědkyně, nedávno jsme spolu vydali dva články.