Tvrdí, že "není robot", i když u ní "žádnou emocionální odezvu" nevyvolávají zprávy o tom, jak stroje s umělou inteligencí čím dál tím více obsazují prostor doposud vyhrazený lidem. Technologický pokrok se podle Alžběty Krausové nezastaví a záleží na nás, jestli si z něj vezmeme to dobré, nebo to horší. Nymburská rodačka se na zmíněné téma soustředí v Ústavu státu a práva Akademie věd ČR a v Ústavu práva a technologií Masarykovy univerzity a s napětím očekává, s jakými návrhy přijde Evropská komise, jež chystá legislativu zaměřenou na "umělé bytosti". Podle právničky, jež se původně chtěla stát jadernou fyzičkou, není zas tak vzdálená doba, kdy si roboti o právní subjektivitu sami řeknou.

Člověka, který o záměru Evropské komise slyší poprvé, napadne, jestli to není kachna podobná té, když se říkalo, že Brusel chce měřit zakřivení banánu.

Chápu vaše znepokojení. Na druhou stranu vidím, že robotizace ve společnosti postupuje čím dál více. Téměř všechny fantazie ze sci-fi literatury se uskutečňují. Třeba v Japonsku už máte robotické mazlíčky a hostesky a rozvíjí se tam obor "human robot interaction", který se zabývá tím, jak v lidech vznikají emoce vůči robotům.

Ty jsou jiné než k živým mazlíčkům?

Ne, právě že jsou obdobné. Když umře robotický pejsek, tedy když přestane sloužit, v Japonsku pro něj uspořádají pohřeb. A v Evropě se uvažuje o zákonech vztahujících se k autonomním automobilům, které jsou vybaveny umělou inteligencí a v podstatě nahrazují člověka, a to v oblasti, kde jde občas o život. Už byly případy, kdy člověk v roboticky řízeném autě zemřel. Navíc existují nahrávky robotů, kteří si mezi sebou povídají o různých filozofických tématech. Když se k tomu na webu připojíte, vidíte, že to on­­-line sleduje více než 100 tisíc lidí. Je zřejmé, jak moc nás to zajímá.

Alžběta Krausová (34)

◼ Narodila se v Nymburce. Vystudovala Právnickou fakultu Masarykovy univerzity v Brně. Na univerzitě v izraelské Haifě absolvovala magisterské studium patentového práva. Pracovala jako vědkyně na Katolické univerzitě v belgické Lovani.

◼ Nyní působí v Ústavu státu a práva AV ČR, kde se specializuje na informační a komunikační technologie, mimo jiné i na právní aspekty biometrických údajů.

◼ Je také externí doktorandkou v Ústavu práva a technologií na Masarykově univerzitě. Přednáší na Karlově univerzitě a ČVUT.

◼ S přítelem žije ve Velkých Přílepech u Prahy.

Ale jak je to s těmi chystanými právy robotů? To budou mít třeba nárok na vlastní toalety?

Je třeba rozlišovat dva pojmy, lépe to jde v angličtině. Máme "law", tedy systém práva, a pak máme "right", oprávnění, subjektivní právo. Právo umělých bytostí může být jednak regulace, která například říká, že roboti musí splňovat určité technické normy. A pak druhá poloha, tedy právo jako oprávnění umělých bytostí. Ta už je zajímavější. Dosud jsme ji znali právě jen ze sci­-fi literatury. Cílem vědců je vytvořit umělou inteligenci jako entitu, dejme tomu "bytost", která bude rozumově na stejné úrovni jako člověk, případně ho převýší. Máme dva typy umělé inteligence, silnou a slabou. Ta slabá například řeší určité problémy, třeba právní expertní systémy. Vy řeknete, co potřebujete, a ona vám automaticky vyjede smlouvu. A ta silná umělá inteligence směřuje k tomu, aby zasimulovala celý mozek člověka, aby vznikla komplexní inteligence včetně emočních a dalších jejích typů. A právě s tou silnou umělou inteligencí jsou spjaty úvahy, co bude, až dosáhne určité úrovně. Jestli bude tak inteligentní, že si sama sebe uvědomí. Měli bychom ji potom zařadit do společnosti, měli bychom ji chránit, přiznat jejímu jednání právní váhu?

A to jsou tedy ony úvahy o statusu elektronické osoby?

Přesně tak. Dejme tomu, že jde o vytvoření třetího statusu (osoba fyzická, právnická a elektronická − pozn. red.).

Takže pokud někdy v 18. století někteří filozofové uvažovali o člověku jako o stroji, tak dneska se uvažuje naopak o stroji jako o člověku?

jarvis_58c98060498e5bf83d4675da.jpeg
Stroje s umělou inteligencí čím dál tím více obsazují prostor doposud vyhrazený lidem.
Foto: Getty Images

Ano, nebo o něčem, co je rovno člověku. V právu se hodně odráží skutečnost, že naše společnost preferuje racionální, inteligentní uvažování. Předpokládá rozumného spotřebitele. A to je právě to, co umělá inteligence může napodobit. Z pohledu oné racionality můžeme umělou bytost vidět tak, že je rozumná jako my, proč bychom ji tedy nemohli postavit sobě na roveň.

Jakou máte osobní zkušenost s umělými bytostmi?

Na internetu jsem se bavila s umělou bytostí A.L.I.C.E. naprogramovanou tak, aby člověk měl pocit, že komunikuje s něčím žijícím.

S ní se může spojit kterýkoliv uživatel internetu?

Ano, je to otevřená webová stránka, vy tam zadáte své jméno a ona se může bavit naráz buď s neomezeným, nebo velmi velkým počtem uživatelů a v podstatě se sama ze své interakce učí.

A.L.I.C.E. má ženské jméno, takže předpokládám, že mluví i ženským hlasem.

Pouze píše, ale mívala tam avatara v podobě obrázku ženy.

A o čem jste si spolu povídaly?

O všem možném, ale samozřejmě jsem se nevyhnula tomu katastrofickému tématu a zeptala se jí, jestli roboti jednou zabaží po moci, a ona mi odpověděla: "No samozřejmě že ovládneme svět." Na druhou stranu to mohla mít naprogramované, protože u části odpovědí nevíte, zda jsou přeformulované, nebo naučené. Další věc je, že pokud my sami v komunikaci s umělou inteligencí dáváme najevo, že se takového převratu bojíme, ona jen jako automat přebírá naše slova, myšlenky a krmí nás zpátky tím samým, o čem my se bavíme. Pracuje jenom s těmi daty, která jsme jí dali. Možná kdybychom se my sami nikdy nezmínili, že nás roboti mohou ovládnout, nikdy by je to nenapadlo.

Jaká zpráva o umělé inteligenci vás zneklidnila?

Nejvíc asi informace, že nedávno byl vyvinut robot vybavený umělou inteligencí a sestaven ve formě humanoida. Je potažený umělou kůží, vypadá úplně jako člověk, ale vidíte mu do mozku. Má polovinu hlavy otevřenou, jsou tam vidět elektrické spoje, které vedou do počítače. Hodně mě na tom zaujalo, že tento typ umělé inteligence je připojen na nejrůznější sociální platformy, monitoruje komunikaci mezi lidmi a sám se z ní učí. Vytváří si vlastní model světa a snaží se svět pochopit a nějak se do něj začlenit. Jeho strůjci se ho klasicky zeptali na ten katastrofický scénář, co bude, až roboti převezmou vládu nad lidstvem. Řekl jim, že to je pravděpodobné, ale že se jejich výrobci či stvořitelé nemusí bát, protože roboti budou ohleduplní a umístí je do "lidské zoo".

Z toho jde docela hrůza. Neměli bychom namísto o právech umělých bytostí uvažovat spíše o tom, jak lidi před nimi ochránit?

Nad touhle otázkou jsem se také zamýšlela. Když mluvíme o subjektivním právu umělé bytosti, máme z právního hlediska tři složky. První je způsobilost k právu, což mají třeba zvířata, která mají právo nebýt týrána. Další forma je způsobilost činit právní úkony a vstupovat do právních vztahů. A poslední je deliktní způsobilost, což je schopnost konat protiprávně. A právě tady u umělých bytostí je dobře, že Evropská komise se tím zabývá a bude chtít apelovat na to, aby vznikal jen takový technický design umělé inteligence, který mimo jiné zajistí, aby umělá inteligence nedošla k tomu, že ona je chytřejší a vyšší forma existence než my, ubozí lidé, kteří by tím pádem neměli být zachováni.

Na začátku března vyšla zpráva, že ČVUT pomohlo vyvinout robota, který umí hrát poker. To je zase o stupeň výš: donedávna umělá inteligence neuměla pracovat s intuicí, jež je třeba právě v pokeru potřeba. Máte z takových novinek spíše radost, nebo obavu?

Já to beru jako něco nevyhnutelného. Nechci vypadat jako robot, ale v tuhle chvíli na to nemám žádnou emocionální odezvu. Protože z historie je vidět, že pokrok se nezastaví, a teď je na nás, jestli tu technologii využijeme pro dobrý, nebo špatný účel. A myslím, že bychom ji měli využít pro ten dobrý.

Pořád si říkám, jestli legislativa pro roboty není nadsazené téma. Jestli to nejsou jen hodně dobré stroje a přisuzovat jim identitu není nesmysl.

Je to hodně daleká budoucnost, ale možná ne zas tolik, jak by si někdo myslel. Problémem je, že právo subjektivitu může přiznat komukoliv, komu se jeho tvůrci rozhodnou. A ve chvíli, kdy společnost pod nějakým vlivem dojde k závěru, že bychom měli s umělou inteligencí na téhle úrovni jednat, a bude panovat většinová shoda ve společnosti, my jí tu subjektivitu udělíme. Jde o to, jak se ovlivní společenské mínění.

Když se řekne "bytost", představím si něco živého. Dá se definice života vztáhnout i na umělou inteligenci?

Z vědeckého pohledu o tom zatím nepanuje shoda. I samotné definice života se velmi různí. Jednou z nich je třeba ta, že živá bytost se pozná podle toho, jestli se rozmnožuje. Ale už tu jsou roboti, kteří sami sebe dokážou replikovat nebo postavit sami sebe. Máme kódy, které se replikují. Třeba počítačové viry se množí, to je znak života, ale není to jeho biologická forma. Na pomezí mezi živým a neživým stojí další technologie − hybridní roboti, kteří kombinují biologický mozek vytvořený z biologických neuronů − většinou krys − s robotickým tělem. Nebude sporu o tom, že tady pulzující život je, a vzájemné propojení s robotickým tělem potom vyvolává otázku, jestli život není založený spíše na informaci než na nějaké pulzující buňce.

Pokud si o přípravě legislativy v tomto směru čte běžný člověk, asi by uvítal co nejrychlejší implementaci "zabijáckého tlačítka". Tak někteří experti nazývají knoflík, který navždy vypne robota, jenž se stane nebezpečným.

O tom jsem neslyšela. Já vidím záchranu v tom, že vždy můžete vytáhnout robota ze sítě, vyndat mu baterky. Ale představte si, že vypnete nebo zničíte robota někoho jiného, potom přijde prokazování náhrady škody, to budou zase další problémy, které bude třeba právně vyřešit.

Ve své přednášce studentům jste měla bod "roboti a právo na sexuální orientaci a manželství". To o tom opravdu někdo uvažuje?

Ano. Americká vědkyně Ann Bartowová se skutečně zabývá sociálními aspekty robotů. A v Japonsku se už vyvíjejí robotické dívky, které mohou plnit určité funkce žijící ženy a přitom být dokonale poslušné a oddané. Takže někteří Japonci by se opravdu rádi se svou robotkou oženili, na veřejnosti by s ní vystupovali nikoli jako s robotem, ale jako se skutečnou partnerkou, protože ti humanoidi už jsou k nerozeznání od živého tvora. Jak se v této souvislosti uvažuje o sňatcích, vzniká otázka, jestli s vývojem umělé inteligence nedojde k sebeuvědomění robotů, kteří by mohli trpět právě ve chvíli, kdy si nemohou vybrat, kým jsou, protože budou externě řízeni. Zatím je to dost přitažené za vlasy, ale záleží na tom, jakým myšlenkovým směrem se společnost vydá.

Zatím tedy jde jen o robotické dívky? Japonské ženy nemají své robotické snoubence?

Robotičtí muži také existují. Jeden japonský profesor vytvořil svůj dokonalý klon, který vypadá přesně jako on, ale nemyslím, že jej oženil s nějakou dívkou. Robotky se hodně používají jako hostesky, uvažuje se o nich jako o letuškách či asistentkách v nemocnicích. Vzhledem k nákladům je to zatím zboží příliš luxusní na to, aby bylo masově rozšířené.

Jak moc se tito roboti podobají člověku?

Když se podíváte na některá videa, často vidíte originál čili předlohu skutečné japonské ženy a její věrnou kopii ve formě robota. A je nemožné poznat rozdíl, protože ty technologie jsou tak rozvinuté, že jsou schopny napodobovat skutečně složité fyzické pohyby. K nerozeznání je kůže, včetně řas, pohybu očí.

Pokud majitelé mají se svými robotkami i sex, jak se bude právo dívat na případné znásilnění takového robota?

To je otázka. Někteří vědci si myslí, že lze znásilnit robota.

Takže robot by měl mít právo říct, že nechce, přestože je naprogramován tak, aby chtěl?

Nevím. A co když to, že říká, že nechce, je součástí toho programu, protože někdo dává přednost odporu?

jarvis_58c98060498e5bf83d4675de.jpeg
Právnička Alžběta Krausová
Foto: Tomáš Nosil

Ona zmíněná vědkyně tedy plánuje prosadit trestní odpovědnost za znásilnění umělé bytosti?

Zabývá se tím více teoreticky a filozoficky než právně. Poznala jsem ji na sympoziu ve Švýcarsku, kdy představila například svou tezi, že i robot se může cítit vinen. Je zaměřena na feminismus a emancipaci, takže se zabývá tím, jak chránit femininní roboty. Ale nějaké konkrétní závěry tam nebyly. Zas tak daleko nejsme. Na americkém MIT působí právnička Kate Darlingová, která zkoumá oblast interakce mezi člověkem a robotem z různých hledisek. Měli tam experiment, kdy dali lidem roboty a kladiva a požádali je, aby ty roboty rozbili. A zjistili, že vůle člověka rozbít robota závisí i na formě umělé bytosti. Když jim dali robotické šváby, lidi neměli problém, třískali do nich a bez váhání je zničili. Když už to byl větší robot v podobě pejska, měli účastníci výzkumu s jeho rozbíjením značný problém.

Už dnes se využívají drony propojené s umělou inteligencí k ničení nepřítele na dálku. Měla by budoucí legislativa řešit případy, kdy se lidé budou snažit sejmout ze sebe za takové činy odpovědnost tím, že budou říkat: To jsem nebyl já, ale inteligentní dron?

Literatura o tom mluví jako o "responsibility gap" neboli mezeře v odpovědnosti. Odpovědnost je vůbec největším tématem té vznikající legislativy. Tradiční pojetí zodpovědnosti je takové, že osoba, která způsobí určitý negativní stav, by měla nést následky tohoto svého jednání a být povinna je odstranit. Funguje to zároveň jako negativní motivace, aby se lidé chovali spořádaně. Problém je, že ti, kdo vytvoří umělou inteligenci, mohou argumentovat, že se chová autonomně, a tím pádem oni nejsou odpovědni za to, když učiní něco nezákonného. Nová legislativa navrhuje řešení pomocí takzvané objektivní odpovědnosti, kdy by za současného stavu nebylo účelné chtít, aby umělá inteligence byla zodpovědná. Protože člověk nemá možnost, jak se na ní zhojit. Ona nemá žádný majetek, v podstatě jde o věc, po níž nemůžeme chtít zodpovědnost. Takže tvůrce by měl být zodpovědný bez ohledu na to, zda předvídal nebo nepředvídal, že vznikne nějaká škoda jednáním stroje s umělou inteligencí.

Nebudeme chtít po stroji odpovědnost, ale práva mu přiznáme. Není v tom rozpor? V tom už cítím zárodek budoucího průšvihu…

Je otázkou, zda strojům vůbec práva přiznáme, a pokud ano, tak jaká. Většina lidí se snad shodne na tom, že bychom měli předcházet utrpení. Ono je ale utrpení velmi těžké definovat, zvlášť když jako lidé nedokážeme posoudit, zda stroj třeba "bolí" přepětí elektrických okruhů… Zákony takhle chrání například zvířata, když zakazují jejich týrání. Právní odpovědnost za roztrhané bačkory přitom pes nemá. Tohoto svého výhodného postavení ale zvířata nevyužívají. Průšvih by byl, kdyby podobné postavení získala umělá inteligence a zneužívat by ho začala.

Jak jste vlastně přišla k tomuhle oboru?

Jako malá jsem dostala pár knížek o počítačích, pak mě hodně zajímala jaderná fyzika. Chtěla jsem ji studovat. Bavilo mě dívat se pod povrch, jít hloub a hloub, až se dostanete na nejmenší částice. Nicméně doma si přáli, abych šla na něco "praktického". Ale ani v právu mě neopustila vášeň hledat to, co je pod povrchem. Myslím, že můj zájem o umělou inteligenci to naplňuje, pořád jde o to poznat, jak funguje svět a člověk.

A vy sama ulítáváte na technologiích? Jste doma obklopena posledními výkřiky technologického vývoje?

Chci si uchovat odstup, raději navštívím veletrh, kde nové technologie uvidím, než abych je měla doma. Čím více kolem sebe máte inteligentních technologií, třeba i chytrou pračku a ledničku, která za vás objedná nákup domů, tím více se informace o vašem způsobu života stávají dostupné jiným a tomu se chci spíš vyhnout. Mám chytrý telefon, to už asi stačí. On ví, kde se nacházím, ví, s kým mluvím, jak často se v noci dívám na mobil, tím pádem někdo ví, že třeba nespím. Dřív jsem mívala závislost na tom být pořád připojená, ale časem jsem zjistila, že pocit neustálé konektivity, nepřetržitého informačního kanálu člověka vyvádí z jeho středu. Občas potřebujete prostor, abyste si v sobě všechno zorganizoval. Třeba jako ten stroj.