Vývoj v oblasti umělé inteligence je tak rychlý, že zprávy o tom, jak algoritmy nahrazují lidskou práci, jsou na denním pořádku. Proto ani nevzbudilo velkou pozornost, když Microsoft na konci května oznámil, že propouští pět desítek zaměstnanců, kteří vybírali a upravovali obsah pro web MSN. Proč by si s tím umělá inteligence neměla poradit, vždyť zpracování strukturovaného textu se vývojáři věnují desetiletí. A vybírání nejatraktivnějších zpráv či ladění pořadí článků na webu, který je zaměřen na to, aby na něm návštěvníci co nejvíc klikali, je už vysloveně doména algoritmů, které nabídku přizpůsobují tomu, co o svých uživatelích vědí. A protože MSN je skrze prohlížeč preferovaný Microsoftem propojen s nejužívanějším počítačovým operačním systémem světa (takže informací má víc než dost), co by se mohlo pokazit?

I sami propuštění zaměstnanci, jejichž editorská práce byla shledána jako nepotřebná, se na svůj osud dívali fatalisticky. "Je demoralizující myslet si, že nás stroje mohou nahradit, ale tak už to prostě je," citoval deník Seattle Times jednoho z těch, s nimiž se Microsoft rozloučil. Softwarový gigant, který má skrze prohlížeč a řadu aplikací silné páky na to, jak dostat obsah k miliardám uživatelů, se nechal slyšet, že propuštění nemá nic společného se souběžně probíhající pandemií koronaviru: "Jako všechny firmy pravidelně přehodnocujeme náš byznys. To může vést v některých oblastech k navýšení investic a v jiných k přesunu zaměstnanců." Algoritmy jsou při masovém nasazení levnější než lidé a v Microsoftu se peníze hlídají. Jinak by také neatakoval pozici nejhodnotnější firmy světa.

Už po několika dnech, co umělá inteligence začala obsah zásadněji ovlivňovat, ale přišel první viditelný průšvih. Algoritmus vybral špatné foto k článku. To zní jako banalita, ovšem článek přinášel výpověď zpěvačky Jade Thirlwallové popisující zkušenost s rasismem. Thirlwallová je Britka s arabskými kořeny, takže když umělá inteligence místo jejího fota vybrala snímek další členky kapely, která má zase předky v Karibiku, zpěvačku to pochopitelně naštvalo a čtenáře zmátlo. MSN kromě odsudků amatérismu v dnešní rozjitřené době schytal i obvinění z rasismu. Co všechno může jeden nedoladěný algoritmus zavinit.

Chybu samozřejmě může udělat i člověk, ale u umělé inteligence založené na neuronových sítích není odstranění chyby tak snadné. Hlavní ale je, aby provozovatel chtěl chyby eliminovat a na věrohodnosti obsahu pracovat. Není to jen problém Microsoftu. Ještě větší vliv má Google, který nemá problém popularizovat i velmi pofidérní zdroje. Milionům českých uživatelů mobilů s Androidem tak podstrkuje třeba zprávy ruského propagandistického webu Sputnik a mnoha dalších šiřitelů fake news. Jistě v tom není záměr, ale vysvětlení "my nic, to jen vaše data vyhodnocená naším algoritmem" není nic než výmluva.

Související
Newsletter

Týden v komentářích HN

Máte zájem o informace v širších souvislostech?

Zadejte Vaši e-mailovou adresu a každý pátek dopoledne od nás dostanete výběr komentářů, které se během týdne objevily na stránkách Hospodářských novin. Těšit se můžete na komentáře Petra Honzejka, předního ekonoma Tomáše Sedláčka, kardiologa Josefa Veselky a dalších. Výběr pro vás připravuje šéfeditor iHNed.cz Jan Kubita.

Přihlášením se k odběru newsletteru souhlasíte se zpracováním osobních údajů a zasíláním obchodních sdělení, více informací ZDE. Z odběru se můžete kdykoli odhlásit.

Přihlásit se k odběru