Umělá inteligence se šíří, ale lidstvo zatím není schopné ji krotit pravidly

Když jsem se připravoval na tento rozhovor, překvapilo mě, jak rozsáhlé debaty se o umělé inteligenci vedou mezi právníky, zatímco veřejnost to příliš neřeší.

Lidé potřebují pravidla na všechno, aby spolu mohli fungovat. A protože v současnosti se už velká část ekonomiky odehrává v digitálním světě, navíc stále častěji s využitím umělé inteligence, lidé potřebují pravidla, jak spolu budou v digitálním světě jednat.

 

Současné zákonné normy a pravidla tedy podle vás určitě nestačí?

Do jisté míry je třeba stávající domluvená a dlouhodobě fungující pravidla aplikovat na novou realitu. Současné zákony ale určitě nestačí na pokrytí všech aspektů. Technologie je navíc těžké omezit jen na lokální pravidla, fungují v globálním meřítku. Pokud se podíváme třeba na ochranu demokracie nebo na vývoj zbraní, které využívají nové technologie, tak na globální úrovni nejsme schopni se domluvit ani na úplně jednoduchých pravidlech. Připustíme například, abychom měli autonomní zbraně, které jsou schopné zlikvidovat bez pokynu konkrétního člověka lidskou bytost? Debaty probíhají na úrovní EU, NATO nebo OSN, přesto ani zde není jasný závěr.

 

A předpokládám, že jsou i další problematické oblasti…

Ano, pokud se například podíváme na byznysovou úroveň, tak pravidla začínají být ještě komplikovanější. Kde končí třeba legitimní snaha nabízet zákazníkovi v digitální sféře zkušenost šitou přesně na jeho míru a kde začíná manipulace? Co ještě považujeme za soukromí a nedotknutelnou sféru jednotlivce, do které žádný podnikatel nesmí vstupovat?

 

Evropská komise už před dvěma roky vydala zprávu, podle níž je umělá inteligence součástí našeho každodenního života. Ve zprávě se píše i o tom, že je nutné přijmout zákonné normy. Pokročilo se v tom už nějak?

Pokročilo se v tom, no… někdo si myslí, že hodně, někdo, že málo, nicméně je potřeba vědět, že zákonodárný proces v EU trvá roky. Úvahy o pravidlech pro umělou inteligenci začaly relativně pozdě, někdy kolem roku 2015. V roce 2018 to začalo být považováno za prioritní téma, a když předsedkyně Evropské komise Ursula von der Leyenová nastupovala do své funkce na konci minulého roku, tak ve svém programovém prohlášení slíbila, že do sto dnů ve své funkci přijme vynutitelná pravidla v oblasti umělé inteligence. To se samozřejmě ukázalo jako naprosto nereálné. Nicméně na jaře tohoto roku byla vydána takzvaná Bílá kniha pro umělou inteligenci, která obsahuje řekněme ideové principy, z nichž by měl budoucí rámec umělé inteligence vycházet. Týká se ovšem zejména regulace podnikání.

 

Ale pokud jde o vztahy mezi státy, neděje se nic, tak?

V tomto smyslu probíhá samostatná debata v rámci OSN a dosud jsme se nedobrali ani pochopení, jestli v kyberprostoru platí stejná pravidla, jaká se vztahují třeba na válku ve fyzickém prostoru.

 

Můžete uvést nějaký příklad?

Každému státu je dnes jasné, že právně nelze jen tak poslat vojsko do sousedního státu, ale už zdaleka není jasné, jestli lze kybernetickými útoky likvidovat třeba nemocnice nebo strategické cíle v sousedních státech. Jakékoli dohody naráží na to, že každý stát si buduje nějakou kybernetickou obranyschopnost, ale také útočné schopnosti v kyberprostoru vůči jiným státům (viz např. „defend forward“ strategie Spojených států). A protože nikdo úplně nevěří ostatním státům, žádný ze zúčastněných států nechce být ten první, kdo přistoupí na nějaká pravidla omezující vlastní aktivity v kyberprostoru.

 

To nezní moc vesele...

Nezní. Přitom si vezměte, jak rychlý je vývoj technologií. A v oblasti pravidel se pořád potýkáme s neschopností lidstva domluvit se alespoň na základních principech. Naše schopnost domluvit se je extrémně pomalá. Oproti tomu pokrok v technologiích a v globalizaci technologií je tak rychlý, že čelíme otázkám, které si nestačíme ani uvědomovat, natož na ně odpovídat.

 

Jak je vlastně umělá inteligence definována v současných českých zákonech?

Umělá inteligence není definovaná ani na úrovni Evropské unie, ani na úrovni českého práva, takže existuje hodně debat o tom, co to vlastně umělá inteligence vůbec je. To znamená, jaký „machine learning“, jaká schopnost „stroje učit se“ už se považuje za dostatečně sofistikovanou, aby byla považována za umělou inteligenci. Z právního pohledu je to zjednodušeně řečeno software. Český právní řád s umělou inteligencí nakládá primárně jako s počítačovým programem, což znamená, že je to předmět práv k duševnímu vlastnictví. Tady mimochodem vzniká zajímavá otázka, protože umělá inteligence jako software může sama být autorem dalších děl – softwaru, hudby, obrazů.

 

Vyčíst ze selfie vaše nemoci

Zůstaňme ještě chvíli u toho, kde je podle vás umělá inteligence z pohledu práva primárně v byznysu využívána. Řada firem se sice chlubí, že umělou inteligenci využívají, ale otázka je, zda to není jen v rámci marketingu.

No, momentálně je největším sektorem, který umělou inteligenci přijímá, právě marketing. Takže oblastí, kde my jako jednotlivci jsme nyní umělé inteligenci vystaveni nejvíc, je právě interakce s různými aplikacemi, které se nám snaží stále kreativnějším způsobem nabídnout nějaké služby a cílit na nás reklamu.

 

 

Marketing ale není jediná oblast, že ano?

Další oblastí, kde velmi rychle začneme být konfrontováni s umělou inteligencí, je státní správa. Naše daňová přiznání už nebudou analyzovat úředníci, ale prověří je sofistikovaný algoritmus. Stejně tak to bude u žádostí o různé podpory, kde budou nasazovány různé anti-fraud algoritmy (mechanismy zabraňující podvodům, pozn. red.). A další velkou oblastí, která se nyní hodně diskutuje, je takzvaná prediktivní spravedlnost nebo prediktivní bezpečnost, tedy využívání algoritmů umělé inteligence k předvídání výsledků soudních rozhodnutí nebo trestné činnosti.

 

To už zní jako motiv z vědecko-fantastického filmu Minority Report…

Ale přitom to vůbec není sci-fi. Již nyní existují technologie, které do této oblasti spadají a jsou běžně nasazovány.

 

Máte nějaký příklad?

Velmi konkrétním příkladem, který vyvolal i v České republice intenzivní debatu, je rozpoznávání obličejů s pomocí umělé inteligence. Policie nebo výkonné složky mají jednoduchý důvod, proč tyto technologie nasazovat, a tím je úspora nákladů. Pokud nasadíte všude rozpoznávání obličejů, což dnes už není extrémně drahé, tak to ušetří tisíce pochůzkářů a strážníků napříč zemí. Ale jen úsporami nebo efektivitou nelze takové masivní nasazení obhajovat vzhledem k tomu, že jde o extrémní zásah do soukromí. Existují už i soudní rozhodnutí, zejména ve Velké Británii, která hodnotí, zda kamery, které ve veřejném prostoru využívají technologii rozpoznávání obličejů, porušují, či neporušují základní lidské právo na ochranu soukromí.

 

Kde je podle vás jako právníka ona hranice?

Myslím, že by stát měl být konzervativnější než soukromé společnosti, které podobné technologie využívají. V soukromém sektoru si můžete vybrat, jestli budete využívat konkrétní pojišťovnu, banku nebo sociální síť. Ale ve vztahu ke státu si nemůžete vybrat, jestli chcete využívat služby finančního úřadu nebo správy sociálního zabezpečení. Takže tam si opravdu myslím, že by přístup měl být opatrnější.

 

U soukromých firem by důraz na etický přesah být neměl?

Pravidla jsou samozřejmě nutná i v soukromém sektoru. Smyslem firem je vydělávat peníze, a pokud jim to technologie umožňují, tak asi po nich těžko můžete chtít, aby samy sebe eticky regulovaly a dobrovolně se rozhodly, že nebudou vydělávat více peněz, protože zasahují do soukromí nebo jiných lidských práv.

 

Takže soukromé firmy může upravit jen státní regulace?

Je tu aspekt, který jsem slyšela od několika klientů. Podle nich je důležité, aby po soukromí existovala poptávka. Tak, jak vznikla například poptávka po podílu žen ve vedení nebo po etickém chování firem vůči zaměstnancům, tak by stejně měla existovat poptávka zákazníků po soukromí. A někde už se to děje.

 

Přitom ale řada lidí vůbec neřeší, zda někomu předávají své osobní údaje a kam se data ukládají.

Na tom je vidět, že lidská lenost podpořila všechny vynálezy v historii a teď podporuje i nástup technologií. Mě třeba zaujal případ americké pojišťovny Lapetus, která umožňuje, abyste si pořídili selfie, na základě kterého se pojišťovna s pomocí biometrických technologií podívá na základní nemoci, které můžete mít a které lze z vaší biometriky vyčíst. A zároveň udělá také základní prognózu toho, jaké životní pojištění nebo zdravotní pojištění vám může nabídnout. Pro uživatele je to samozřejmě neuvěřitelně komfortní, nemusí shánět žádné dokumenty od lékaře, nemusí nikam chodit, nemusí nic sepisovat, jenom si pořídí selfie. Ale to pak zároveň znamená, že pojišťovna má velmi zásadní přístup do jeho soukromí, vidí do jeho zdravotního stavu a ví možná víc než sám uživatel.

 

Mít svou ochrannou bublinu

Zatím jsme se bavili spíše o programech, které v uvozovkách tak úplně samy nemyslí. Jak to ale bude, až se systémy stanou autonomními? Někdo říká, že by se v budoucnu mohla umělá inteligence stát právním subjektem.

Myslím, že se tak nestane. Ty debaty probíhaly zejména na úrovni Evropského parlamentu v roce 2018 a uvažovalo se o tom, že by se určité algoritmy chovaly jako právnická osoba. To znamená, že by byly někde zaregistrovány a měly nějaký základní kapitál – a bylo by tak vůči nim možné uplatňovat nároky. Osobně si myslím, že z hlediska právního je to dost nesmyslný koncept. Náš právní řád stojí na principu, že člověk, ať už tedy fyzická, nebo právnická osoba, musí být zodpovědný za cokoliv, co vytvoří.

 

Ale v budoucnu zřejmě dojde k tomu, že umělá inteligence bude mít podobu humanoidního robota, který bude sám uvažovat a jednat. Až k tomu dojde, neměly by takové nové bytosti mít přece jenom nějaký právní status?

K tomu, co popisujete, pravděpodobně dojde, ale zatím se nevyplatí vyvíjet humanoidní roboty s širokou umělou inteligencí kopírující člověka. Umělá inteligence se nyní vyvíjí hlavně pro specializované úkoly. Myslím, že nyní musíme přemýšlet především o nějakých pravidlech pro další vývojovou fázi umělé inteligence. A zde nepůjde o interakci se stroji, které se chovají jako lidské bytosti. Spíš dojde ke změně v tom smyslu, že technologie začnou být všudypřítomné. My jsme nyní zvyklí, že software je něco, co je v nějakém malém zařízení, které kontrolujeme, typicky v telefonu nebo v počítači. S rozvojem internetu věcí se ale najednou ocitneme uprostřed počítače. Celý náš svět bude s námi v následujících desetiletích interagovat, každý předmět bude mít nějakou vlastní inteligenci a my budeme z tohoto pohledu spíš objektem než subjektem, který technologii kontroluje.

 

A jaká by tedy měla být pravidla?

Pokud uvažuji o nějakých pravidlech, myslím, že je potřeba na základě lidských práv na ochranu osobnosti vytvořit nějakou bublinu kolem jednotlivce, kam už umělá inteligence a technologie nesmí. Každý může mít samozřejmě jinou představu, jak tato bublina musí být velká. Ale nemělo by se nám stát, že nebude žádná a my budeme vystaveni technologiím bez jakékoli možnosti volby a právní ochrany.

 

Autor je novinář a fotograf, pracuje jako ředitel médií společnosti Internet Info.