Umělá inteligence se šíří, ale lidstvo zatím není schopné ji krotit pravidly

17. srpna 2020

Jana Pattynová, partnerka mezinárodní advokátní kanceláře Pierstone

foto Jan Kolman

Umělá inteligence vstupuje čím dál víc do našich životů a my s tím víceméně nemůžeme nic dělat. Státy řeší, jak se k novým technologiím postavit z pohledu práva, zatím je to ale spíše marná snaha. Dnes se považuje za ilegální poslat svévolně vojáky do sousedního státu, ale už zdaleka není jasné, jestli může stát kybernetickými útoky likvidovat třeba cizí nemocnice. O tom hovoří právnička Jana Pattynová z mezinárodní advokátní kanceláře Pierstone, která patří k předním odborníkům v této oblasti.

Když jsem se připravoval na tento rozhovor, překvapilo mě, jak rozsáhlé debaty se o umělé inteligenci vedou mezi právníky, zatímco veřejnost to příliš neřeší.

Lidé potřebují pravidla na všechno, aby spolu mohli fungovat. A protože v současnosti se už velká část ekonomiky odehrává v digitálním světě, navíc stále častěji s využitím umělé inteligence, lidé potřebují pravidla, jak spolu budou v digitálním světě jednat.

Současné zákonné normy a pravidla tedy podle vás určitě nestačí?

Do jisté míry je třeba stávající domluvená a dlouhodobě fungující pravidla aplikovat na novou realitu. Současné zákony ale určitě nestačí na pokrytí všech aspektů. Technologie je navíc těžké omezit jen na lokální pravidla, fungují v globálním meřítku. Pokud se podíváme třeba na ochranu demokracie nebo na vývoj zbraní, které využívají nové technologie, tak na globální úrovni nejsme schopni se domluvit ani na úplně jednoduchých pravidlech. Připustíme například, abychom měli autonomní zbraně, které jsou schopné zlikvidovat bez pokynu konkrétního člověka lidskou bytost? Debaty probíhají na úrovní EU, NATO nebo OSN, přesto ani zde není jasný závěr.

A předpokládám, že jsou i další problematické oblasti…

Ano, pokud se například podíváme na byznysovou úroveň, tak pravidla začínají být ještě komplikovanější. Kde končí třeba legitimní snaha nabízet zákazníkovi v digitální sféře zkušenost šitou přesně na jeho míru a kde začíná manipulace? Co ještě považujeme za soukromí a nedotknutelnou sféru jednotlivce, do které žádný podnikatel nesmí vstupovat?

Evropská komise už před dvěma roky vydala zprávu, podle níž je umělá inteligence součástí našeho každodenního života. Ve zprávě se píše i o tom, že je nutné přijmout zákonné normy. Pokročilo se v tom už nějak?

Pokročilo se v tom, no… někdo si myslí, že hodně, někdo, že málo, nicméně je potřeba vědět, že zákonodárný proces v EU trvá roky. Úvahy o pravidlech pro umělou inteligenci začaly relativně pozdě, někdy kolem roku 2015. V roce 2018 to začalo být považováno za prioritní téma, a když předsedkyně Evropské komise Ursula von der Leyenová nastupovala do své funkce na konci minulého roku, tak ve svém programovém prohlášení slíbila, že do sto dnů ve své funkci přijme vynutitelná pravidla v oblasti umělé inteligence. To se samozřejmě ukázalo jako naprosto nereálné. Nicméně na jaře tohoto roku byla vydána takzvaná Bílá kniha pro umělou inteligenci, která obsahuje řekněme ideové principy, z nichž by měl budoucí rámec umělé inteligence vycházet. Týká se ovšem zejména regulace podnikání.

Ale pokud jde o vztahy mezi státy, neděje se nic, tak?

V tomto smyslu probíhá samostatná debata v rámci OSN a dosud jsme se nedobrali ani pochopení, jestli v kyberprostoru platí stejná pravidla, jaká se vztahují třeba na válku ve fyzickém prostoru.

Můžete uvést nějaký příklad?

Podpořte Reportér sdílením článku