• Josef Bátrla

Umělá inteligence vs. právo: Na co dát při pořizování AI pozor?

Co si představíte pod pojmem „umělá inteligence“? Někdo Centrální mozek lidstva, tedy superpočítač z legendárního seriálu Návštěvníci, jenž dohlíží na Zemi; mladší generace zase komiksového asistenta jménem J.A.R.V.I.S., který řídil všechny chytré systémy Tonyho Starka, lépe známého pod přezdívkou Iron Man. O tom však následující článek nebude: Pojďme se spíš podívat, na co si dát pozor při pořizování umělé inteligence neboli AI.




Nejprve si musíme vymezit, jak se vypořádat se samotným pojmem umělé inteligence. Pravdou totiž zůstává, že existuje velký definiční problém – co vše vlastně AI zahrnuje.


Problém s definicí


Známe totiž mnoho podob umělých inteligencí, a ne všechny musejí dosahovat určité úrovně „samostatnosti“. Nad AI dávno nelze přemýšlet coby nad informačním systémem, který s námi bude komunikovat jako člověk a jehož stvoření je tak blízko, ale přece tak daleko.


Dnes už nás asi nešokuje, že se s umělou inteligencí setkáváme každý den, a dospěli jsme do fáze, kdy si takových věcí jednoduše nejsme schopni všímat. Schválně si sedněte do auta, vezměte do ruky telefon, odemkněte jej, zadejte do navigace cíl a pusťte si oblíbenou hudbu ve streamovací aplikaci. U které z uvedených aktivit vás umělá inteligence nedoprovázela? Pouze při usednutí do auta…


Typy a druhy umělé inteligence


S velkou nadsázkou můžeme tvrdit, že definic AI dnes existuje víc než způsobů jejího využití. Zmíněný vtip má však v lecčems praktický základ. Umělou inteligenci můžeme dělit v technologickém pojetí na typy, druhy, vývojová stadia, ale i podle oblastí uplatnění. Pokud bychom se ovšem snažili najít jednotnou definici, nad kterou panuje všeobecná shoda, hledali bychom marně.


Pro účely článku si proto vypomůžeme ne zcela zdařilou definicí, s níž přišla 25. 4. 2018 Evropská komise v rámci sdělení Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů. Dle zmíněného dokumentu považuje Komise za umělou inteligenci „systémy vykazující inteligentní chování v podobě vyhodnocování svého okolí a následného rozhodování či vykonávání kroků – s určitou mírou autonomie – k dosažení konkrétních cílů“.


Proč lze tuto definici považovat za problematickou však není předmětem tohoto článku.


Vývojová stadia umělé inteligence


Lepší obrázek nám poskytne rozdělení AI podle vývojových stadií (viz govtech.com/computing/Understanding-the-Four-Types-of-Artificial--Intelligence.html). První z nich, tzv. reactive machines, dobře známe třeba jako počítač Deep Blue, který v 90. letech porazil Garryho Kasparova v šachách.





Tento typ umělé inteligence je postaven na strojovém učení, jež umí vytvářet predikce a pravděpodobnost například dalšího tahu na základě rozložení figurek na šachovnici. Uvedené systémy přirozeně využívají i jiné technologie, jako neuronové sítě, evoluční algoritmy atd. Oproti dalšímu vývojovému stadiu však nemají žádnou paměť, a pracují tak pouze s tím, jaké vstupy „vidí“ v daném okamžiku.


Druhý typ AI, označovaný jako „limited memory“, již nahlíží do minulosti a pracuje s daty na základě určité historie. Jako příklad se často uvádí autonomní vozidlo, jež nemůže konkrétní velmi náročné výpočty dělat ad hoc, takže by v případě přejíždění z jednoho pruhu do druhého nestihlo vypočítat pravidlo, že nesmí ohrozit další vůz. To však neznamená, že by se autonomní vozidlo umělo poučit z minulosti – alespoň zatím ne.


Zmíněné by měl zvládat až třetí typ AI, nazývaný „theory of mind“, který by měl dokázat porozumět lidským myšlenkám a emocím. Na tento typ AI však zatím čekáme, což platí i pro její poslední stadium – tzv. self awareness, tedy „sebeuvědomění“ – kdy umělá inteligence nejen porozumí pocitům lidí v okolí, ale začne mít i pocity vlastní. Zde však stále hovoříme o relativně vzdálené budoucnosti. (Někteří autoři rozlišují ještě další typy, jako artificial narrow intelligence, artificial general intelligence nebo artificial superintelligence – viz forbes.com/sites/cognitiveworld/2019/06/19/7-types-of-artificial-intelligence/#35eecaf1233e.)


Dále se nebudeme zaměřovat na technologie, které ještě nejsou komerčně – a vlastně vůbec – dostupné. Z uvedeného totiž plyne, že se nejčastěji potkáme s prvním, popřípadě i druhým typem AI (např. ve vztahu k autonomním vozidlům). Pro dané systémy je z definičního pohledu příznačné, že si extrémně zjednodušeně řečeno umějí poradit s konkrétním problémem – ať už jde o výhru v šachách, nebo ve hře go, či o rozpoznání obličejů – a pohybují se v určitých mantinelech daných z povahy věci. Zjednodušeně: Umělá inteligence, jež aktuálně ovládá figurky na šachovém poli, těžko „vystoupí“ z počítačového programu a začne samovolně ovládat jiné elektronické zařízení, které máme v dosahu (např. chytré hlavice pro radiátory apod.)


(Oblasti, kde se AI využívá, ukazují výsledky analýzy Harvard University z roku 2017)



Umělá inteligence a právo


Nyní už víme, co umělá inteligence znamená. Pojďme se tedy podívat, jak na ni reaguje právo. Ačkoliv víme, že žádná právní definice AI neexistuje, přesto se umělá inteligence v různých právních vztazích objevuje. Ve většině případů půjde o autorské dílo, a sice počítačový program podle § 2 odst. 2 autorského zákona č. 121/2000 Sb. Dlužno dodat, že v tomto se AI vlastně neliší od běžného softwaru, který využíváme pro práci v kanceláři či jehož prostřednictvím ovládáme stroje – to však uvidíme blíže u odpovědnosti.






Stejně tak můžeme o umělé inteligenci hovořit jako o věci v právním slova smyslu, a to podle definice § 489 občanského zákoníku (OZ). Tím ovšem výskyt AI v právu nekončí, neboť se může v různých podobách objevovat v dalších definicích. Pokud by například ovládala nějakou hmotnou věc, mohli bychom hovořit o výrobku ve smyslu § 2939 OZ; nebo kdyby ovládala auto, šlo by diskutovat o definici vozidla dle § 2 písm. f) zákona č. 361/2000 Sb., o silničním provozu, apod.


Co se týče odpovědnosti, základní ustanovení obsahuje občanský zákoník. Při „pořízení“ AI
si však musíme dát pozor na smlouvu, aby především obsahovala její jasný popis, stanovovala povinnosti týkající se dat zejména s ohledem na GDPR, a zároveň musíme věnovat pozornost částem, jež se týkají odpovědnosti.

Krátce k odpovědnosti AI


Podle toho ovšem také můžeme určit odpovědnost za případnou škodu. České právo si totiž umí poradit s tím, způsobí-li škodu software či samotný výrobek, popřípadě dovodit odpovědnost provozovatele vozidla v případě, kdy z povahy věci nelze mluvit o řidiči.


V uvedeném duchu máme pro současnou dostupnou technologii právní řešení, kupříkladu:

  • dle § 2924 OZ, vznikne-li škoda při provozní činnosti v závodě prostřednictvím AI, odpovídá za ni provozovatel závodu či daného zařízení;

  • dle § 2927 a 2930 OZ, pokud vznikne škoda dopravním prostředkem, odpovídá za ni provozovatel vozidla, popřípadě vlastník, nelze-li provozovatele určit;

  • dle § 2936 a násl. OZ, jestliže škodu způsobila věc, může za ni odpovídat ten, kdo měl mít nad věcí dohled, popřípadě její vlastník;

  • a podle § 2939 a násl. OZ, v případě výrobku odpovídá za jeho vadu ten, kdo jej vyprodukoval (popř. i ten, kdo ho spolu s ním „obrandoval“), případně dodavatel, nelze-li výrobce určit, apod.




Jak je vidět, český zákon umí reagovat na aktuální potřeby, nás ovšem bude zajímat smluvní dokumentace.


Na co si dát při nákupu pozor?


Bez ohledu na to, zda poptáváme zakázkový vývoj, či pořizujeme standardní řešení, nás musí vždy v prvé řadě zajímat smluvní dokumentace ať už v podobě samotné smlouvy, či všeobecných obchodních podmínek.


V daném dokumentu bychom měli mimo jiné vyhledat zejména tři věci: První a klíčový je popis toho, co skutečně poptáváme. V uvedeném bodě nás totiž zajímá zejména funkční vyjádření toho, co pořizujeme, co má daný software či výrobek umět a jak bude v základní podobě vypadat a fungovat. V praxi se zmíněné části paradoxně věnuje nejmenší pozornost, ačkoliv to může v určování vad hrát extrémně důležitou roli. Při kontrole či soupisu smlouvy bychom tak měli hledat odpověď na jednoduché otázky: „Jaký problém má poptávaný systém vyřešit? V čem nám má pomoci?“ Pokud v předloženém smluvním dokumentu nenajdeme odpověď, měli bychom se na to zaměřit.





Druhá, stejně důležitá věc se týká dat, jež bude AI využívat. Předně nás zajímá, kde se budou sbírat, co se s nimi bude dít, jak se budou používat a co se s nimi stane po ukončení spolupráce, popřípadě kdo všechno je uvidí. Právo totiž občas stanovuje určité limity, co lze dělat a co nikoliv, a ne vždy jsou dodavatelé zcela féroví a upozorní vás na různá úskalí, jež na vás klade například GDPR.


Řeč je třeba o predikci chování zákazníků a úpravě cenotvorby na základě jejich parametrů. Technologie, které nám umožňují zjistit různé demografické a jiné charakteristiky a podle toho připravit cenu na míru, rozhodně nejsou ze světa sci-fi. Taková praktika však může být v rozporu jak s ochranou spotřebitele (např. se zákazem diskriminace), tak s ochranou osobních údajů – třeba proto, že je nutné o takové operaci informovat a může splňovat i definiční znaky automatizovaného individuálního rozhodování, s nímž se pojí relativně přísné povinnosti. Poslední z jmenovaných těch věcí, na které si dát pozor, je samozřejmě odpovědnost za to, co když se něco pokazí. Téma odpovědnosti za kroky systému, které i sám výrobce může jen stěží replikovat (protože s trochou nadsázky si takový systém po zapnutí žije trochu vlastním životem), patří k nejdiskutovanějším.


Například v rámci strojového učení obohacují někteří poskytovatelé svoji technologii o všemožné údaje, jež mají k dispozici, a „učí“ svůj program i na základě dat někoho jiného. Daná skutečnost jde poté na vrub správce, kterým bude většinou právě objednatel.

Potkávají se tu dva principy: Objednatel si pořizuje novou technologii, za niž platí, přičemž očekává, že bude fungovat přesně podle jeho představ (zde vidíme, proč je důležité mít dobře stanovený předmět smlouvy, viz výše). V opačném případě, nebo pokud se něco nedej bože pokazí, bude zodpovědnost na poskytovateli. Ten však na druhou stranu mnohdy za přijatelnou cenu dodává řešení, u nějž často nemusí od spuštění stoprocentně ovlivnit funkčnost a zároveň to, jakými daty objednatel software „krmí“. Pokud se tedy něco pokazí, nemusí jít často o to, co měl poskytovatel vždy pod výhradní kontrolou – a za daných okolností pochopitelně nechce odpovídat za vadu.





Proto bychom měli ve smlouvě věnovat pozornost tomu, do jaké míry se poskytovatel snaží svoji škodu limitovat a zda jsou pro nás takové podmínky přijatelné. Měli bychom tedy mít na paměti nejhorší možné scénáře a fakt, zda nám smluvní dokument poskytuje dostatečnou jistotu, že se to buď nestane, nebo že se – pokud to nelze vyloučit – domůžeme odpovídající náhrady škody a opravy tak, aby se naše investice neznehodnotila.


Závěr


Umělá inteligence, to nejsou jen roboti z Hvězdných válek, ale dnes již i široce dostupné systémy založené například na technologii strojového učení. Ačkoliv se na definici AI neshodnou ani odborníci a právo žádnou definici neurčuje, neznamená to, že nejsou

právní otázky v souvislosti s jejím užíváním v tuto chvíli vyřešeny.


Článek byl publikován v říjnovém čísle časopisu Statutární zástupce firmy


0 komentář

Sdělení pro spotřebitele: Případné spory z poskytování právních služeb můžete řešit mimosoudně prostřednictvím České advokátní komory v souladu se zákonem č. 634/1992 Sb., o ochraně spotřebitele. Další informace včetně postupu naleznete zde  

© 2020 by Josef Bátrla.