Co přinese Akt o umělé inteligenci?

Chytrý podcast Barbory Košinárové na téma:

Co přinese Akt o umělé inteligenci?

Evropský parlament dne 13. března 2024 schválil návrh Nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci, takzvaný Akt o umělé inteligenci. K završení evropského legislativního procesu je ještě zapotřebí schválení Evropskou radou. Toto schválení je však spíše formálního charakteru. Pojďme se nyní společně podívat na novinky, které tento akt přináší.

Akt o umělé inteligenci, který by se měl začít uplatňovat od roku 2026, reguluje především rizika spojená s umělou inteligencí, jejíž využití v nejrůznějších oborech neustále expanduje. To však přináší rizika, na které je třeba legislativně reagovat.

Především je třeba si říci, co vlastně tento akt rozumí pod pojmem systém umělé inteligence. Je jím jakýkoliv software, vyvinutý pomocí některé z technik uvedených v první příloze aktu, a který může za určitým cílem, který definuje člověk, generovat výstupy jako je obsah, predikce, doporučení nebo rozhodnutí, která ovlivňují prostředí, se kterým tento systém komunikuje.

Regulace navrhovaná aktem předně stanovuje seznam zakázaných postupů umělé inteligence. Tyto praktiky jsou považovány za nepřijatelné pro rozpor se základními hodnotami Evropské unie, zejména pro porušování základních lidských práv.

Zákazy se týkají postupů, které mohou manipulovat s fyzickými osobami prostřednictvím podprahových technik bez jejich vědomí. Případně zneužívají zranitelnosti konkrétních zranitelných skupin, jako jsou děti nebo osoby se zdravotním postižením, s cílem ovlivnit jejich chování způsobem, který by mohl jim nebo jiné osobě způsobit psychickou nebo fyzickou újmu. Návrh rovněž zakazuje přidělování sociálního kreditu na základě umělé inteligence pro účely orgánů veřejné moci, které by vedly k znevýhodňujícímu nebo nepříznivému zacházení s fyzickými osobami za aktem stanovených situací. A konečně je až na určité omezené výjimky zakázáno rovněž používání biometrické identifikace na dálku v reálném čase na veřejně přístupných místech pro účely prosazování práva.

Dále akt stanovuje speciální pravidla pro systémy umělé inteligence, které představují vysoké riziko pro zdraví a bezpečnost nebo pro základní práva fyzických osob. Tyto vysoce rizikové systémy umělé inteligence akt povoluje pod podmínkou, že budou splňovat určité závazné požadavky a že bude provedeno posouzení shody ex ante neboli předem, tj. ještě před jejím použitím. Seznam vysoce rizikových systému umělé inteligence obsahuje třetí příloha aktu. Konkrétně jde o technologie užívané v oblasti:

• kritické infrastruktury, například provozu silniční dopravy a dodávek vody, plynu, topení a elektřiny;
• vzdělávání a odborné přípravy, například určování přístupu fyzických osob ke vzdělávacím institucím nebo hodnocení studentů vzdělávacích institucí;
• zaměstnanosti, správy pracovníků a přístupu k samostatné výdělečné činnosti, například nábor pracovníků nebo rozhodování o postupu v zaměstnání;
• přístupu k základním soukromým a veřejným službám a dávkám, například úvěrové hodnocení;
• vymáhání práva, například technologie jako detektory lži a obdobné nástroje, nebo za účelem zjišťování emočního stavu fyzické osoby, dále použití takzvaných deep fakes, hodnocení spolehlivosti důkazů, odhalování, vyšetřování nebo stíhání trestných činů;
• migrace, azylu a správy hraničních kontrol, například rizika nedovoleného přistěhovalectví, ověřování pravosti cestovních dokladů nebo odhalování falešných dokladů; a
• správy soudnictví a demokratických procesů, jako jsou technologie určené na pomoc soudním orgánům při zkoumání a výkladu a práva.

Zásadní ovšem je, že akt u použití všech vysoce rizikových systémů ukládá povinnost lidského dohledu. Lidský dohled je zaměřen na prevenci nebo minimalizaci rizik pro zdraví, bezpečnost nebo základní práva, která mohou vzniknout při používání vysoce rizikového systému umělé inteligence v souladu s jeho účelem nebo za podmínek důvodně předvídatelného nesprávného použití. Konkrétně to znamená, že všechny technologie využívající umělou inteligenci, které akt řadí mezi vysoce rizikové musí být navrženy a vyvinuty takových způsobem a za pomoci vhodných nástrojů při rozhraní člověk – stroj, aby na ni v situacích, kdy je umělá inteligence využívána, mohli účinně dohlížet fyzické osoby.

Konečně akt zřizuje Evropskou radu pro umělou inteligenci. Ta by se měla skládat z vnitrostátních dozorových orgánů jednotlivých členských států reprezentovaných úředníkem daného úřadu a evropským inspektorem ochrany údajů. Jejím posláním by mělo být poskytování poradenství Komisi v oblasti umělé inteligence, tedy konkrétně shromažďování a sdílení odborných znalostí a osvědčených postupů mezi členskými státy a rovněž přispívání k jednotné správní praxi v členských státech vydáváním stanovisek, doporučení a jiných podkladů vztahující se k realizaci Aktu o umělé inteligenci.

Pojďme si zopakovat dnešní téma na kontrolních otázkách 

Otázka první:

Jaké postupy umělé inteligence Akt zakazuje?

Akt zakazuje využití systémů umělé inteligence, které využívají podprahových technik cílem podstatně ovlivnit chování osob tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu, které využívají zranitelnosti určité skupiny osob v důsledku jejich věku nebo tělesného nebo mentálního postižení za účelem ovlivnit jejich chování. Dále zakazuje přidělování sociálního kreditu na základě umělé inteligence, pro účely orgánů veřejné moci, který může dále negativním způsobem determinovat postavení fyzických osob. A konečně je až na určité omezené výjimky zakázáno rovněž používání biometrické identifikace na dálku v reálném čase na veřejně přístupných místech pro účely prosazování práva.

A otázka druhá:

Jaký dozorový orgán v oblasti umělé inteligence akt zřizuje?

Akt zřizuje Evropskou radu pro umělou inteligenci, jejímž posláním je shromažďování a sdílení odborných znalostí a osvědčených postupů mezi členskými státy, přispívání k jednotné správní praxi v členských státech vydávání stanovisek, doporučení a jiných podkladů vztahující se k realizaci tohoto aktu. Rada dále by měla rovněž dohlížet na prosazování a provádění aktu o umělé inteligenci členskými státy.

Děkujeme za Vaši pozornost a budeme se těšit u dalšího chytrého podcastu z oblasti unijního práva. Na slyšenou!