Použitelnost odpovědi ChatGPT jako důkazního prostředku

S nástupem umělé inteligence a jejího rostoucího využití v různých oblastech lidské činnosti vyvstává otázka, jak tyto technologie mohou být integrovány do právního systému. Konkrétně se nabízí problematika použitelnosti odpovědí generovaných umělou inteligencí, jako je hojně užívaný ChatGPT, v roli důkazního prostředku v soudních řízeních. Touto otázkou se již zabýval Městský soud v Praze.

Je nesporným faktem, že umělá inteligence může výrazně zefektivnit a urychlit procesy spojené s analýzou a tříděním velkého množství dat. Co se týče použitelnosti v justici, systémy umělé inteligence mohou procházet rozsáhlé soudní spisy, účetní záznamy nebo jiné dokumenty a identifikovat relevantní informace, které mohou být použity jako důkazy v soudním řízení.

Akt o umělé inteligence s využitím systémů umělé inteligence v oblasti soudnictví jednoznačně počítá, když mezi vysoce rizikové systémy řadí i systémy určené na pomoc soudnímu orgánu při zkoumání a výkladu fakt a práva a při uplatňování práva na konkrétní soubor skutečností.

S využitím umělé inteligence v oblasti zefektivnění analýzy důkazů tak počítá i evropská legislativa. Co už ale není natolik zjevné, je použitelnost odpovědi nebo jiného výstupu systému umělé inteligence jako důkazního prostředku.

Touto skutečností se zabýval Městský soud v Praze v rozsudku ze dne 9. listopadu 2023. V rámci řízení soud zamítl pro nadbytečnost dokazování některými žalobcem navrženými listinami, mj. i odpovědí ChatGPT na dotaz ohledně těžby jílu v předmětné oblasti.

Podle zdůvodnění soudu odpověď ChatGPT, které je určeno pro širokou veřejnost, nemůže ke zjištění skutkového stavu jakkoli přispět. Je totiž obecně známou skutečností, že veřejnosti aktuálně dostupná verze tohoto velkého jazykového modelu není spolehlivým zdrojem informací jakéhokoli druhu, jelikož v případě, že určitou informací nedisponuje, poskytuje informace vyfabulované, zhusta bez jakékoli opory v realitě či s odkazy na konkrétní, avšak neexistující, vymyšlené primární zdroje. Tyto případy přitom nelze, s výjimkou zjevných logických nebo věcných omylů, jednoduše rozlišit. Pravdivost odpovědí ChatGPT, ale i dalších komunikačních rozhraní jiných velkých jazykových modelů fungujících na stejných principech, tak je třeba ověřit pomocí jiných zdrojů; v takovém případě by ovšem byly důkazními prostředky právě tyto jiné zdroje, a nikoli odpověď ChatGPT.

Městský soud v Praze tedy zamítl použití odpovědi systému ChatGPT jako důkazního prostředku jednak pro nadbytečnost a jednak s odkazem na § 121 občanského soudního řádu s tím, že je obecně známou skutečností, že tento systém umělé inteligence není spolehlivým zdrojem faktických informací, a proto jeho odpověď na dotaz týkající se skutkových otázek není důkazním prostředkem způsobilým k prokázání skutkového stavu.

Zamítání důkazů pro nadbytečnost je v soudní praxi běžný postup, který by měl zabraňovat zbytečnému či dokonce obstrukčnímu prodlužování řízení. Oproti tomu ustanovení § 121 občanského soudního řádu vylučuje z dokazování skutečnosti, které jsou všeobecně známy široké veřejnosti a není je třeba dokazovat, neboť jejich existence je zřejmá a dále skutečnosti, které jsou soudu známy z jeho činnosti.

Co z toho pro nás vyplývá? Především to, že soud považuje výstupy generované systémem umělé inteligence za nevěrohodné. Je ovšem otázkou nakolik je takový přístup udržitelný, neboť je rovněž obecně známou skutečností, že systémy umělé inteligence procházejí neustálým vývojem a zlepšováním.

Co se týče přístupu soudů v České republice k systémům umělé inteligence, v současné době nelze hovořit o konstantní rozhodovací praxi. To znamená, že přístup k umělé inteligenci se může lišit případ od případu a závisí na konkrétních okolnostech a potřebách daného řízení. V rozsudku ze dne 11. října 2023 například opět Městský soud v Praze rozhodl, že zadávání pokynů pro umělou inteligenci není chráněno autorským zákonem.

Integrace umělé inteligence, do zejména administrativních procesů i v justiční sféře, je nesporná. Z uvedených rozhodnutí je však zřejmé, že soudy se již zabývají i specifickými otázkami legality a etiky použití umělé inteligence v praxi, jejichž integrace už tak snadná není.

Pojďme si zopakovat dnešní téma na kontrolních otázkách 

Otázka první:

Počítá evropská legislativa s využitím systémů umělé inteligence v justiční praxi?

Ano, Akt o umělé inteligenci řadí mezi vysoce rizikové systémy i systémy určené na pomoc soudnímu orgánu při zkoumání a výkladu fakt a práva a při uplatňování práva na konkrétní soubor skutečností.

A otázka druhá:

Je dle české judikatury odpověď generovaná systémem ChatGPT použitelným důkazním prostředkem?

Nikoliv, dle Městského soudu v Praze se nejedná o spolehlivý zdroj faktických informací, a proto jeho odpověď na dotaz týkající se skutkových otázek není důkazním prostředkem způsobilým k prokázání skutkového stavu.

Děkujeme za Vaši pozornost a budeme se těšit u dalšího chytrého podcastu z oblasti využití umělé inteligence. Na slyšenou!