Zákonodarcovia v Európe vrátane Slovenska sa sústreďujú na to, aby bola postihovaná výroba a šírenie deepfakov. Otázka, čo urobiť s podozrivým, ktorý sa tvrdenou falzifikáciou elektronického dôkazu bude brániť, čaká na prvého, kto túto obranu vysloví.
Pred pár týždňami mi napadla otázka v názve tohto newslettra. Pokúsil som sa dať dokopy dostupné odpovede.
Syntéza hlasu totiž zlacnela natoľko, že je iba otázkou času, kedy sa odpočúvaní podozriví začnú brániť, že nahrávky ich telefonických rozhovorov o trestnej činnosti nezodpovedajú tomu, čo v skutočnosti povedali.
Môže však široká dostupnosť nástrojov na syntézu hlasu, sama osebe, stačiť na spochybnenie nahrávok zo súdom povoleného odpočúvania? Ako by na takú námietku mali zareagovať súdy?
V Spojených štátoch amerických (USA) aj v Nemecku si tieto otázky už kladú, majú k nim dáta a v USA aj návrh normatívnej reakcie.
Európsky súd pre ľudské práva (ESĽP) sa k nim ešte nevyjadril, pretože podľa údajov k 19. novembru 2024 zatiaľ nemal „príležitosť zaoberať sa významným počtom prípadov týkajúcich sa vplyvu umelej inteligencie (AI) na ochranu práv a slobôd podľa Dohovoru a preskúmať komplexnosť a nuansy otázok súvisiacich s AI“.
Hlas už nie je ako vlas
Rozhodnutie ESĽP výslovne o tzv. deepfake defense zatiaľ neexistuje.
Niektoré jeho rozhodnutia, ak sa čítajú za sebou, však ukazujú, k čomu by ESĽP v takom prípade pravdepodobne dospel. Je to prekvapivo blízko tomu, čo si nezávisle formulujú v USA aj v Nemecku.
V rozhodnutí zo začiatku internetovej doby sa ESĽP oprel o predpoklad, že hlas je objektívny dôkaz ako krv: „Vzorky hlasu je možné považovať za obdobu vzoriek krvi, vlasov alebo iných fyzických alebo objektívnych vzoriek používaných pri forenznej analýze“ (rozsudok z roku 2001 v prípade P. G. a J. H. proti Spojenému kráľovstvu, bod 80, ktorý nadväzuje na ešte staršie rozhodnutie z roku 1996).
O vyše dve desaťročia neskôr, v ére Webu 2.0, sociálnych sietí, dostupných šifrovacích nástrojov a masového rozšírenia smartfónov, hovorí ESĽP o vierohodnosti elektronických dôkazov zdržanlivo. Práve v elektronickej podobe sa zhromažďujú a uchovávajú aj hlasové vzorky a výsledky odpočúvaní.
Elektronické dôkazy sa podľa ESĽP „v mnohých ohľadoch odlišujú od tradičných foriem, a to aj pokiaľ ide o ich povahu a osobitné technológie potrebné na ich získavanie, zabezpečenie, spracovanie a analýzu. Predovšetkým vyvolávajú osobitné otázky v súvislosti s ich spoľahlivosťou, pretože zo svojej podstaty sú náchylnejšie na zničenie, poškodenie, pozmenenie alebo manipuláciu“ (rozsudok z roku 2023 v prípade Jüksel Jalčynkaja proti Turecku, bod 312).
K tomu treba pripočítať kritéria, ktoré ESĽP ustálene používa na hodnotenie celkovej spravodlivosti trestného konania. Nevyhnutné je skúmať, či obvinený mal možnosť spochybniť pravosť dôkazov a namietať proti ich použitiu. Treba tiež zohľadniť kvalitu dôkazov vrátane toho, či okolnosti ich získania spochybňujú ich spoľahlivosť alebo presnosť (Bykov proti Rusku, bod 90).
ESĽP sa zároveň už vyjadril aj k podozreniam z podstrčenia dôkazov orgánmi presadzujúcimi právo, hoci nie v súvislosti s AI a elektronickými záznamami.
V prípadoch z rokov 2014 a 2015 išlo o námietku podozrivých, že drogy im do áut podstrčila polícia. V oboch prípadoch ESĽP konštatoval porušenie práv sťažovateľov.
Rozhodujúce bolo, že pochybnosti o manipulácii zo strany orgánov boli racionálne, nešlo len o obrannú pózu. V jednom prípade medzi zadržaním a prehliadkou vozidla uplynulo tridsať minút, v druhom dvadsať a prehliadka sa uskutočnila navyše na inom mieste, čo podľa ESĽP „vyvoláva oprávnené obavy z možného podstrčenia dôkazu“ (Layijov proti Azerbajdžanu, bod 69; Sakit Zahidov proti Azerbajdžanu, bod 53).
Tiež zavážilo, že z prehliadok oboch vozidiel existoval policajný videozáznam, ale vnútroštátne súdy sa s ním nechceli oboznámiť a uspokojili sa s konštatovaním, že tvrdenie o podstrčení dôkazu je obranné a nepotvrdilo sa, bez toho, aby tieto námietky riadne preskúmali. Vnútroštátne orgány neposkytli videozáznam dokonca ani samotnému ESĽP, hoci oň výslovne žiadal (tamtiež).
Spôsob získania dôkazu a nezaoberanie sa námietkami o jeho pravosti preto urobili trestné konanie ako celok nespravodlivým (Layijov, bod 76; Sakit Zahidov, bod 58).
Čo z toho vyplýva? Ak obvinený prednesie konkrétne a racionálne odôvodnené tvrdenie o podstrčení dôkazu, ale vnútroštátne súdy mu odoprú akýkoľvek mechanizmus na jeho preverenie, prípadne námietku mlčky obídu, porušia Dohovor.
V podobnej situácii sa ocitá podozrivý, ktorému vnútroštátny súd zamietne návrh napríklad na znalecké skúmanie syntetického pôvodu zvukového záznamu, ale v rozsudku sa už nevyjadrí, prečo tomuto záznamu napriek prípadným racionálnym pochybnostiam verí, prípadne prečo ich považuje za nerozumné.
Dividenda klamára
Predstavme si tú situáciu. Na hlavnom pojednávaní sa prehrá záznam z odpočúvania telefonického rozhovoru. Obžalovaný naň zareaguje slovami, že nie všetko, čo nahrávka zachytáva, medzi ním a druhou komunikujúcou stranou aj odznelo. Samo osebe to nie je nič nové, pretože obžalovaní spochybňujú totožnosť hovoriaceho a obsah odpočúvaného rozhovoru odjakživa.
Nové bude odôvodnenie. Obžalovaný povie, že usvedčujúca časť záznamu bola vygenerovaná umelou inteligenciou na základe vzoriek jeho hlasu z odpočúvania, ktoré orgány presadzujúce právo vykonávali dlhší čas. Pripojí to, čo dnes vie povedať ktokoľvek, kto sleduje správy. Naklonovať hlas predsa zvládne bežne dostupný nástroj z niekoľkých sekúnd nahrávky.
Situácia môže byť ešte zložitejšia, pretože obžalovaný nemusí z podstrčenia dôkazu obviniť nevyhnutne orgány presadzujúce právo. Môže tvrdiť, že s obsahom manipuloval ktokoľvek iný, kto mal prístup k jeho telefónu a k dostatočnému množstvu hlasových vzoriek. Aj to ukazuje, aké zložité môže byť takúto obranu vyvrátiť. K manipulácii totiž môže dôjsť nielen na úrovni odpočúvacieho systému či pri následnom nakladaní s nahrávkami orgánmi štátu, ale už na úrovni samotného odpočúvaného telefónu, ktorú tieto orgány nemajú pod kontrolou.
Tento článok je dostupný po registrácii.
Bezplatnou registráciou získate prístup k redakciou vybraným článkom a pravidelnému týždennému newsletteru.