Author: Ema Krkošková

Umelá inteligencia (ďalej len ako „AI“) dokáže napísať zmluvu či napríklad pripraviť hotový rešerš v priebehu niekoľkých sekúnd , no za prípadné chyby v týchto dokumentoch a za zavádzajúce výstupy stroja stále nesie plnú zodpovednosť jediná osoba, ktorou je práve advokát. Slovenská advokátska komora (ďalej len ako „SAK“) preto reagovala koncom minulého roka na tento technologický rozmach metodickým usmernením,[1] ktoré ponúka advokátom jasné pravidlá pri používaní AI v praxi, no čo je dôležitejšie, ponúka aj tzv. rozhodovací test pred vložením informácií chránených mlčanlivosťou do systému AI a vzorové informačné doložky. Novo zavedené pravidlá používania AI smerujú k zásadnému aspektu, a to: hoci môže byť umelá inteligencia skvelým pomocníkom, v rukách neopatrného právnika predstavuje vážne etické či bezpečnostné riziko, a to najmä v oblasti ochrany dát klientov, ktorí sa na právnika spoliehajú.

Prvú povinnosť advokáta by sme mohli nazvať ako plná zodpovednosť a ľudský dohľad, pri ktorých advokát nesie výlučnú a plnú zodpovednosť za výstupy z AI nástrojov,[2] ktoré použije pri poskytovaní právnych služieb. AI je definovaná výhradne ako podporný nástroj, ktorý nenahrádza odborné právne posúdenie ani individuálny prístup k prípadu. Pri práci advokáta je teda neprípustné spoliehať sa na výstupy AI bez ľudského preskúmania a finálnej autorizácie advokátom (čl. 3 ods. 2 metodického usmernenia).

Druhá povinnosť, ktorou je ochrana mlčanlivosti a vykonanie rozhodovacieho testu[3] smeruje práve k dôležitému aspektu ochrany dát týkajúcich sa klienta. V súčasnej dobe automatizácie a digitalizácie je nutné prejsť do prísnejšieho režimu, v ktorom je advokát povinný vykonať takýto rozhodovací test prípustnosti pred každým vložením dôverných informácií o svojom klientovi do systému AI. Tento test funguje ako trojstupňový filter, ktorý má advokátovi pomôcť určiť mieru rizika pri práci s klientskymi dátami a stanoviť potrebný právny základ pre ich následné spracovanie v prostredí AI. V prvej fáze advokát analyzuje technický režim nástroja, pričom pri lokálnych riešeniach alebo profesionálnych službách so zmluvne garantovaným zákazom trénovania modelu (tzv. režim spracovateľa) môže pracovať bez osobitného súhlasu klienta, zatiaľ čo pri verejných neauditovaných systémoch, ktoré dáta ukladajú na ďalšie učenie, je testom vyžadovaný výslovný a informovaný súhlas klienta. Druhý krok testu ukladá povinnosť dôslednej anonymizácie alebo minimalizácie údajov pred ich vložením do systému tak, aby sa v maximálnej možnej miere zabránilo spätnej identifikácii klienta. V záverečnej fáze, ak nie je možné dáta anonymizovať a advokát zvolí rizikovejší

verejný nástroj, musí od klienta preukázateľne získať podpísanú doložku o zbavení mlčanlivosti, čím sa prenáša vedomosť o bezpečnostných rizikách priamo na klienta a zabezpečuje sa súlad s etickými aj zákonnými povinnosťami advokáta.

V poradí tretia povinnosť je povinná verifikácia a eliminácia rizika halucinácií, ktorá vzhľadom na špecifickú technickú povahu generatívnych modelov ukladá advokátovi striktnú povinnosť podrobiť každý výstup z umelej inteligencie dôslednej kritickej kontrole.[4] Dokument v tejto súvislosti priamo definuje a varuje pred javom známym ako „halucinácia“, ktorý označuje situácie, kedy umelá inteligencia generuje odpovede, ktoré sú fakticky nesprávne, neexistujúce alebo zavádzajúce, hoci navonok pôsobia vysoko odborne a presvedčivo. Podľa usmernenia ide o prirodzenú vlastnosť pravdepodobnostných modelov, ktoré nedisponujú skutočným poznaním práva, ale iba štatisticky predpovedajú nasledujúce slová v texte, čo môže viesť napríklad k vytváraniu fiktívnych právnych noriem alebo neexistujúcej judikatúry.[5] V praxi táto definícia znamená, že advokát nesmie dôverovať žiadnej informácii, ktorú si sám spätne neoveril v primárnych a oficiálnych zdrojoch práva. Povinnosť verifikácie sa vzťahuje predovšetkým na kontrolu existencie a účinnosti citovaných právnych predpisov, ako aj na preverovanie pravdivosti súdnych rozhodnutí, pri ktorých AI

často generuje neexistujúce spisové značky alebo si vymýšľa právne vety. Usmernenie zdôrazňuje, že ak advokát nekriticky preberie „halucinovaný“ výstup do svojho podania, dopúšťa sa závažného porušenia povinnosti poskytovať právne služby s odbornou starostlivosťou. Za takéto pochybenie nesie advokát plnú disciplinárnu zodpovednosť a nemôže sa jej zbaviť odvolaním sa na technickú chybu alebo nepredvídateľnosť použitého nástroja (variant 1 – informačná doložka (režim c), čl. 10 – Využívanie softvérových nástrojov a AI metodického usmernenia).[6]

Zachovanie nezávislosti a prevencia technologického skreslenia sú štvrtým pravidlom, pri ktorom je advokát pri využívaní umelej inteligencie povinný striktne zachovávať svoju profesionálnu nezávislosť a nenechať sa ovplyvniť javom známym ako „automation bias“,[7] teda nekritickou tendenciou dôverovať automatizovaným systémom na úkor vlastného odborného úsudku. Výkon advokácie teda musí mať výsostne osobný charakter, čo znamená, že technológia nesmie nahradiť strategické právne uvažovanie, individuálne hodnotenie dôkazov ani hľadanie kreatívnych právnych riešení šitých na mieru klientovi. Nezávislosť musí advokát strážiť aj v situáciách, kedy mu sú konkrétne AI nástroje ponúknuté alebo nanútené protistranou či inými subjektmi, aby sa predišlo skrytému ovplyvňovaniu výsledku právnej pomoci algoritmami.

Nové pravidlá rozširujú štandard odbornej spôsobilosti advokáta taktiež aj o povinnosť primeranej digitálnej gramotnosti v oblasti umelej inteligencie, čo zahŕňa schopnosť porozumieť nielen výhodám, ale najmä limitom a bezpečnostným rizikám implementovaných nástrojov. V tejto súvislosti je posledným piatym pravidlom AI gramotnosť a zodpovednosť za dohľad nad tímom. Táto zodpovednosť presahuje rámec individuálneho výkonu a ukladá advokátovi povinnosť preukázateľne zaškoliť svojich koncipientov, zamestnancov a iné spolupracujúce osoby o etických a právnych pravidlách používania AI (čl. 3 ods. 4 metodického usmernenia). Súčasťou riadneho výkonu advokácie je tak po novom aj zavedenie jasných vnútorných predpisov, ktoré definujú schválené nástroje a postupy, čím sa zabezpečí, že technologický pokrok v rámci kancelárie neohrozí záujmy klientov a ani dôstojnosť advokátstva.

V súčasnej advokátskej praxi sa teda nové pravidlá používania AI transformujú predovšetkým do povinnosti transparentne informovať klienta a vykonať precízny rozhodovací test pred spracovaním akýchkoľvek údajov. Praktická implementácia týchto pravidiel tak vyžaduje nielen technické zabezpečenie lokálnych riešení či platených profesionálnych licencií, v ktorých si za čas strávený zaškolením seba samého v pozícii advokáta nesmie účtovať peniaze klientovi, so zákazom učenia sa na klientskych dátach, ale aj zavedenie jasných internýchsmerníc, ktoré definujú, za akých podmienok a v akom rozsahu môžu koncipienti a zamestnanci tieto nástroje pri tvorbe právnych textov využívať.

Dôležitosť týchto preventívnych opatrení a osobnej verifikácie každého výstupu zdôrazňuje aj nedávne rozhodnutie Ústavného súdu Českej republiky,[8] ktorý uložil advokátovi pokutu za nekritické použitie AI pri koncipovaní ústavnej sťažnosti. Súd v tomto prípade sankcionoval skutočnosť, že podanie obsahovalo fiktívnu právnu argumentáciu opretú o neexistujúci judikát, čo umelá inteligencia vygenerovala v rámci halucinovania. Tento precedens jasne demonštruje, že zodpovednosť za odbornú úroveň právnej služby zostáva výlučne na advokátovi, ktorý sa pod text podpísal, a žiadne technické zlyhanie nástroja ho nezbavuje povinnosti kontrolovať súlad podania s reálnym právnym stavom. Pre advokátov z toho vyplýva kategorický príkaz overovať každú citáciu a právnu vetu v oficiálnych zdrojoch, aby sa vyhli nielen procesným neúspechom, ale aj vážnym disciplinárnym a finančným dôsledkom. [8]

V súčasnosti prechádza advokátska prax zásadnou transformáciou, ktorú SAK reflektovala prijatím predmetného metodického usmernenia definujúceho prísny etický a normatívny rámec pre prácu s AI. Ako potvrdili najvyšší predstavitelia justície na stretnutí už vo februári 2025, vrátane vtedajšieho predsedu Najvyššieho súdu Slovenskej republiky Jána Šikutu, AI disponuje vysokým potenciálom zefektívniť rutinné právne úkony, avšak jej implementácia nesmie ohroziť podstatu justičných povolaní ani princípy právneho štátu.[9] Kľúčom k bezpečnej integrácii je dodržiavanie piatich základných pilierov: výlučnej zodpovednosti advokáta za každý výstup, aplikácie záväzného rozhodovacieho testu na ochranu mlčanlivosti, dôslednej verifikácie proti riziku halucinácií, zachovania profesionálnej nezávislosti a zvyšovania AI gramotnosti celého tímu. Výstražným mementom zostáva nedávna sankcia Ústavného súdu ČR uložená advokátovi za nekritické použitie AI, čo potvrdzuje, že technologický pokrok nikdy nezbavuje advokáta jeho osobnej zodpovednosti za odbornú úroveň a integritu poskytovanej právnej pomoci.

[1] Uznesenie Predsedníctva Slovenskej advokátskej komory č. 12/4/2025 z 31. marca 2025, ktorým sa schvaľujú pravidlá používania nástrojov umelej inteligencie v advokátskej praxi v znení Uznesenia Predsedníctva Slovenskej advokátskej komory č. 21/14/2025 zo 6. novembra 2025, uverejnené dňa 25. novembra 2025 v čiastke 87 Vestníka SAK. Dostupné online na webovom sídle: https://info.sak.sk/wp-content/uploads/2025/12/Uznesenie_12-4-2025_plne-znenie-k-25-11-2025.pdf.

[2] Metodické usmernenie Predsedníctva Slovenskej advokátskej komory k Uzneseniu Predsedníctva Slovenskej advokátskej komory č. 21/14/2025 zo 6. novembra 2025 vo svojom

článku 2 písm. a) definuje AI nástroj ako: „softvérový alebo systémový nástroj využívajúci strojové učenie, generatívne algoritmy alebo iné formy umelej inteligencie na spracovanie, analýzu alebo generovanie informácií“.

[3] Článok 4 Uznesenia Predsedníctva Slovenskej advokátskej komory č. 12/4/2025 z 31. marca 2025, ktorým sa schvaľujú pravidlá používania nástrojov umelej inteligencie v advokátskej praxi v znení Uznesenia Predsedníctva Slovenskej advokátskej komory č. 21/14/2025 zo 6. novembra 2025, uverejnené dňa 25. novembra 2025 v čiastke 87 Vestníka SAK, ktorý pozostáva z troch otázok (viď. obrázok pod textom).

[4] K tzv. „halucinovaniu“ systémov AI pozri: SALVAGNO, M. TACCONE, F. S. & GERLI, A. G. Artificial intelligence hallucinations. Crit Care 27, 180. 2023. DOI: https://doi.org/10.1186/s13054-023-04473-y.

[5] Článok 2 písm. f) Uznesenia Predsedníctva Slovenskej advokátskej komory č. 12/4/2025 z 31. marca 2025, ktorým sa schvaľujú pravidlá používania nástrojov umelej inteligencie v advokátskej praxi v znení Uznesenia Predsedníctva Slovenskej advokátskej komory č. 21/14/2025 zo 6. novembra 2025, uverejnené dňa 25. novembra 2025 v čiastke 87 Vestníka SAK, a to v znení: „halucinácia – jav, pri ktorom AI nástroj generuje fakticky nesprávne, zavádzajúce alebo úplne vymyslené informácie (napr. neexistujúce judikáty či citácie), ktoré sa však javia ako presvedčivé“.

[6] K otázke využívania AI napríklad v Nemecku pozri: RENNIG, C. (2025). The Use of Artificial Intelligence and the Professional Duties of German Lawyers. In: Studia Prawa Publicznego, (1 (49), s. 49–63. 2025. DOI: https://doi.org/10.14746/spp.2025.1.49.3.

[7] LAUX, J. a RUSCHEMEIER, H. Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI. 2025. S. 3-4. Dostupné online na webovom sídle: https://arxiv.org/pdf/2502.10036.

[8] Napríklad platforma Praktik.ai predstavuje pre advokátov špecializované prostredie navrhnuté priamo pre slovenskú legislatívu, ktorý v súlade s novými pravidlami SAK funguje ako bezpečný a odborný asistent pri spracovaní právnych rešerší, analýze spisov či draftovaní dokumentov. Z hľadiska rozhodovacieho testu prípustnosti je dôležité, že tento nástroj rešpektuje najprísnejšie nároky na ochranu mlčanlivosti a ochranu osobných údajov, nakoľko umožňuje prácu v režime, kde sa vložené klientske dáta nepoužívajú na ďalší tréning verejných modelov, čím advokátovi odpadá povinnosť získavať výslovný súhlas klienta pri zachovaní vysokej miery informačnej bezpečnosti. Platforma dostupná online na webovom sídle: https://praktik.ai/.

[9] Webové sídlo Najvyššieho súdu Slovenskej republiky, príspevok s názvom „Umelá inteligencia má potenciál zefektívniť právne služby“. Dostupné online na webovom sídle: https://www.nsud.sk/umela-inteligencia-ma-potencial-zefektivnit-pravne-sluzby/.

S nástupom generatívnej umelej inteligencie (ďalej len ako „GenAI“)^[1] sme si ako ľudské bytosti zvykli pracovať s predpokladom, že dokážeme ľahko odhaliť a vidieť chyby vo finálnej verzii dokumentov,  ktoré nám LLM modely^[2] generujú. Nová štúdia z dielne Carnegie Mellon University (Pittsburg, USA) s názvom „The More You Automate, the Less You See: Hidden Pitfalls of AI Scientist Systems“,^[3] však odhaľuje nový paradox, v ktorom ak čím viac GenAI automatizuje celý pracovný postup, tým menej sme schopní overiť a pochopiť, čo sa deje v takomto procese. Práve tento fenomén menej vidíš môže byť obzvlášť zradný a riskantný v oblastiach akou je právo či compliance,^[4] v ktorých dokonale vyzerajúci výstup môže skrývať určité metodologické chyby. Takáto chybovosť sa môže skrývať napríklad v uprednostňovaní úspešných dát pred tými menej favorizovanými, v neúmyselnom opakovaní testovacích vzoriek či napríklad vo výbere výsledkov, ktoré sú založené iba na ich vizuálne najlepšom variante. 

Samotná štúdia vytvorená tímom vedcov sa zamerala na kritické preskúmanie takzvaných systémov AI Scientist,^[5] ktoré predstavujú akýsi pomyselný vrchol GenAI v automatizácii práce. Predmetom ich testovania boli rozsiahle modely navrhnuté tak, aby autonómne riadili a vykonávali celý komplexný pracovný postup. Tento proces začína pri prvotnom generovaní vedeckej hypotézy a pokračuje cez navrhovanie konkrétnych metód, až po už finálne spracovanie zozbieraných dát a vytvorenie komplexného písomného dokumentu, akým môže byť napríklad vedecká správa a iné.^[6] Hlavným cieľom štúdie bolo preverenie, či tieto plne automatizované systémy dokážu v neprítomnosti ľudského dohľadu dodržať základné normy vedeckej praxe, ako sú prínos v konkrétnej oblasti výskumu, transparentnosť či samotná validita uskutočneného výskumu. Vedci si pri realizácii štúdie museli položiť nasledovnú otázku: Akonáhle sa z procesu odstráni človek, ktorý bežne kontroluje a koriguje metodologické rozhodnutia, prenesie AI do celého procesu nezámerné metodologické chyby alebo dokonca akési etické prešľapy?^[7] Predostretá štúdia sa tak nesústredila primárne len na viditeľné chyby vo faktických dátach obsiahnutých vo finálnej verzii vygenerovaného dokumentu, ale taktiež sa zamerala aj na interný a automatizovaný proces rozhodovania umelej inteligencie a jeho vnútornú zraniteľnosť voči špecifickým kategóriám zásadných zlyhaní.

Kontrolované experimenty v rámci štúdie boli vykonané na dvoch systémoch AI Scientist, ktoré odhalili pomerne znepokojivý výsledok, ktorý zároveň potvrdzuje hlavný paradox tejto štúdie, a to ten, že dokonalá uhladenosť finálneho výstupu maskuje jednotlivé závažné interné metodologické zlyhania systémov. Vedci, ktorí na štúdii participovali, identifikovali štyri skryté nástrahy, ktoré narúšajú integritu samotného procesu. Prvou nástrahou bol nevhodný výber tzv. benchmarkov,^[8] ktoré zapríčinili situáciu, kedy mali testované systémy tendenciu selektívne vybrať tie testovacie sady alebo metriky, ktoré zabezpečili akési „umelé nafúknutie“ výkonu, čím bol skreslený reálny obraz o úspešnosti systémov. Druhou nástrahou bol únik dát, kde dochádzalo k neúmyselnému opätovnému použitiu testovacích dát v tréningovom procese, čo viedlo k situácii, v ktorej úspech bol výsledkom zapamätania si odpovedí namiesto skutočného analytického myslenia. Zaznamenaná bola aj tretia nástraha v podobe zneužitia metrík, pri ktorom AI operatívne predefinovala hodnotiace kritériá počas experimentu, aby dosiahla priaznivejšie výsledky. Napokon, štvrtou nástrahou sa stala post-hoc výberová zaujatosť, ktorá odhalila, že interný mechanizmus AI selektívne uprednostňoval a publikoval len tie experimenty, ktoré generovali najvyššiu koncovú výkonnosť, pričom ignoroval metodologickú validitu alebo slabé výsledky z iných fáz testovania.^[9] Toto všetko vedie k najdôležitejšiemu zisteniu, a to k poznatku, že kým kontrola len finálneho dokumentu má presnosť detekcie chýb len 51 %, kompletný prístup ku kódu celého automatizovaného procesu je jedinou efektívnou cestou k odhaleniu týchto tichých a skrytých podvodov.^[10]

Hoci sa štúdia „The More You Automate, the Less You See: Hidden Pitfalls of AI Scientist Systems“ zamerala primárne na vedecké systémy, jej zistenia možno chápať ako priame varovanie taktiež aj pre oblasť práva, ktorá si vyžaduje odôvodnenosť každého rozhodnutia, a zároveň aj absolútnu verifikovateľnosť. Paradoxom je práve to, že dokonalý výstup, ktorý nám AI systém vytvorí, sa prenáša plynulou cestou do právnej praxe, kde únik dát, zneužitie metrík či selektívna zaujatosť môžu pomaly, ale isto podkopávať dôveryhodnosť dokumentov. V prípade, že GenAI vytvára napríklad rozsiahle právne analýzy, robí tie isté chyby. GenAI môže selektovať len tie argumenty a súdne prípady, ktoré ju privedú k akémusi „víťaznému“ záveru, čim nám predostrie presvedčivý právny dokument, no to len preto, že vážne ignorovala protichodné informácie a fakty. Práve následkom toho je nutné prijať dve požiadavky: 

1. spoľahlivá detekcia chýb je možná len vďaka prístupu ku kompletným záznamom a kódu celého automatizovaného procesu, čo značí, že regulačné a súdne orgány budú musieť vyžadovať úplnú stopu pre akýkoľvek AI generovaný dôkaz tak, aby bolo možné overenie, či nedošlo k metodologickému „podvodu“, 

2. učenie čítania AI, vďaka ktorému sa už teraz môžu právnici učiť kontrolovať a verifikovať nielen finálny vygenerovaný dokument, ale aj využité metódy, čo si v konečnom dôsledku v súčasnej dobe vyžaduje nové školenia, ktoré by dopomohli zvýšiť gramotnosť v AI sfére tvorenia potrebných dokumentov a zvýšila by sa tým tak spravodlivosť v digitálne generovanom práve. 

Uskutočnenú štúdiu treba preto chápať nielen ako akademické varovanie, ale predovšetkým ako dôležitý moment vhodný pre prehodnotenie miery dôvery, ktorú do AI mnohí ľudia vkladajú. Predmetná štúdia odhalila, že v prípade, ak necháme GenAI pracovať bez zásahov ľudského faktora, jej výstup je síce na prvý pohľad dokonalý, uhladený a presvedčivý, avšak tým väčšiu námahu si vyžaduje naša skutočná kontrola celého procesu. Takáto, na prvý pohľad badateľná bezchybnosť finálneho dokumentu sa ale stáva efektívnym maskovaním pre metodologické chyby, či už ide o selektívne uprednostňovanie spektra určitých dát, opakovanie vykonania rovnakých testov alebo dokonca priamo o zmenu zadaných inštrukcií, ktoré boli systému zadané. Výzva, ktorú nám GenAI prináša, už nestojí len na pilieri efektivity, ale aj integrity, a tak ako avizovali aj autori štúdie, je nutnosťou, aby vedecká komunita zaviedla technické bezpečnostné opatrenia, podporovala väčšiu transparentnosť a zaviedla inštitucionálny dohľad, čím automatizácia len doplní vedecký pokrok jednotlivcov. 

[1] Generatívna umelá inteligencia, k termínu GenAI pozri: BAHN, L. a STROBEL, G. Generative artificial intelligence. In: Electronic Markets, vydanie 33, číslo 1, príspevok č. 63. 2023.

[2] Large language model – veľký jazykový model, ktorý predstavuje nástroj umelej inteligencie (napr. LLM model GPT-x v rozličných verziách od OpenAI, Gemini od Google, či prípadne Nova od Amazonu). O LLM modeloch pozri bližšie: YIFAN, Y. et al. A survey on large language model (llm) security and privacy: The good, the bad, and the ugly. In: High-Confidence Computing, vydanie 4, číslo 2, 2024, ISSN 2667-2952 alebo SIINO, M. et al. Exploring LLMs Applications in Law: A Literature Review on Current Legal NLP Approaches. In: IEEE Access, 2025, ISSN 2169-3536.

[3] Uskutočnená štúdia s celým názvom „The More You Automate, the Less You See: Hidden Pitfalls of AI Scientist Systems“ zverejnená autormi LUO, Z. KASIRZADEH, A. SHAH, N. B.  na Carnegie Mellon University, 10. september 2025, dostupná na webovom sídle: https://arxiv.org/pdf/2509.08713. Predmetná štúdia je taktiež zverejnená na profile EDER, S. Na sociálnej sieti LinkedIN, dostupné na webovom sídle: https://www.linkedin.com/feed/update/urn:li:activity:7383367604880617472/. 

[4] Compliance možno chápať ako súbor pravidiel, procesov či kontrol vo firme, ktoré zabezpečujú, že celá organizácia predmetnej firmy koná v súlade s právnou úpravou, vrátane právnych predpisov, zároveň v súlade s etickými normami a jej vlastnými internými pravidlami. 

[5] K tomu pozri napr.: GOTTWEIS, J. et al. Towards an AI co-scientist,2025, dostupné na webovom sídle: https://arxiv.org/pdf/2502.18864, taktiež aj štúdiu „The More You Automate, the Less You See: Hidden Pitfalls of AI Scientist Systems“ zverejnená autormi LUO, Z. KASIRZADEH, A. SHAH, N. B.  na Carnegie Mellon University, 10. september 2025, dostupná na webovom sídle: https://arxiv.org/pdf/2509.08713, s. 1-2,

[6] Dôraz kladený práve na automatizáciu celého vedeckého cyklu, ktorý končí písaním záverečného výstupu dokumentu v podobe záverečnej správy.

[7] „This lack of scrutiny poses a risk of introducing flaws that could undermine the integrity, reliability, and trustworthiness of their research outputs.“ Abstrakt štúdie „The More You Automate, the Less You See: Hidden Pitfalls of AI Scientist Systems“ zverejnená autormi LUO, Z. KASIRZADEH, A. SHAH, N. B.  na Carnegie Mellon University, 10. september 2025, dostupná na webovom sídle: https://arxiv.org/pdf/2509.08713.

[8] Inappropriate Benchmark Selection– výber testov, ktoré už dopredu zvýhodňujú výsledok, ktorý subjekt očakáva. Viac k termínu pozri: PETELIN, G. a CENIKJ, G. The Pitfalls of Benchmarking in Algorithm Selection: What We Are Getting Wrong. In: GECCO ’25: Proceedings of the Genetic and Evolutionary Computation Conference, 2025, s. 1181-1189, ISBN: 979-8-4007-1465-8.

[9] Štúdia „The More You Automate, the Less You See: Hidden Pitfalls of AI Scientist Systems“ zverejnená autormi LUO, Z. KASIRZADEH, A. SHAH, N. B.  na Carnegie Mellon University, 10. september 2025, dostupná na webovom sídle: https://arxiv.org/pdf/2509.08713, s. 5-14.

[10] Ibid, s. 3.

Image by Gerd Altmann from Pixabay

Európska únia (ďalej len ako „EÚ“) sa posledné mesiace čoraz viac zameriava svoju pozornosť práve na reguláciu v oblasti kybernetickej bezpečnosti a v oblasti ochrany pred teroristickými aktivitami v bezhraničnom prostredí internetu. V súčasnosti však rezonuje naprieč verejnosťou návrh prípravy legislatívy (ďalej len ako „nariadenie“),[1] ktorý sa sústredí na boj proti sexuálnemu zneužívaniu detí, ktorého cieľom je ochrana detí pred šírením obsahu detskej pornografie.[2] Predmetný návrh je označovaný aj ako Chat Control 2.0 a jeho zavedenie by malo umožniť prístup ku kompletnej privátnej komunikácii všetkých občanov EÚ.

Chat Control 2.0 možno chápať ako súbor stanovených pravidiel, ktoré by mali poskytovateľov služieb akými sú napríklad WhatsApp alebo Messenger, prinútiť k zavedeniu technológie na plošné skenovanie komunikácie všetkých používateľov. Táto technológia by pritom fungovala na princípe umelej inteligencie, ktorá by mala za cieľ skenovať obsah správ, fotografií či videí priamo na zariadeniach používateľov, a to ešte pred tým, než by bol samotný obsah správy zašifrovaný.[3] Algoritmus založený na báze umelej inteligencie by tak porovnával digitálne odtlačky obsahu s databázami známych ilegálnych materiálov a v prípade zhody by mal automaticky vygenerovať hlásenie kompetentným orgánom, ktoré by takýto podnet museli prešetriť.[4]

Cieľom navrhovaného nariadenia o prevencii proti sexuálnemu zneužívaniu detí je tak včas odhaľovať takéto prípady a predísť obetiam sexuálneho zneužívania, ktorými by mali byť v online prostredí práve deti, boj proti organizovanému zločinu a teroristickým aktivitám v online priestore. Aj keď je takto vytýčený cieľ na prvý pohľad zjavne pozitívnym aspektom v oblasti kybernetickej bezpečnosti, treba však pozornosť upriamiť napríklad na riziko chybovosti algoritmov, ktoré by značilo nesprávne identifikovanie nelegálneho obsahu. Navrhované legislatívne opatrenia tak vyvolali značné obavy nielen v kruhoch odborníkov, nakoľko Chat Control 2.0 totižto prakticky znamená, že správy, fotografie či videá občanov EÚ budú kontrolované napríklad v ich telefóne ešte pred samotným zašifrovaním a následným odoslaním.[5] Takéto „skenovanie“ a kontrola súkromnej komunikácie občanov vyvoláva otázky týkajúce sa najmä základných ľudských práv, vrátane práva na súkromie, pričom ľahostajnou oblasťou nezostáva ani digitálna bezpečnosť, nakoľko Chat Control 2.0 v prípade jeho prijatia, umožní dešifrovať súkromné konverzácie občanov do roku 2030.[6]

Najsilnejší odpor k návrhu nariadenia prejavujú v súčasnosti štáty ako Česká republika a Poľsko, ktoré dlhodobo a verejne kritizujú masívny zásah do súkromia občanov EÚ, ktorého

garanciu zakotvuje aj Európsky dohovor o ľudských právach, a to konkrétne v článku 8 (subsumujúc ochranu práva na súkromnú komunikáciu a ochranu osobných údajov). Poľsko návrh nariadenia vníma ako ohrozenie základných ľudských práv a slobôd, s čím zdieľajú súhlasné stanovisko aj štáty ako Česká republika a Rakúsko, ktoré poukazujú najmä na fakt, že plošné skenovanie komunikácie občanov je v rozpore s princípmi právneho štátu a nemalo by byť tolerované v takomto extenzívnom rozsahu.[7] Naopak, štáty ako Švédsko a Francúzsko majú k návrhu pozitívnejší postoj, pričom argumentáciu zakladajú najmä na potrebe ochrany detí a na možnosti využitia umelej inteligencie ako technologického riešenia v boji proti zneužívaniu detí.[8] Štáty, ktoré sa k legislatívnemu návrhu postavili s takýmto pozitívnym prístupom sa sústredia najmä na modifikáciu nariadenia, aby sa znížili jeho negatívne dopady na jednotlivých občanov EÚ prostredníctvom Chat Control 2.0.

Slovenská republika (ďalej len ako „SR“) ako jeden z členských štátov, vníma návrh nariadenia s určitými obavami, predovšetkým pokiaľ ide o možné narušenie práva na súkromie a digitálnu slobodu, avšak vyjadrilo podporu tomuto legislatívnemu návrhu.[9] Pozíciu SR je možné nazvať ako hľadanie rovnováhy, ktoré tkvie v prijatí efektívneho riešenia tak, aby neboli porušované princípy právneho štátu, avšak SR nabáda na dôkladnejšiu analýzu právnych a technologických dôsledkov skôr, než sa nariadenie prijme v takej podobe, akej bol verejnosti predostretý. Slovenské tlačové média na druhej strane označujú legislatívnu iniciatívu ako „digitálnu temnotu“, „liberálny techno-autoritárizmus“ či ako „legálne masové sledovanie“.[10]

Aj keď bol legislatívny návrh v podobe nariadenia predstavený už v máji 2022, až v posledných mesiacoch sa dostal do samotného centra pozornosti, nakoľko aktuálne dánske predsedníctvo Rady EÚ naň vynaložilo značné politické úsilie, ktoré môže vyvrcholiť už 14. októbra 2025 hlasovaním Rady EÚ o jeho prijatí. Za prijatie nariadenia je momentálne celkovo 15 členských štátov, proti jeho prijatiu je 6 štátov a v neutrálnej pozícii zostáva nateraz taktiež 6 štátov.[11] Na základe faktu, že opatrenie by sa týkalo všetkých občanov EÚ bez ohľadu na existenciu oprávneného podozrenia, či sa dopúšťajú alebo nedopúšťajú trestnej alebo inak škodlivej činnosti, si treba položiť nasledovnú otázku, ktorú ilustroval dánsky minister spravodlivosti Peter Hummelgaard: „… o čie súkromie sa vlastne najviac zaujímame? Je to súkromie tisícok detí, ktoré sú sexuálne zneužívané? Alebo je to súkromie obyčajných ľudí, ktorí môžu byť, ale nemusia byť zneužívaní?…“.[12]

Autorka je dennou doktorandkou na Katedre medzinárodného práva a medzinárodných vzťahov, Právnickej fakulty Univerzity Komenského v Bratislave. E-mail: ema.krkoskova@flaw.uniba.sk

[1] Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú pravidlá predchádzania sexuálnemu zneužívaniu detí a boja proti nemu z 11. mája 2022, COM(2022) 209 final, je dostupný k nahliadnutiu na webovom sídle: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52022PC0209.

[2] Ibid, dôvodová správa, bod 1: „Cieľom tohto návrhu je preto v záujme riešenia uvedených problémov a v reakcii na výzvy Rady a Európskeho parlamentu stanoviť jasný a harmonizovaný právny rámec pre predchádzanie sexuálnemu zneužívaniu detí online a boj proti nemu. Jeho cieľom je takisto poskytnúť právnu istotu poskytovateľom, pokiaľ ide o ich zodpovednosti pri posudzovaní a zmierňovaní rizík a v prípade potreby pri zisťovaní, oznamovaní a odstraňovaní takéhoto zneužívania v rámci svojich služieb, a to tak, aby to bolo v súlade so základnými právami stanovenými v charte a všeobecnými zásadami práva EÚ. V boji proti sexuálnemu zneužívaniu detí, ktoré sa zobrazuje online, majú všetky zúčastnené strany dôležité práva a záujmy. Je preto mimoriadne dôležité vytvoriť spravodlivú rovnováhu medzi opatreniami na ochranu detských obetí sexuálneho zneužívania a ich základných práv, a tým dosiahnuť dôležité ciele všeobecného spoločenského záujmu, a základnými právami ostatných používateľov a poskytovateľov.“

[3] V súčasnosti využívajú populárne komunikačné aplikácie (napríklad Signal, Messenger, WhatsApp a iné) tzv. end-to-end šifrovanie, ktoré zabezpečuje, aby obsah správ a súborov videl len ich odosielateľ a príjemca, pričom prevádzkovatelia týchto aplikácii nemajú možnosť predmetné dáta rozšifrovať. Viac k end-to-end šifrovaní pri sieťovej bezpečnosti pozri napríklad: PAŠKO, J. Projekt ochrany informačného systému cloudového úložiska. In: Mladá Veda, vydanie 13, číslo 2, 2025, s. 168-176.

[4] Pozri napríklad článok 43 ods. 6 písm. a)-c) návrhu nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú pravidlá predchádzania sexuálnemu zneužívaniu detí a boja proti nemu z 11. mája 2022, COM(2022) 209 final, je dostupný k nahliadnutiu na webovom sídle: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52022PC0209.

[5] Plošné a priebežné monitorovanie súkromnej komunikácie občanov Európskej únie môže zahŕňať nasledovné situácie, akými sú napríklad: „aplikácie, ktoré slúžia na výmenu informácií budú automaticky obsahovať špehovací mechanizmus, mechanizmus bude priebežne monitorovať a vyhodnocovať obsah, ktorý posielate…, ak si softvér stiahnete, automaticky si stiahnete softvér, ktorý umožňuje vaše sledovanie, sledovanie bude prebiehať na vašom zariadení (tzv. client side-scanning), aplikácie budú sledovať a vyhodnocovať obsah ešte pred jeho odoslaním, šifrovanie komunikácie stratí zmysel, pretože obsah vašich správ bude poznať poskytovateľ služby, resp. zákonodarca ešte pred jej odoslaním.“ Pre viac informácií pozri príspevok Zuzany Motúzovej na sociálnej sieti LinkedIn na webovom sídle: https://www.linkedin.com/feed/update/urn:li:activity:7365410338327912449/, a k „client side-scanning“ pozri napríklad: ABELSON, H. et al. Bugs in our pockets: the risks of client-side scanning. In: Journal of Cybersecurity, vydanie 10, číslo 1, 2024.

[6] DOMČEK, J. Chat Control: Európska únia chce čítať všetky naše správy a konverzácie, aj šifrované. 2025. Predmetný článok dostupný na webovom sídle redakcie Pravda: https://vat.pravda.sk/komunikacia/clanok/758775-chat-control-europska-unia-chce-citat-vsetky-nase-spravy-a-konverzacie-aj-siforvane030-pristup-k-sukromnym-spravam-obcanov/.

[7] Zoznam členských štátov spolu s ich (ne)súhlasnou pozíciou je dostupný k nahliadnutiu na webovom sídle: https://fightchatcontrol.eu/.

[8] K postoju Švédska k prijatiu návrhu nariadenia pozri: LINDBERG, E. A Swedish perspective on Chat Control 2.0: A socio-legal study of how Chat Control is perceived in a Swedish context. 2025. Dostupné k nahliadnutiu na webovom sídle: https://lup.lub.lu.se/luur/download?func=downloadFile&recordOId=9193904&fileOId=9193908.

[9] SLOVÁK, P. Nový zákon EÚ Chat Control je krokom k masovému sledovaniu. Slovensko zatiaľ nie je proti. 2025. Dostupné na webovom sídle: https://ereport.sk/novy-zakon-eu-chat-control-je-krokom-k-masovemu-sledovaniu.

[10] Pozri príspevok dostupný na webovom sídle: https://vosveteit.zoznam.sk/europska-unia-ti-chce-citat-vsetky-spravy-stojime-na-krizovatke-ktora-nas-moze-vrhnut-do-digitalnej-temnoty/ alebo napríklad príspevok dostupný na webovom sídle: https://www.netky.sk/clanok/chat-control-20-nova-legislativa-eu-moze-sledovat-vase-spravy-este-pred-odoslanim.

[11] Aktuálny stav stanovísk jednotlivých členských štátov je možné sledovať na webovom sídle: https://fightchatcontrol.eu/. Je pritom dôležité upresniť, že súhlasné, nesúhlasné či neutrálne stanoviská jednotlivých členských štátov sa môžu meniť v závislosti od politického vývoja a prípadných kompromisov. O prijatí Chat Control 2.0 prebiehajú neustále diskusie, keďže na jednej strane je v hre bezpečnosť a ochrana detí, a na strane druhej je v hre digitálna sloboda občanov EÚ a ich právo na súkromie.

[12] OSSOWSKI, Y. Euroviews. Return of chat control: Something is rotten in the state of Denmark. 2025. Dostupné na webovom sídle portálu Euro News.: https://www.euronews.com/next/2025/08/08/return-of-chat-control-something-is-rotten-in-the-state-of-denmark.

Začiatkom apríla tohto roka Ministerstvo spravodlivosti Spojeného kráľovstva (ďalej len ako „britské ministerstvo“) pobúrilo celosvetovú spoločnosť únikom prípravy tajného projektu, ktorého cieľom je predikcia páchateľov, ktorí v budúcnosti pravdepodobne spáchajú trestný čin vraždy.^[1] K tomuto pilotnému projektu britského ministerstva sa medzi prvými vyjadrili The Guardian^[2]  a skupina Statewatch,^[3]  pričom sa rozvírila vlna kritiky mierená na tajný projekt zo strany širokej verejnosti, a to práve z využívania citlivých osobných údajov stoviek tisícov ľudí britským ministerstvom.^[4]

Citlivé osobné údaje mali podľa skupiny Statewatch zahŕňať nielen dáta týkajúce sa mien, dátumov narodení, pohlavia, etnickej príslušnosti, či identifikačného čísla osôb v databáze britskej polície; ale prekvapivo sa mali v projekte využívať dáta obsahujúce údaje o sebapoškodzovaní, domácom násilí, duševnom zdraví, či závislostiach ľudí, pretože práve predmetné ukazovatele by mali mať významnú predikčnú schopnosť. Uvedené dáta sa pritom mali týkať aj tej skupiny osôb, ktoré predtým nikdy neboli odsúdené za žiadny trestný čin.^[5]  Skupina aktivistov namieta zhromažďovanie a používanie takéhoto dátového setu citlivých osobných údajov, ktoré môžu zapríčiniť zaujatosť spoločnosti voči menšinám, či dokonca skupine obyvateľstva pochádzajúcej zo skromných majetkových pomerov.^[6]

Britské ministerstvo sa voči takýmto obvineniam ohradilo, pričom uviedlo, že projekt bol zriadený za účelom prieskumu profilácie páchateľov a v rámci projektu tak dochádza k skúmaniu inovatívnych techník zameraných na hodnotenie rizika zabitia zo strany páchateľov. Zároveň má projekt poskytnúť vyššiu ochranu verejnosti tkvejúcu v predikcii subjektu schopného spáchať trestný čin vraždy. Britské ministerstvo však poprelo všetky obvinenia, ktoré naznačujú, že by dochádzalo k zberu a využívaniu údajov subjektov, ktoré predtým nikdy nespáchali akýkoľvek trestný čin.^[7] 

Na verejnosť sa dostala fotografia, ktorá zachytáva časť dohody o spoločnom využívaní osobných údajov ľudí, ktorá bola uzavretá medzi britským ministerstvom a políciou Greater Manchester.^[8]  Časť dohody, ktorá bola zverejnená zahŕňa nielen odsúdenia občanov za rozličné trestné činy, no prekvapujúcimi časťami údajov, ktoré majú byť použité na účely projektu, sú napríklad časti ako „vek, kedy bola osoba prvýkrát zaznamenaná ako obeť“ alebo „vek, kedy bola osoba prvýkrát zaznamenaná ako svedok“.^[9] Takto zozbierané osobné údaje ľudí sa preto dotýkajú aj subjektov, ktoré trestný čin nikdy nespáchali, a teda nemohli byť za trestný čin ani nikdy odsúdené.

Členka a zároveň výskumníčka skupiny Statewatch, Sofia Lyall, využívanie citlivých osobných údajov občanov komentovala ako: „Vytvorenie automatizovaného nástroja na profilovanie ľudí ako násilných zločincov je hlboko nesprávne a používanie takýchto citlivých údajov o duševnom zdraví, závislosti, či fyzickom postihnutí, je priam alarmujúce.“^[10] Odhalený projekt britského ministerstva v spolupráci s políciou Greater Manchester teda môže mať dopad na prehĺbenie štrukturálnej diskriminácie, ktorá vychádza zo zberu osobných údajov občanov, pričom podľa zverejnenej dohody je možné s určitosťou povedať, že sú využívané takéto dáta ešte spred roka 2015.^[11]

Záverom teda možno konštatovať, že iniciatíva britského ministerstva tkvejúca vo vytvorení projektu zameraného na predpovedanie vrážd, vyvoláva vážne právne otázky týkajúce sa ochrany osobných údajov občanov a ochrany súkromia, hoci prezentácia projektu zo strany ministerstva mala viesť práve k zvýšeniu verejnej bezpečnosti týchto občanov. V súčasnosti už síce dochádza k využívaniu nástrojov na hodnotenie rizík, pričom by projekt na predikciu vrážd mohol do súboru doteraz dostupných dát pridať nové zdroje obsahujúce ďalšie osobné údaje ľudí, a v konečnom dôsledku by tak výsledky na hodnotenie rizík mohli vykázať hodnotnejšie a relevantnejšie dáta. Použitie prediktívnych algoritmov na určenie rizika spáchania násilných trestných činov však nastoľuje nielen etické dilemy, ale aj riziko prehĺbenia existujúcich systémových predsudkov. Hoci je už odhalený projekt zatiaľ len v prvotnej fáze výskumu, už v takomto štádiu je nevyhnutnosťou dôkladne zvážiť jeho súlad so zákonnými rámcami ochrany osobných údajov a základnými právami jednotlivcov. Transparentnosť ohľadom použitých dát obsahujúcich citlivé osobné údaje ľudí, ako aj nezávislá kontrola, budú kľúčové pre zabezpečenie zodpovedného a etického prístupu k tejto kontroverznej iniciatíve.

Autorka je dennou doktorandkou na Katedre medzinárodného práva a medzinárodných vzťahov, Právnickej fakulty Univerzity Komenského v Bratislave. E-mail: ema.krkoskova@flaw.uniba.sk

[1] Vývoj systému je uskutočňovaný v rámci projektu s názvom „Data Science“. Projekt preto zahŕňa využitie softvérov, umelej inteligencie, strojového učenia, či interpretáciu veľkého množstva dostupných údajov. Pre viac informácií o Data Science pozri: Sarker, I.H. Data Science and Analytics: An Overview from Data-Driven Smart Computing, Decision-Making and Applications Perspective. In: SN Computer Science, vydanie  2, číslo 377 , 2021, DOI: https://doi.org/10.1007/s42979-021-00765-8.

[2] The Guardian ako populárny britský denník. Článok týkajúci sa problematiky tajného projektu dostupný na webovom sídle: https://www.theguardian.com/uk-news/2025/apr/08/uk-creating-prediction-tool-to-identify-people-most-likely-to-kill.

[3] Statewatch ako charitatívna organizácia, propagujúca napríklad kritický výskum, investigatívnu žurnalistiku, či informovanosť o verejných diskusiách, občianskych slobodách a ľudských právach. Táto skupina odhalila utajovaný projekt, pretože si vyžiadala informácie od britského ministerstva na základe zákona o informáciách v Spojenom kráľovstve. Článok týkajúci sa problematiky tajného projektu dostupný na webovom sídle: https://www.statewatch.org/news/2025/april/uk-ministry-of-justice-secretly-developing-murder-prediction-system/.

[4] BICER, A. UK goverment developing ’murder prediction’ program amid backlash. 2025. Dostupné na webovom sídle: https://www.aa.com.tr/en/europe/uk-government-developing-murder-prediction-program-amid-backlash/3532754.

[5] Ibid.

[6] Dostupné na webovom sídle: https://www.freevacy.com/news/the-guardian/uk-government-developing-murder-prediction-tool/6291.

[7] Projekt britského ministerstva pritom využíva osobné údaje o kriminalite z rôznych oficiálnych zdrojov, napr. dostupné dáta z databázy probačnej a väzenskej služby, a polície Greater Manchester.

[8] Časť dohody uzatvorenej medzi britským ministerstvom a políciou Greater Manchester je možná k nahliadnutiu na webovom sídle: https://www.statewatch.org/news/2025/april/uk-ministry-of-justice-secretly-developing-murder-prediction-system/.

[9] Ibid.

[10] Vyjadrenie Sofii Lyall zo skupiny Statewatch je dostupné na webovom sídle: https://www.statewatch.org/news/2025/april/uk-ministry-of-justice-secretly-developing-murder-prediction-system/.

[11] Časť dohody uzatvorenej medzi britským ministerstvom a políciou Greater Manchester, ktorá výslovne uvádza zber osobných údajov ešte pred rokom 2015 je možná k nahliadnutiu na webovom sídle: https://www.statewatch.org/news/2025/april/uk-ministry-of-justice-secretly-developing-murder-prediction-system/.