1. ABSTRAKT
Európsky akt o umelej inteligencii (AI Act alebo Artificial Intelligence Act) je nariadenie Európskeho parlamentu, ktoré stanovuje pravidlá pre umelú inteligenciu v Európe. Ide zatiaľ o prvú a jedinú právnu normu v Európe, ktorá sa vzťahuje na reguláciu širokého rozsahu odvetví a reguluje používanie systémov umelej inteligencie. Umelej inteligencii sa už v súčasnosti nie je možné vyhnúť. Preto je cieľom nariadenia rozvoj dôveryhodnej umelej inteligencie v Európe a stanovenie pravidiel založených na rizikách pre vývojárov pokiaľ ide o použitie systémov umelej inteligencie v praxi. V našom článku Vám prinášame pohľad na základné atribúty nariadenia označeného ako AI Act.
2. NARIADENIE AI ACT – O ČO IDE
Celým pomenovaním ide o Nariadenie Európskeho parlamentu a Rady (EÚ) č. 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (ďalej len „AI Act“ alebo tiež „nariadenie“ alebo „akt o umelej inteligencii“).
Preambula predmetného nariadenia je skutočne rozsiahla a jej obsahom sú myšlienky, ktoré majú viesť k celkovému záveru o zabezpečení dôvery ľudí v Európe k vlastnostiam, ktoré umelá inteligencia ponúka. Určité systémy umelej inteligencie vytvárajú riziká, ktoré je nutné regulovať, aby nedošlo k nežiaducim výsledkom.
Nariadenie vytvára, ako prvý a zatiaľ jediný právny predpis, harmonizované pravidlá v oblasti umelej inteligencie a prináša ani nie tak zásadné zmeny, ako nové pravidlá a povinnosti pre všetky spoločnosti a zamestnávateľov, ktorí využívajú alebo nasadzujú systémy umelej inteligencie.
Hoci nariadenie nadobudne platnosť 2. augusta 2026, Kapitola I týkajúca sa všeobecných ustanovení a Kapitola II týkajúca sa zakázaných praktík využívajúcich umelú inteligenciu, sú už účinné od 2. februára 2025.
Nariadenie stanovuje (i) harmonizované pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov AI v Únii, (ii) zákazy určitých praktík využívajúcich AI, (iii) osobitné požiadavky na vysokorizikové systémy AI a povinnosti prevádzkovateľov takýchto systémov, (iv) harmonizované pravidlá transparentnosti pre určité systémy AI, (v) harmonizované pravidlá uvádzania modelov AI na všeobecné účely na trh, (vi) pravidlá monitorovania trhu, dohľadu nad trhom, správy a riadenia a presadzovania, (vii) opatrenia na podporu inovácií s osobitným dôrazom na MSP vrátane startupov.
3. ROZSAH PÔSOBNOSTI NARIADENIA
Nariadenie sa vzťahuje na (i) poskytovateľov, ktorí v Únii uvádzajú na trh alebo do prevádzky systémy AI alebo uvádzajú na trh modely AI na všeobecné účely, bez ohľadu na to, či sú títo poskytovatelia usadení alebo sa nachádzajú v Únii alebo v tretej krajine, (ii) subjekty nasadzujúce systémy AI, ktoré majú miesto usadenia alebo sa nachádzajú v Únii, (iii) poskytovateľov systémov AI a subjekty nasadzujúce systémy AI, ktoré majú miesto usadenia alebo sa nachádzajú v tretej krajine, ak sa výstup vytvorený systémom AI používa v Únii, (iv) dovozcov a distribútorov systémov AI, (v) výrobcov výrobkov, ktorí uvádzajú na trh alebo do prevádzky systém AI spolu so svojím výrobkom a pod vlastným menom alebo ochrannou známkou, (vi) splnomocnených zástupcov poskytovateľov, ktorí nie sú usadení v Únii, (vii) dotknuté osoby, ktoré sa nachádzajú v Únii.
Je dôležité poznamenať, že nariadenie sa neuplatňuje na oblasti mimo rozsahu pôsobnosti práva Únie a v žiadnom prípade nemá vplyv na právomoci členských štátov týkajúce sa národnej bezpečnosti, a to bez ohľadu na typ subjektu, ktorý členské štáty poverili vykonávaním úloh v súvislosti s týmito právomocami.
Nariadenie sa tiež neuplatňuje na systémy AI výlučne na vojenské alebo obranné účely alebo na účely národnej bezpečnosti, ako aj také, ktoré sú osobitne vyvinuté a uvedené do prevádzky výlučne na účely vedeckého výskumu a vývoja.
Všeobecné ustanovenia nariadenie sú rozsiahle a prioritne sa ďalej týkajú vymedzenia pojmov používaných vo sfére AI, čo je presahujúce účely nášho Pro Bona.
Samozrejme v prípade záujmu sme Vám podrobnejšie k dispozícii.
V rámci všeobecných ustanovení nesmieme opomenúť fakt, že podľa Kapitoly I, článku 4, sú subjekty používajúce alebo aplikujúce systémy AI do praxe, povinné zabezpečiť gramotnosť v oblasti umelej inteligencie medzi zamestnancami a prijať opatrenia na dosiahnutie čo najvyššej úrovne znalostí a praktických skúseností svojich zamestnancov.
4. ZAKÁZANÉ PRAKTIKY VYUŽÍVAJÚCE AI
AI Act prostredníctvom druhej kapitoly a jej článku 5 stanovuje prísne pravidlá pre zakázané praktiky využívajúce AI.
Výslovne sa zakazuje uvádzanie na trh alebo používanie systémov, ktoré využívajú podprahové techniky, manipulatívne metódy alebo techniky zamerané na zraniteľné skupiny osôb s cieľom ovplyvniť ich rozhodovanie. Medzi zakázané praktiky patria napríklad systémy na hodnotenie fyzických osôb na základe ich osobných či osobnostných charakteristík, využívanie biometrických kategorizácií a používanie diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch bez splnenia prísnych podmienok.
Neopomenuteľným je ďalej tiež zákaz uvádzania na trh, uvádzania do prevádzky na tento konkrétny účel alebo používanie systémov AI na odvodzovanie emócií fyzickej osoby v oblasti pracoviska a vzdelávacích inštitúcií s výnimkou prípadov, keď je používanie systému AI určené na uvedenie do prevádzky alebo na trh zo zdravotných alebo bezpečnostných dôvodov.
Povinnosti z nariadenia môžu mať vplyv na poskytovateľov (napr. vývojára nástroja na skríning životopisov), ako aj na používateľov/subjekty nasadzujúce systémy AI do praxe, do svojej činnosti, a podobne.
5. KLASIFIKÁCIA RIZIKOVOSTI SYSTÉMOV AI
Nariadenie zavádza pravidlá za účelom riešenia a posúdenia rizík AI. Zakazujú sa neprijateľné riziká.
Klasifikácia vysokorizikových systémov AI podľa nariadenia o umelej inteligencii je uvedená v článku 6 nariadenia a v prílohe III. nariadenia.
Členské štáty majú povinnosť začať implementovať opatrenia týkajúce sa rizikovosti systémov AI od 1. augusta 2026, teda celá kapitola III. sa začne uplatňovať tiež od tohto dátumu.
AI Act vymedzuje štyri úrovne rizika pre systémy umelej inteligencie.
5.1 Neprijateľné riziko
Všetky systémy umelej inteligencie, ktoré sa považujú za jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí, sú zakázané.
V akte o umelej inteligencii sa zakazuje (i) škodlivá manipulácia a klamanie založené na umelej inteligencii, (ii) škodlivé využívanie zraniteľností založené na umelej inteligencii, (iii) sociálne bodovanie a rozpoznávanie tvárí, (iv) posúdenie alebo predpoveď rizika individuálneho trestného činu, (v) necielené škrabanie internetového materiálu alebo materiálu CCTV na vytvorenie alebo rozšírenie databáz rozpoznávania tváre, (vi) rozpoznávanie emócií na pracoviskách a vo vzdelávacích inštitúciách, (vii) biometrická kategorizácia na odvodenie určitých chránených charakteristík, (viii) diaľková biometrická identifikácia v reálnom čase na účely presadzovania práva vo verejne prístupných priestoroch.
5.2 Vysoké riziko
Prípady použitia umelej inteligencie, ktoré môžu predstavovať vážne riziká pre zdravie, bezpečnosť alebo základné práva, sa klasifikujú ako vysokorizikové.
Ide o (i) bezpečnostné komponenty umelej inteligencie v kritických infraštruktúrach (napr. v doprave), ktorých zlyhanie by mohlo ohroziť život a zdravie občanov, (ii) riešenia umelej inteligencie používané vo vzdelávacích inštitúciách, ktoré môžu určovať prístup k vzdelávaniu a priebeh profesionálneho života osoby (napr. bodovanie skúšok), (iii) bezpečnostné komponenty výrobkov založené na umelej inteligencii (napr. aplikácia umelej inteligencie v robotickej chirurgii), (iv) nástroje umelej inteligencie na zamestnávanie, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov na účely náboru).
O vysoké riziko ide tiež v prípade systémov umelej inteligencie používaných na diaľkovú biometrickú identifikáciu, rozpoznávanie emócií a biometrickú kategorizáciu (napr. systém umelej inteligencie na spätnú identifikáciu obchodníka).
Ide ďalej o systémy AI, ktoré sa majú používať pri rozhodovaní o podmienkach pracovnoprávnych vzťahov, o kariérnom postupe v zamestnaní alebo ukončení zmluvných pracovnoprávnych vzťahov, pri prideľovaní úloh na základe individuálneho správania alebo osobných čŕt alebo charakteristických znakov alebo pri monitorovaní a hodnotení výkonnosti a správania osôb v rámci takýchto vzťahov.
Vysoko rizikové sú ďalej systémy AI, ktoré majú používať orgány verejnej moci alebo ktoré sa majú používať v ich mene na hodnotenie oprávnenosti fyzických osôb na základné dávky a služby verejnej pomoci vrátane služieb zdravotnej starostlivosti, ako aj na poskytovanie, zníženie či zrušenie takýchto dávok a služieb alebo uplatnenie nároku na ich vrátenie. Medzi také zaraďme aj systémy AI, ktoré sa majú používať na hodnotenie úverovej bonity fyzických osôb alebo stanovenie ich bodového hodnotenia kreditného rizika, s výnimkou systémov AI používaných na účely odhaľovania finančných podvodov.
Spomeňme tiež vysoké riziko systémov umelej inteligencie pri riadení migrácie, azylu a kontroly hraníc (napr. automatizované preskúmanie žiadostí o víza).
Za vysoko rizikové AI systémy budú považované aj nastupujúce riešenia umelej inteligencie používané pri výkone spravodlivosti a aplikácie práva.
Vysokorizikové systémy umelej inteligencie podliehajú pred uvedením na trh (i) primeraným systémom hodnotenia a zmierňovania rizika, (ii) vysokej kvalite súborov údajov vstupujúcich do systému s cieľom minimalizovať riziká diskriminačných výsledkov, (iii) podliehajú tiež zaznamenávaniu činnosti s cieľom zabezpečiť vysledovateľnosť výsledkov, (iv) musí existovať podrobná dokumentácia poskytujúca všetky potrebné informácie o systéme AI a jeho účele pre orgány na posúdenie jeho súladu, (v) musia existovať jasné a primerané informácie pre nasadzujúci subjekt, (vi) musia existovať primerané opatrenia ľudského dohľadu a (vii) samozrejme vysoká úroveň spoľahlivosti, kybernetickej bezpečnosti a presnosti.
Pravidlá pre vysokorizikovú umelú inteligenciu nadobudnú účinnosť v auguste 2026 a auguste 2027.
5.3 Limitované riziko a transparentnosť
Nariadenie zavádza osobitné povinnosti pre subjekty aplikujúce systémy AI a týkajú sa najmä zverejňovania informácií a transparentnosti s cieľom zabezpečiť, aby boli ľudia informovaní, keď je to potrebné na zachovanie dôvery.
To všetky pri AI systémoch umelej inteligencie, ako sú napríklad takzvané chatboty – príkladom môže byť známa aplikácia Chat GPT.
Poskytovatelia generatívnej umelej inteligencie musia okrem toho zabezpečiť, aby bol obsah vytvorený umelou inteligenciou identifikovateľný a jasne a viditeľne označený.
Tieto pravidlá transparentnosti aktu o umelej inteligencii sú účinné od augusta 2026.
5.4 Minimálne alebo žiadne riziko
AI Act nezavádza pravidlá pre umelú inteligenciu, považovanú za minimálne alebo za vôbec rizikovú, ako napríklad videohry s podporou umelej inteligencie alebo spamové filtre.
6. POŽIADAVKY NA VYSOKORIZIKOVÉ AI SYSTÉMY
Oddiel 2 Kapitoly III. nariadenia podrobne určuje požiadavky na vysokorizikové AI systémy a vytvára právny základ pre tvorbu systému riadenia rizík.
Systém riadenia rizík nariadenie stanovuje ako nepretržitý interaktívny proces plánovaný a uskutočňovaný počas celého životného cyklu vysokorizikového systému AI, ktorý si vyžaduje pravidelné systematické preskúmanie a aktualizovanie.
Zahŕňa (i) identifikáciu a analýzu známych a odôvodnene predvídateľných rizík, (ii) odhad a hodnotenie rizík, (iii) prijatie vhodných a cielených opatrení na riadenie rizík. Vysokorizikové systémy AI sa musia vyvíjať na základe súborov trénovacích, validačných a testovacích údajov.
Musí existovať technická dokumentácia, musia sa viesť podrobné záznamy udalostí počas životnosti AI systému.
Musí byť zabezpečený ľudský dohľad, čo znamená, že vysokorizikové systémy AI musia byť dizajnované a vyvinuté tak, aby nad nimi počas obdobia ich používania mohli fyzické osoby vykonávať účinný dohľad, a to aj pomocou vhodných nástrojov rozhrania človek – stroj.
7. PRÁVA A POVINNOSTI
Nariadenie veľmi podrobne určuje povinnosti pre všetky subjekty v procese používania AI systémov. Ide o povinnosti pre (i) poskytovateľov vysokorizikových AI systémov, (ii) dovozcov, (iii) distribútorov, (iv) subjektov nasadzujúcich vysokorizikové AI systémy.
Nariadenie stanovuje rozsiahly systém povinností jednotlivých subjektov s cieľom ochrany v podstate celej spoločnosti – aby systémy AI neboli zneužité a zneužívané, aby bolo ich použitie, a funkcionalita zrozumiteľné a existovali jasná regulácia.
Rozsiahle ustanovenia AI Actu k povinnostiam subjektov možno zhrnúť ako právnu úpravu povinností týkajúcich sa požiadaviek a procesov uvádzania systémov umelej inteligencie na trh a do praxe.
Tieto procesy môžeme zhrnúť do v podstate štyroch krokov.
V prvom kroku je vysokorizikový AI systém vyvinutý.
V druhom kroku musí dôjsť k posúdeniu zhody AI systému so všetkými požiadavkami, ktoré stanovuje nariadenie, ide o rozsiahle požiadavky na transparentnosť fungovania AI.
Tretím krokom je registrácia samostatného AI systému v príslušnej databáze, ktorá bude slúžiť na evidenciu AI systémov.
Napokon v rámci štvrtého kroku dôjde k takzvanému vyhláseniu konformity a uvedeniu AI systému na trh.
Akékoľvek zmeny systému umelej inteligencie budú znamenať návrat ku kroku dva.
8. DOHĽAD
Nariadenie s cieľom zabezpečiť riadne presadzovanie sa aktom o umelej inteligencii zriaďuje niekoľko orgánov správy, a to (i) úrad pre AI v rámci Európskej komisie na presadzovanie spoločných pravidiel v celej EÚ, (ii) vedecký panel nezávislých odborníkov na podporu činností v oblasti presadzovania práva, (iii) radu pre AI so zástupcami členských štátov s cieľom radiť a pomáhať Komisii a členským štátom pri jednotnom a účinnom uplatňovaní aktu o AI, (iv) poradné fórum pre zainteresované strany na poskytovanie technických odborných znalostí rade pre AI a Komisii.
Poskytovatelia a subjekty nasadzujúce systémy umelej inteligencie budú povinní nahlasovať závažné incidenty a poruchy.
9. NARIADENIE A SLOVENSKÁ PRÁVNA ÚPRAVA
Slovensko je zatiaľ v príprave vnútroštátnej právnej úpravy umelej inteligencie. Hoci je nariadenie AI Act priamo aplikovateľné, je nutná národná právna úprava a implementácia AI Actu do slovenského zákona.
V súčasnosti už existuje pripravený návrh zákona o umelej inteligencii a európskej dátovej regulácii a o zmene a doplnení niektorých zákonov.
Návrh zákona zatiaľ nie je predložený v Národnej rade SR, aktuálnym procesom je rokovanie poradných orgánov Vlády SR.
Je nutné poznamenať, že pripomienkové konanie k návrhu predmetného zákona začalo dňa 27. januára 2026 a bolo ukončené dňa 04. februára 2026. Je vecou úvahy, či tak krátka doba bola dostatočná vzhľadom na zásadné otázky, ktoré zákon o umelej inteligencii rieši a upravuje.
Súvisiacimi novými zákonmi pre oblasť AI na Slovensku majú byť (i) zákon o správe vybraných kategórií údajov verejného sektora, (ii) zákon o organizácii štátnej správy v oblasti umelej inteligencie, (iii) zákon, ktorým sa upravujú inštitucionálne, technické a kontrolné požiadavky európskej regulácie údajov.
AI Act je natoľko rozsiahly, že jeho komplexný obsah presahuje účel nášho bulletinu.
Legislatívny proces prijímania nášho vnútroštátneho zákona upravujúceho umelú inteligenciu, jej systémy, jej uvádzanie na trh, práva a povinnosti subjektov, národné orgány dohľadu a sankčné mechanizmy, budeme sledovať.
Už teraz vieme, že návrh slovenského zákona počíta so zriadením Úradu digitálnej integrity a návrh zákona bude okrem iného upravovať inštitúty zásahových oprávnení a opatrení orgánu dohľadu, ktorý by mal mať oprávnenie zasiahnuť pred začatím konania o uložení pokuty subjektu porušujúcemu povinnosti týkajúce sa uvádzania a používania systému AI na trh a v nevyhnutnom rozsahu zamedziť vzniku rizika, a to obmedzením sprístupňovania systému AI na trhu, zakázaním sprístupňovania systému AI na trhu, obmedzením uvedenia systému AI do prevádzky, zakázaním uvedenia systému AI do prevádzky, stiahnutím systému AI z trhu alebo od používateľa.
Je zrejmé, že obsah a rozsah nového slovenského zákona o umelej inteligencií bude natoľko dôležitý, že si vyžiada samostatné špeciálne vydanie nášho bulletinu.
Legislatívny proces sledujeme a o novom zákone Vám radi včas informujeme.
Publikované dňa 09.04.2026.

