AI Act v Sloveniji: obveznosti preglednosti od 2. avgusta 2026 in hramba dokumentacije za sisteme UI
Od 2. avgusta 2026 v Sloveniji veljajo nove obveznosti preglednosti po evropskem AI Act, ponudniki visoko tveganih sistemov UI pa morajo dokumentacijo hraniti deset let.
Nov mejnik v regulaciji umetne inteligence
Evropski AI Act (Uredba (EU) 2024/1689) se v Sloveniji izvaja postopoma, letos pa je na vrsti eden pomembnejših korakov. S 2. avgustom 2026 so začele veljati obveznosti glede preglednosti iz člena 50 uredbe, ki zadevajo praktično vsako podjetje, ki uporablja klepetalne robote, ustvarja slike, zvok ali video z umetno inteligenco, ali objavlja vsebine, ustvarjene s pomočjo UI. Za razliko od pravil za visoko tvegane sisteme, ki se v celoti uporabijo šele decembra 2027, obveznosti preglednosti veljajo že zdaj in se ne omejujejo le na tehnološka podjetja.
Kaj konkretno zahteva člen 50
Uredba določa, da mora biti oseba obveščena, kadar komunicira s sistemom umetne inteligence, razen če je to že očitno iz okoliščin. Ponudniki sistemov, ki ustvarjajo sintetične slike, zvok, video ali besedilo, morajo zagotoviti, da je izhodna vsebina označena v strojno berljivi obliki in prepoznavna kot umetno ustvarjena ali urejena. Uporabljene tehnične rešitve morajo biti učinkovite, interoperabilne, robustne in zanesljive, kolikor je to tehnično izvedljivo. Za podjetja to pomeni, da morajo pregledati, kje v svojih procesih uporabljajo generativno UI, in prilagoditi označevanje ter obveščanje strank.
ZIUDHPUI in slovenski nadzorni organi
Slovenija je bila med prvimi državami članicami, ki je sprejela nacionalni izvedbeni zakon. Zakon o izvajanju uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUDHPUI) je v veljavi od 21. novembra 2025 in določa pristojne organe, postopke, prekrške in globe. Nadzor je razdeljen med več organov glede na področje uporabe UI:
- Agencija za komunikacijska omrežja in storitve (AKOS) je enotna kontaktna točka za uredbo in nadzoruje večino visoko tveganih sistemov ter obveznosti preglednosti iz člena 50.
- Informacijski pooblaščenec nadzoruje prepovedane prakse ter sisteme UI, ki obdelujejo osebne podatke, na primer biometrične sisteme.
- Agencija za zavarovalni nadzor in Banka Slovenije nadzorujeta uporabo UI v svojih sektorjih.
- Tržni inšpektorat pokriva UI v izdelkih na trgu.
Za podjetja to pomeni, da morajo najprej ugotoviti, kateri organ je pristojen za njihovo dejavnost, saj se postopki prijave in nadzora med sektorji razlikujejo.
Hramba dokumentacije: deset let ni naključje
Manj znan, a za vsako službo za upravljanje dokumentov ključen del uredbe je člen 18, ki ureja hrambo dokumentacije. Ponudniki visoko tveganih sistemov UI (na primer UI pri zaposlovanju, kreditnem ocenjevanju ali kritični infrastrukturi) morajo hraniti tehnično dokumentacijo, zapise sistema upravljanja kakovosti, odločitve priglašenih organov o skladnosti in EU izjavo o skladnosti deset let po tem, ko je bil sistem dan na trg ali v uporabo. Če ponudnik ali njegov pooblaščeni zastopnik med tem obdobjem preneha poslovati ali gre v stečaj, mora država članica zagotoviti, da dokumentacija ostane na voljo pristojnim organom do izteka roka. Za finančne institucije, ki že vodijo dokumentacijo po finančni zakonodaji Unije, se tehnična dokumentacija UI vključi v obstoječo dokumentacijsko strukturo.
Deset let hrambe pomeni, da mora biti dokumentacija ne le popolna ob uvedbi sistema, temveč tudi dostopna, sledljiva in zaščitena pred izgubo skozi celotno desetletje, kar je enako ali celo dlje kot večina rokov hrambe, ki jih poznamo iz davčne in računovodske zakonodaje.
Sankcije, ki jih ni mogoče prezreti
AI Act določa večstopenjski sistem glob. Za najhujše kršitve, na primer uporabo prepovedanih praks UI, lahko globa znaša do 35 milijonov EUR ali do 7 % svetovnega letnega prometa podjetja v predhodnem poslovnem letu, pri čemer se uporabi višji znesek. Za druge kršitve, vključno z neizpolnjevanjem obveznosti iz člena 50 ali pomanjkljivo dokumentacijo po členu 18, uredba določa nižje, a še vedno občutne globe. ZIUDHPUI določbe uredbe prenaša v slovenski pravni red in določa konkretne postopke izrekanja sankcij pri posameznih nadzornih organih.
| Obveznost | Datum uveljavitve | Kdo je zavezan |
|---|---|---|
| ZIUDHPUI, določitev nadzornih organov | 21. november 2025 | Vsa podjetja, ki uporabljajo UI |
| Preglednost, označevanje UI vsebin (člen 50) | 2. avgust 2026 | Ponudniki generativne in interaktivne UI |
| Hramba tehnične dokumentacije (člen 18) | Tekoče, 10 let od uvedbe sistema | Ponudniki visoko tveganih sistemov UI |
| Polna uporaba pravil za visoko tvegane sisteme (Priloga III) | 2. december 2027 | Ponudniki UI pri zaposlovanju, kreditiranju, biometriji |
Kaj naj podjetja storijo do konca leta 2026
Podjetja, ki uporabljajo orodja za generiranje besedil, slik ali govora, naj najprej popišejo, kje in kako UI uporabljajo, ter preverijo, ali ponudnik orodja že omogoča strojno berljivo označevanje izhodne vsebine. Kadar podjetje samo razvija ali prilagaja sistem UI, ki spada med visoko tvegane, je smiselno že zdaj vzpostaviti proces za zbiranje in hrambo tehnične dokumentacije, saj desetletni rok hrambe začne teči že ob uvedbi sistema na trg, ne šele ob morebitnem nadzoru. Priporočljivo je tudi določiti odgovorno osebo, ki spremlja obveznosti po posameznih členih uredbe in komunicira s pristojnim nadzornim organom, bodisi z AKOS, Informacijskim pooblaščencem ali drugim sektorskim regulatorjem.
