AI Act a GDPR pre firemnú AI: povinnosti a účinnosť

Od 2. augusta 2026 musí byť každý, kto v EÚ hovorí s hlasovým agentom AI, najneskôr pri prvej interakcii informovaný, že ide o AI (AI Act čl. 50). Povinnosti pre vysokorizikové systémy platia od 2. decembra 2027 a len pre použitia uvedené v prílohe III, napríklad úverový scoring. Hovory, nahrávky a dokumenty sú osobné údaje, takže GDPR platí v plnom rozsahu, nech AI beží kdekoľvek.

Čo platí a odkedy

Termíny uplatňovania AI Act po digitálnom omnibuse k AI (čl. 113 v znení zmien)
DátumČo platíČo to znamená pre firemnú AI
2. februára 2025Definície, AI gramotnosť, zakázané praktiky (čl. 5)Žiadne manipulatívne techniky, žiadne odvodzovanie emócií zamestnancov v práci
2. augusta 2025Sankcie (čl. 99), pravidlá pre AI na všeobecné účelyZa zakázané praktiky možno ukladať pokuty
2. augusta 2026Všeobecné uplatňovanie, vrátane transparentnosti (čl. 50)Ľudia musia byť informovaní, že hovoria s AI, od prvej interakcie
2. decembra 2026Strojovo čitateľné označenie syntetického zvuku pri systémoch, ktoré už sú na trhu (čl. 111 ods. 4)Povinnosť poskytovateľa, nie firmy, ktorá agenta používa
2. decembra 2027Povinnosti pre vysokorizikové použitia z prílohy IIILen pre uvedené použitia, napríklad úverový scoring alebo stanovenie poistného pri životnom a zdravotnom poistení
2. augusta 2028Povinnosti pre vysokorizikovú AI v regulovaných produktoch (príloha I)Stroje, zdravotnícke pomôcky a podobné produkty

Zdroje: AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 113; Digitálny omnibus k AI (Regulation (EU) 2026/1744); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 111(4)

Poskytovateľ, alebo nasadzovateľ: kto za čo zodpovedá

AI Act delí povinnosti medzi poskytovateľa, ktorý systém AI vyvíja a uvádza na trh pod svojím menom (čl. 3 bod 3), a nasadzovateľa, ktorý ho používa na vlastnú zodpovednosť (čl. 3 bod 4). Pri hlasových agentoch AI je poskytovateľom AI Fortis; firma, ktorej zákazníci s agentom hovoria, je nasadzovateľom.

Poskytovateľ musí agenta, ktorý hovorí s ľuďmi, navrhnúť tak, aby boli informovaní, že komunikujú s AI (čl. 50 ods. 1), a musí syntetický zvuk označiť strojovo čitateľne (čl. 50 ods. 2). Nasadzovateľ má vlastné povinnosti, ak používa rozpoznávanie emócií (čl. 50 ods. 3) alebo zverejňuje deepfaky (čl. 50 ods. 4), a povinnosti podľa čl. 26, ak je jeho použitie vysokorizikové. Informácia musí byť poskytnutá najneskôr pri prvej interakcii (čl. 50 ods. 5).

Zdroje: AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 3(3); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 3(4); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 50(1); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 50(2); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 50(5); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 26

Je vaše použitie AI vysokorizikové?

Typické použitia našich produktov a či ich AI Act uvádza v prílohe III
PoužitieUvedené v prílohe III?Poznámka
Zákaznícka linka, rezervácie, pripomienky, prieskumyNiePlatí transparentnosť (čl. 50) a GDPR
Rozhodovanie o úverovej bonite alebo úverovom skóre osobyÁno, bod 5 písm. b)Odhaľovanie podvodov je z tohto bodu vylúčené
Posudzovanie rizika a stanovenie poistného pri životnom a zdravotnom poisteníÁno, bod 5 písm. c)Hovory o poistných udalostiach a otázky k poistkám nie sú toto rozhodovanie
Triedenie tiesňových volaní alebo triedenie pacientovÁno, bod 5 písm. d)Objednávanie na termín nie je triedenie pacientov
Hodnotenie výkonu ľudských operátorov call centraÁno, bod 4 písm. b)Odvodzovanie emócií zamestnancov je zakázané (čl. 5 ods. 1 písm. f)
Vyťažovanie faktúr, archivácia, ERP, knihy DPHNiePlatí AI gramotnosť (čl. 4) a GDPR

Zdroje: AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 6(2); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 4(b); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 5(b); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 5(c); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 5(d); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 5(1)(f)

GDPR pri hovoroch a dokumentoch

Zvuk hovoru, prepisy, hlas volajúceho a údaje na faktúre sa týkajú identifikovateľných osôb, sú teda osobnými údajmi (GDPR čl. 4 bod 1). Firma, ktorá určuje účel a prostriedky spracúvania, je prevádzkovateľom; dodávateľ, ktorý ich spracúva v jeho mene, je sprostredkovateľom (čl. 4 body 7 a 8) a potrebuje zmluvu s obsahom podľa čl. 28 ods. 3.

Volajúci musia dostať informácie podľa čl. 13 pri získavaní údajov, čo v praxi znamená krátke oznámenie na začiatku hovoru a odkaz na plné znenie. Údaje o zdraví z hovorov s pacientmi sú osobitná kategória (čl. 9) a hlas použitý na identifikáciu osoby je biometrický údaj (čl. 4 bod 14). Nová technológia vo veľkom rozsahu zvyčajne vyžaduje posúdenie vplyvu na ochranu osobných údajov (čl. 35) a bezpečnostné opatrenia, napríklad šifrovanie, vyžaduje čl. 32.

To, kde AI beží, mení, kto údaje spracúva, nie to, či GDPR platí. On-premise zostávajú údaje u prevádzkovateľa; v cloude je poskytovateľ sprostredkovateľom viazaným zmluvou o spracúvaní údajov.

Zdroje: GDPR (Regulation (EU) 2016/679), čl. 4(1); GDPR (Regulation (EU) 2016/679), čl. 4(7); GDPR (Regulation (EU) 2016/679), čl. 4(8); GDPR (Regulation (EU) 2016/679), čl. 28(3); GDPR (Regulation (EU) 2016/679), čl. 13; GDPR (Regulation (EU) 2016/679), čl. 9; GDPR (Regulation (EU) 2016/679), čl. 35; GDPR (Regulation (EU) 2016/679), čl. 32

Odchádzajúce hovory a nahrávanie hovorov

Marketingové hovory uskutočnené automatizovaným volacím systémom bez zásahu človeka vyžadujú predchádzajúci súhlas osoby v každom členskom štáte (smernica o súkromí a elektronických komunikáciách, čl. 13 ods. 1); hlasový agent AI, ktorý uskutočňuje obchodné hovory, pod toto pravidlo spadá. Servisné hovory, o ktoré zákazník požiadal, a prichádzajúce hovory sú iný prípad.

Nahrávanie hovorov upravuje vnútroštátne právo, ktoré vykonáva čl. 5 smernice o súkromí a elektronických komunikáciách, ktorý dovoľuje zákonom povolené nahrávanie pri zákonnej obchodnej praxi ako dôkaz obchodnej transakcie (čl. 5 ods. 2). Vnútroštátne pravidlá sa líšia, preto si pred zapnutím nahrávania overte tie svoje.

Zdroje: smernica o súkromí a elektronických komunikáciách (Directive 2002/58/EC), čl. 13(1); smernica o súkromí a elektronických komunikáciách (Directive 2002/58/EC), čl. 5(2)

Tvrdenia, pri ktorých treba byť opatrný

  • Neexistuje všeobecný „certifikát AI Act“. Posúdenie zhody a označenie CE sa týkajú len vysokorizikových systémov.
  • Povinnosť transparentnosti podľa čl. 50 nebola odložená: platí od 2. augusta 2026.
  • Prevádzka AI na vlastných serveroch nevypína GDPR, DORA ani NIS2. Mení to, kto údaje spracúva a kde.
  • Samostatný návrh na zmenu GDPR a pravidiel o cookies nebol prijatý; platia súčasné znenia.
  • Hlasový agent, ktorý odpovedá na otázky, nie je vysokorizikový len preto, že používa AI. Rozhoduje použitie.

Časté otázky

Vzťahuje sa AI Act na hlasových agentov AI?

Áno. Od 2. augusta 2026 musia byť ľudia najneskôr pri prvej interakcii informovaní, že hovoria s AI (čl. 50 ods. 1 a 5). Väčšina použití v zákazníckej starostlivosti nie je vysokorizikových.

Kedy platia pravidlá pre vysokorizikové systémy?

Od 2. decembra 2027 pre použitia z prílohy III a od 2. augusta 2028 pre AI v regulovaných produktoch, po tom, čo digitálny omnibus k AI (nariadenie (EÚ) 2026/1744) termíny posunul.

Je voicebot podľa AI Act vysokorizikový?

Sám o sebe nie. Stáva sa ním, keď sa použije na uvedený účel, napríklad na rozhodovanie o úverovej bonite (príloha III, bod 5 písm. b)) alebo na triedenie tiesňových volaní (bod 5 písm. d)).

Kto musí volajúcim povedať, že hovoria s AI?

Poskytovateľ musí agenta postaviť tak, aby boli ľudia informovaní (čl. 50 ods. 1). Pri našich agentoch je oznámenie o AI na začiatku hovoru predvolene zapnuté.

Existuje certifikácia AI Act pre produkty s AI?

Všeobecná nie. Posúdenie zhody a označenie CE existujú len pre vysokorizikové systémy. Buďte opatrní pri každom produkte predávanom ako „certifikovaný podľa AI Act“.

Uľahčuje AI on-premise súlad s GDPR?

Zvuk hovorov a dokumenty zostávajú vo vašej vlastnej infraštruktúre, takže v ceste nie je externý sprostredkovateľ. GDPR sa na vaše vlastné spracúvanie stále plne vzťahuje.

Prediskutujte s nami svoj prípad

Povedzte nám, aký systém AI plánujete použiť a kde musia údaje zostať; ukážeme vám, ako s pravidlami naše produkty pracujú. Odpovedáme osobne, zvyčajne do jedného pracovného dňa.