AI Act a GDPR pre firemnú AI: povinnosti a účinnosť
Od 2. augusta 2026 musí byť každý, kto v EÚ hovorí s hlasovým agentom AI, najneskôr pri prvej interakcii informovaný, že ide o AI (AI Act čl. 50). Povinnosti pre vysokorizikové systémy platia od 2. decembra 2027 a len pre použitia uvedené v prílohe III, napríklad úverový scoring. Hovory, nahrávky a dokumenty sú osobné údaje, takže GDPR platí v plnom rozsahu, nech AI beží kdekoľvek.
Čo platí a odkedy
| Dátum | Čo platí | Čo to znamená pre firemnú AI |
|---|---|---|
| 2. februára 2025 | Definície, AI gramotnosť, zakázané praktiky (čl. 5) | Žiadne manipulatívne techniky, žiadne odvodzovanie emócií zamestnancov v práci |
| 2. augusta 2025 | Sankcie (čl. 99), pravidlá pre AI na všeobecné účely | Za zakázané praktiky možno ukladať pokuty |
| 2. augusta 2026 | Všeobecné uplatňovanie, vrátane transparentnosti (čl. 50) | Ľudia musia byť informovaní, že hovoria s AI, od prvej interakcie |
| 2. decembra 2026 | Strojovo čitateľné označenie syntetického zvuku pri systémoch, ktoré už sú na trhu (čl. 111 ods. 4) | Povinnosť poskytovateľa, nie firmy, ktorá agenta používa |
| 2. decembra 2027 | Povinnosti pre vysokorizikové použitia z prílohy III | Len pre uvedené použitia, napríklad úverový scoring alebo stanovenie poistného pri životnom a zdravotnom poistení |
| 2. augusta 2028 | Povinnosti pre vysokorizikovú AI v regulovaných produktoch (príloha I) | Stroje, zdravotnícke pomôcky a podobné produkty |
Zdroje: AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 113; Digitálny omnibus k AI (Regulation (EU) 2026/1744); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 111(4)
Poskytovateľ, alebo nasadzovateľ: kto za čo zodpovedá
AI Act delí povinnosti medzi poskytovateľa, ktorý systém AI vyvíja a uvádza na trh pod svojím menom (čl. 3 bod 3), a nasadzovateľa, ktorý ho používa na vlastnú zodpovednosť (čl. 3 bod 4). Pri hlasových agentoch AI je poskytovateľom AI Fortis; firma, ktorej zákazníci s agentom hovoria, je nasadzovateľom.
Poskytovateľ musí agenta, ktorý hovorí s ľuďmi, navrhnúť tak, aby boli informovaní, že komunikujú s AI (čl. 50 ods. 1), a musí syntetický zvuk označiť strojovo čitateľne (čl. 50 ods. 2). Nasadzovateľ má vlastné povinnosti, ak používa rozpoznávanie emócií (čl. 50 ods. 3) alebo zverejňuje deepfaky (čl. 50 ods. 4), a povinnosti podľa čl. 26, ak je jeho použitie vysokorizikové. Informácia musí byť poskytnutá najneskôr pri prvej interakcii (čl. 50 ods. 5).
Zdroje: AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 3(3); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 3(4); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 50(1); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 50(2); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 50(5); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 26
Je vaše použitie AI vysokorizikové?
| Použitie | Uvedené v prílohe III? | Poznámka |
|---|---|---|
| Zákaznícka linka, rezervácie, pripomienky, prieskumy | Nie | Platí transparentnosť (čl. 50) a GDPR |
| Rozhodovanie o úverovej bonite alebo úverovom skóre osoby | Áno, bod 5 písm. b) | Odhaľovanie podvodov je z tohto bodu vylúčené |
| Posudzovanie rizika a stanovenie poistného pri životnom a zdravotnom poistení | Áno, bod 5 písm. c) | Hovory o poistných udalostiach a otázky k poistkám nie sú toto rozhodovanie |
| Triedenie tiesňových volaní alebo triedenie pacientov | Áno, bod 5 písm. d) | Objednávanie na termín nie je triedenie pacientov |
| Hodnotenie výkonu ľudských operátorov call centra | Áno, bod 4 písm. b) | Odvodzovanie emócií zamestnancov je zakázané (čl. 5 ods. 1 písm. f) |
| Vyťažovanie faktúr, archivácia, ERP, knihy DPH | Nie | Platí AI gramotnosť (čl. 4) a GDPR |
Zdroje: AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 6(2); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 4(b); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 5(b); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 5(c); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), príloha III, bod 5(d); AI Act (nariadenie o umelej inteligencii) (Regulation (EU) 2024/1689), čl. 5(1)(f)
GDPR pri hovoroch a dokumentoch
Zvuk hovoru, prepisy, hlas volajúceho a údaje na faktúre sa týkajú identifikovateľných osôb, sú teda osobnými údajmi (GDPR čl. 4 bod 1). Firma, ktorá určuje účel a prostriedky spracúvania, je prevádzkovateľom; dodávateľ, ktorý ich spracúva v jeho mene, je sprostredkovateľom (čl. 4 body 7 a 8) a potrebuje zmluvu s obsahom podľa čl. 28 ods. 3.
Volajúci musia dostať informácie podľa čl. 13 pri získavaní údajov, čo v praxi znamená krátke oznámenie na začiatku hovoru a odkaz na plné znenie. Údaje o zdraví z hovorov s pacientmi sú osobitná kategória (čl. 9) a hlas použitý na identifikáciu osoby je biometrický údaj (čl. 4 bod 14). Nová technológia vo veľkom rozsahu zvyčajne vyžaduje posúdenie vplyvu na ochranu osobných údajov (čl. 35) a bezpečnostné opatrenia, napríklad šifrovanie, vyžaduje čl. 32.
To, kde AI beží, mení, kto údaje spracúva, nie to, či GDPR platí. On-premise zostávajú údaje u prevádzkovateľa; v cloude je poskytovateľ sprostredkovateľom viazaným zmluvou o spracúvaní údajov.
Zdroje: GDPR (Regulation (EU) 2016/679), čl. 4(1); GDPR (Regulation (EU) 2016/679), čl. 4(7); GDPR (Regulation (EU) 2016/679), čl. 4(8); GDPR (Regulation (EU) 2016/679), čl. 28(3); GDPR (Regulation (EU) 2016/679), čl. 13; GDPR (Regulation (EU) 2016/679), čl. 9; GDPR (Regulation (EU) 2016/679), čl. 35; GDPR (Regulation (EU) 2016/679), čl. 32
Odchádzajúce hovory a nahrávanie hovorov
Marketingové hovory uskutočnené automatizovaným volacím systémom bez zásahu človeka vyžadujú predchádzajúci súhlas osoby v každom členskom štáte (smernica o súkromí a elektronických komunikáciách, čl. 13 ods. 1); hlasový agent AI, ktorý uskutočňuje obchodné hovory, pod toto pravidlo spadá. Servisné hovory, o ktoré zákazník požiadal, a prichádzajúce hovory sú iný prípad.
Nahrávanie hovorov upravuje vnútroštátne právo, ktoré vykonáva čl. 5 smernice o súkromí a elektronických komunikáciách, ktorý dovoľuje zákonom povolené nahrávanie pri zákonnej obchodnej praxi ako dôkaz obchodnej transakcie (čl. 5 ods. 2). Vnútroštátne pravidlá sa líšia, preto si pred zapnutím nahrávania overte tie svoje.
Zdroje: smernica o súkromí a elektronických komunikáciách (Directive 2002/58/EC), čl. 13(1); smernica o súkromí a elektronických komunikáciách (Directive 2002/58/EC), čl. 5(2)
Tvrdenia, pri ktorých treba byť opatrný
- Neexistuje všeobecný „certifikát AI Act“. Posúdenie zhody a označenie CE sa týkajú len vysokorizikových systémov.
- Povinnosť transparentnosti podľa čl. 50 nebola odložená: platí od 2. augusta 2026.
- Prevádzka AI na vlastných serveroch nevypína GDPR, DORA ani NIS2. Mení to, kto údaje spracúva a kde.
- Samostatný návrh na zmenu GDPR a pravidiel o cookies nebol prijatý; platia súčasné znenia.
- Hlasový agent, ktorý odpovedá na otázky, nie je vysokorizikový len preto, že používa AI. Rozhoduje použitie.
Časté otázky
Vzťahuje sa AI Act na hlasových agentov AI?
Áno. Od 2. augusta 2026 musia byť ľudia najneskôr pri prvej interakcii informovaní, že hovoria s AI (čl. 50 ods. 1 a 5). Väčšina použití v zákazníckej starostlivosti nie je vysokorizikových.
Kedy platia pravidlá pre vysokorizikové systémy?
Od 2. decembra 2027 pre použitia z prílohy III a od 2. augusta 2028 pre AI v regulovaných produktoch, po tom, čo digitálny omnibus k AI (nariadenie (EÚ) 2026/1744) termíny posunul.
Je voicebot podľa AI Act vysokorizikový?
Sám o sebe nie. Stáva sa ním, keď sa použije na uvedený účel, napríklad na rozhodovanie o úverovej bonite (príloha III, bod 5 písm. b)) alebo na triedenie tiesňových volaní (bod 5 písm. d)).
Kto musí volajúcim povedať, že hovoria s AI?
Poskytovateľ musí agenta postaviť tak, aby boli ľudia informovaní (čl. 50 ods. 1). Pri našich agentoch je oznámenie o AI na začiatku hovoru predvolene zapnuté.
Existuje certifikácia AI Act pre produkty s AI?
Všeobecná nie. Posúdenie zhody a označenie CE existujú len pre vysokorizikové systémy. Buďte opatrní pri každom produkte predávanom ako „certifikovaný podľa AI Act“.
Uľahčuje AI on-premise súlad s GDPR?
Zvuk hovorov a dokumenty zostávajú vo vašej vlastnej infraštruktúre, takže v ceste nie je externý sprostredkovateľ. GDPR sa na vaše vlastné spracúvanie stále plne vzťahuje.
Prediskutujte s nami svoj prípad
Povedzte nám, aký systém AI plánujete použiť a kde musia údaje zostať; ukážeme vám, ako s pravidlami naše produkty pracujú. Odpovedáme osobne, zvyčajne do jedného pracovného dňa.
Vyberte si čas hovoru
Zvoľte termín, ktorý vám vyhovuje. Dostanete potvrdenie s odkazom na video.
30 minútpo – pi 9:00 – 17:00 (východoeurópsky čas)Google Meet
Otvoriť kalendár na novej karte →
Nechcete vyberať termín v kalendári? Napíšte nám radšej, kedy sa vám to hodí.
Uprednostňujete telefón? Zavolajte na +359 888 899 932. Alebo napíšte na office@aifortis.com.