AI Act a GDPR pro firemní AI: povinnosti a účinnost

Od 2. srpna 2026 musí každý, kdo v EU mluví s hlasovým agentem AI, být nejpozději při první interakci informován, že jde o AI (AI Act čl. 50). Povinnosti pro vysoce rizikové systémy platí od 2. prosince 2027 a jen pro použití uvedená v příloze III, například úvěrový scoring. Hovory, nahrávky a dokumenty jsou osobní údaje, takže GDPR platí v plném rozsahu, ať AI běží kdekoli.

Co platí a od kdy

Termíny použitelnosti AI Act po digitálním omnibusu k AI (čl. 113 ve znění změn)
DatumCo platíCo to znamená pro firemní AI
2. února 2025Definice, AI gramotnost, zakázané praktiky (čl. 5)Žádné manipulativní techniky, žádné odvozování emocí zaměstnanců v práci
2. srpna 2025Sankce (čl. 99), pravidla pro AI pro obecné účelyZa zakázané praktiky lze ukládat pokuty
2. srpna 2026Obecná použitelnost, včetně transparentnosti (čl. 50)Lidé musí být informováni, že mluví s AI, od první interakce
2. prosince 2026Strojově čitelné označení syntetického zvuku u systémů, které už jsou na trhu (čl. 111 odst. 4)Povinnost poskytovatele, nikoli firmy, která agenta používá
2. prosince 2027Povinnosti pro vysoce rizikové použití z přílohy IIIJen pro uvedená použití, například úvěrový scoring nebo stanovení pojistného u životního a zdravotního pojištění
2. srpna 2028Povinnosti pro vysoce rizikovou AI v regulovaných produktech (příloha I)Stroje, zdravotnické prostředky a podobné produkty

Zdroje: AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 113; Digitální omnibus k AI (Regulation (EU) 2026/1744); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 111(4)

Poskytovatel, nebo nasazovatel: kdo za co odpovídá

AI Act dělí povinnosti mezi poskytovatele, který systém AI vyvíjí a uvádí na trh pod svým jménem (čl. 3 bod 3), a nasazovatele, který jej používá na vlastní odpovědnost (čl. 3 bod 4). U hlasových agentů AI je poskytovatelem AI Fortis; firma, jejíž zákazníci s agentem mluví, je nasazovatelem.

Poskytovatel musí agenta, který mluví s lidmi, navrhnout tak, aby byli informováni, že jednají s AI (čl. 50 odst. 1), a musí syntetický zvuk označit strojově čitelně (čl. 50 odst. 2). Nasazovatel má vlastní povinnosti, pokud používá rozpoznávání emocí (čl. 50 odst. 3) nebo zveřejňuje deepfaky (čl. 50 odst. 4), a povinnosti podle čl. 26, pokud je jeho použití vysoce rizikové. Informace musí být poskytnuta nejpozději při první interakci (čl. 50 odst. 5).

Zdroje: AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 3(3); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 3(4); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 50(1); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 50(2); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 50(5); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 26

Je vaše použití AI vysoce rizikové?

Typická použití našich produktů a zda je AI Act uvádí v příloze III
PoužitíUvedeno v příloze III?Poznámka
Zákaznická linka, rezervace, připomínky, průzkumyNePlatí transparentnost (čl. 50) a GDPR
Rozhodování o úvěruschopnosti nebo úvěrovém skóre osobyAno, bod 5 písm. b)Odhalování podvodů je z tohoto bodu vyloučeno
Posuzování rizika a stanovení pojistného u životního a zdravotního pojištěníAno, bod 5 písm. c)Hovory o pojistných událostech a dotazy k pojistkám nejsou toto rozhodování
Třídění tísňových volání nebo třídění pacientůAno, bod 5 písm. d)Objednávání na termín není třídění pacientů
Hodnocení výkonu lidských operátorů call centraAno, bod 4 písm. b)Odvozování emocí zaměstnanců je zakázáno (čl. 5 odst. 1 písm. f)
Vytěžování faktur, archivace, ERP, knihy DPHNePlatí AI gramotnost (čl. 4) a GDPR

Zdroje: AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 6(2); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 4(b); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 5(b); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 5(c); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 5(d); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 5(1)(f)

GDPR u hovorů a dokumentů

Zvuk hovoru, přepisy, hlas volajícího a údaje na faktuře se týkají identifikovatelných osob, jsou tedy osobními údaji (GDPR čl. 4 bod 1). Firma, která určuje účel a prostředky zpracování, je správcem; dodavatel, který je zpracovává jeho jménem, je zpracovatelem (čl. 4 body 7 a 8) a potřebuje smlouvu s obsahem podle čl. 28 odst. 3.

Volající musí dostat informace podle čl. 13 při shromažďování údajů, což v praxi znamená krátké oznámení na začátku hovoru a odkaz na plné znění. Údaje o zdraví z hovorů s pacienty jsou zvláštní kategorie (čl. 9) a hlas použitý k identifikaci osoby je biometrický údaj (čl. 4 bod 14). Nová technologie ve velkém rozsahu obvykle vyžaduje posouzení vlivu na ochranu osobních údajů (čl. 35) a bezpečnostní opatření, například šifrování, vyžaduje čl. 32.

To, kde AI běží, mění, kdo údaje zpracovává, nikoli to, zda GDPR platí. On-premise zůstávají údaje u správce; v cloudu je poskytovatel zpracovatelem vázaným zpracovatelskou smlouvou.

Zdroje: GDPR (Regulation (EU) 2016/679), čl. 4(1); GDPR (Regulation (EU) 2016/679), čl. 4(7); GDPR (Regulation (EU) 2016/679), čl. 4(8); GDPR (Regulation (EU) 2016/679), čl. 28(3); GDPR (Regulation (EU) 2016/679), čl. 13; GDPR (Regulation (EU) 2016/679), čl. 9; GDPR (Regulation (EU) 2016/679), čl. 35; GDPR (Regulation (EU) 2016/679), čl. 32

Odchozí hovory a nahrávání hovorů

Marketingové hovory uskutečněné automatizovaným volacím systémem bez zásahu člověka vyžadují předchozí souhlas osoby v každém členském státě (směrnice o soukromí a elektronických komunikacích, čl. 13 odst. 1); hlasový agent AI, který uskutečňuje obchodní hovory, pod toto pravidlo spadá. Servisní hovory, o které zákazník požádal, a příchozí hovory jsou jiný případ.

Nahrávání hovorů upravuje vnitrostátní právo provádějící čl. 5 směrnice o soukromí a elektronických komunikacích, který dovoluje zákonem povolené nahrávání při zákonné obchodní praxi jako důkaz obchodní transakce (čl. 5 odst. 2). Vnitrostátní pravidla se liší, proto si před zapnutím nahrávání ověřte ta svá.

Zdroje: směrnice o soukromí a elektronických komunikacích (Directive 2002/58/EC), čl. 13(1); směrnice o soukromí a elektronických komunikacích (Directive 2002/58/EC), čl. 5(2)

Tvrzení, s nimiž je třeba opatrnosti

  • Neexistuje obecný „certifikát AI Act“. Posouzení shody a označení CE se týkají jen vysoce rizikových systémů.
  • Povinnost transparentnosti podle čl. 50 nebyla odložena: platí od 2. srpna 2026.
  • Provoz AI na vlastních serverech nevypíná GDPR, DORA ani NIS2. Mění to, kdo údaje zpracovává a kde.
  • Samostatný návrh na změnu GDPR a pravidel o cookies nebyl přijat; platí současná znění.
  • Hlasový agent, který odpovídá na dotazy, není vysoce rizikový jen proto, že používá AI. Rozhoduje použití.

Časté otázky

Vztahuje se AI Act na hlasové agenty AI?

Ano. Od 2. srpna 2026 musí být lidé nejpozději při první interakci informováni, že mluví s AI (čl. 50 odst. 1 a 5). Většina použití v zákaznické péči není vysoce riziková.

Kdy platí pravidla pro vysoce rizikové systémy?

Od 2. prosince 2027 pro použití z přílohy III a od 2. srpna 2028 pro AI v regulovaných produktech, poté co digitální omnibus k AI (nařízení (EU) 2026/1744) termíny posunul.

Je voicebot podle AI Act vysoce rizikový?

Sám o sobě ne. Stává se jím, když se použije k uvedenému účelu, například k rozhodování o úvěruschopnosti (příloha III, bod 5 písm. b)) nebo k třídění tísňových volání (bod 5 písm. d)).

Kdo musí volajícím říct, že mluví s AI?

Poskytovatel musí agenta postavit tak, aby byli lidé informováni (čl. 50 odst. 1). U našich agentů je oznámení o AI na začátku hovoru ve výchozím nastavení zapnuté.

Existuje certifikace AI Act pro produkty s AI?

Obecná ne. Posouzení shody a označení CE existují jen pro vysoce rizikové systémy. Buďte opatrní u každého produktu prodávaného jako „certifikovaný podle AI Act“.

Usnadňuje AI on-premise soulad s GDPR?

Zvuk hovorů a dokumenty zůstávají ve vaší vlastní infrastruktuře, takže v cestě není externí zpracovatel. GDPR se na vaše vlastní zpracování stále plně vztahuje.

Proberte s námi svůj případ

Řekněte nám, jaký systém AI plánujete použít a kde musí údaje zůstat; ukážeme vám, jak s pravidly naše produkty pracují. Odpovídáme osobně, obvykle do jednoho pracovního dne.