AI Act a GDPR pro firemní AI: povinnosti a účinnost
Od 2. srpna 2026 musí každý, kdo v EU mluví s hlasovým agentem AI, být nejpozději při první interakci informován, že jde o AI (AI Act čl. 50). Povinnosti pro vysoce rizikové systémy platí od 2. prosince 2027 a jen pro použití uvedená v příloze III, například úvěrový scoring. Hovory, nahrávky a dokumenty jsou osobní údaje, takže GDPR platí v plném rozsahu, ať AI běží kdekoli.
Co platí a od kdy
| Datum | Co platí | Co to znamená pro firemní AI |
|---|---|---|
| 2. února 2025 | Definice, AI gramotnost, zakázané praktiky (čl. 5) | Žádné manipulativní techniky, žádné odvozování emocí zaměstnanců v práci |
| 2. srpna 2025 | Sankce (čl. 99), pravidla pro AI pro obecné účely | Za zakázané praktiky lze ukládat pokuty |
| 2. srpna 2026 | Obecná použitelnost, včetně transparentnosti (čl. 50) | Lidé musí být informováni, že mluví s AI, od první interakce |
| 2. prosince 2026 | Strojově čitelné označení syntetického zvuku u systémů, které už jsou na trhu (čl. 111 odst. 4) | Povinnost poskytovatele, nikoli firmy, která agenta používá |
| 2. prosince 2027 | Povinnosti pro vysoce rizikové použití z přílohy III | Jen pro uvedená použití, například úvěrový scoring nebo stanovení pojistného u životního a zdravotního pojištění |
| 2. srpna 2028 | Povinnosti pro vysoce rizikovou AI v regulovaných produktech (příloha I) | Stroje, zdravotnické prostředky a podobné produkty |
Zdroje: AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 113; Digitální omnibus k AI (Regulation (EU) 2026/1744); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 111(4)
Poskytovatel, nebo nasazovatel: kdo za co odpovídá
AI Act dělí povinnosti mezi poskytovatele, který systém AI vyvíjí a uvádí na trh pod svým jménem (čl. 3 bod 3), a nasazovatele, který jej používá na vlastní odpovědnost (čl. 3 bod 4). U hlasových agentů AI je poskytovatelem AI Fortis; firma, jejíž zákazníci s agentem mluví, je nasazovatelem.
Poskytovatel musí agenta, který mluví s lidmi, navrhnout tak, aby byli informováni, že jednají s AI (čl. 50 odst. 1), a musí syntetický zvuk označit strojově čitelně (čl. 50 odst. 2). Nasazovatel má vlastní povinnosti, pokud používá rozpoznávání emocí (čl. 50 odst. 3) nebo zveřejňuje deepfaky (čl. 50 odst. 4), a povinnosti podle čl. 26, pokud je jeho použití vysoce rizikové. Informace musí být poskytnuta nejpozději při první interakci (čl. 50 odst. 5).
Zdroje: AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 3(3); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 3(4); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 50(1); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 50(2); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 50(5); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 26
Je vaše použití AI vysoce rizikové?
| Použití | Uvedeno v příloze III? | Poznámka |
|---|---|---|
| Zákaznická linka, rezervace, připomínky, průzkumy | Ne | Platí transparentnost (čl. 50) a GDPR |
| Rozhodování o úvěruschopnosti nebo úvěrovém skóre osoby | Ano, bod 5 písm. b) | Odhalování podvodů je z tohoto bodu vyloučeno |
| Posuzování rizika a stanovení pojistného u životního a zdravotního pojištění | Ano, bod 5 písm. c) | Hovory o pojistných událostech a dotazy k pojistkám nejsou toto rozhodování |
| Třídění tísňových volání nebo třídění pacientů | Ano, bod 5 písm. d) | Objednávání na termín není třídění pacientů |
| Hodnocení výkonu lidských operátorů call centra | Ano, bod 4 písm. b) | Odvozování emocí zaměstnanců je zakázáno (čl. 5 odst. 1 písm. f) |
| Vytěžování faktur, archivace, ERP, knihy DPH | Ne | Platí AI gramotnost (čl. 4) a GDPR |
Zdroje: AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 6(2); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 4(b); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 5(b); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 5(c); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), příloha III, bod 5(d); AI Act (nařízení o umělé inteligenci) (Regulation (EU) 2024/1689), čl. 5(1)(f)
GDPR u hovorů a dokumentů
Zvuk hovoru, přepisy, hlas volajícího a údaje na faktuře se týkají identifikovatelných osob, jsou tedy osobními údaji (GDPR čl. 4 bod 1). Firma, která určuje účel a prostředky zpracování, je správcem; dodavatel, který je zpracovává jeho jménem, je zpracovatelem (čl. 4 body 7 a 8) a potřebuje smlouvu s obsahem podle čl. 28 odst. 3.
Volající musí dostat informace podle čl. 13 při shromažďování údajů, což v praxi znamená krátké oznámení na začátku hovoru a odkaz na plné znění. Údaje o zdraví z hovorů s pacienty jsou zvláštní kategorie (čl. 9) a hlas použitý k identifikaci osoby je biometrický údaj (čl. 4 bod 14). Nová technologie ve velkém rozsahu obvykle vyžaduje posouzení vlivu na ochranu osobních údajů (čl. 35) a bezpečnostní opatření, například šifrování, vyžaduje čl. 32.
To, kde AI běží, mění, kdo údaje zpracovává, nikoli to, zda GDPR platí. On-premise zůstávají údaje u správce; v cloudu je poskytovatel zpracovatelem vázaným zpracovatelskou smlouvou.
Zdroje: GDPR (Regulation (EU) 2016/679), čl. 4(1); GDPR (Regulation (EU) 2016/679), čl. 4(7); GDPR (Regulation (EU) 2016/679), čl. 4(8); GDPR (Regulation (EU) 2016/679), čl. 28(3); GDPR (Regulation (EU) 2016/679), čl. 13; GDPR (Regulation (EU) 2016/679), čl. 9; GDPR (Regulation (EU) 2016/679), čl. 35; GDPR (Regulation (EU) 2016/679), čl. 32
Odchozí hovory a nahrávání hovorů
Marketingové hovory uskutečněné automatizovaným volacím systémem bez zásahu člověka vyžadují předchozí souhlas osoby v každém členském státě (směrnice o soukromí a elektronických komunikacích, čl. 13 odst. 1); hlasový agent AI, který uskutečňuje obchodní hovory, pod toto pravidlo spadá. Servisní hovory, o které zákazník požádal, a příchozí hovory jsou jiný případ.
Nahrávání hovorů upravuje vnitrostátní právo provádějící čl. 5 směrnice o soukromí a elektronických komunikacích, který dovoluje zákonem povolené nahrávání při zákonné obchodní praxi jako důkaz obchodní transakce (čl. 5 odst. 2). Vnitrostátní pravidla se liší, proto si před zapnutím nahrávání ověřte ta svá.
Zdroje: směrnice o soukromí a elektronických komunikacích (Directive 2002/58/EC), čl. 13(1); směrnice o soukromí a elektronických komunikacích (Directive 2002/58/EC), čl. 5(2)
Tvrzení, s nimiž je třeba opatrnosti
- Neexistuje obecný „certifikát AI Act“. Posouzení shody a označení CE se týkají jen vysoce rizikových systémů.
- Povinnost transparentnosti podle čl. 50 nebyla odložena: platí od 2. srpna 2026.
- Provoz AI na vlastních serverech nevypíná GDPR, DORA ani NIS2. Mění to, kdo údaje zpracovává a kde.
- Samostatný návrh na změnu GDPR a pravidel o cookies nebyl přijat; platí současná znění.
- Hlasový agent, který odpovídá na dotazy, není vysoce rizikový jen proto, že používá AI. Rozhoduje použití.
Časté otázky
Vztahuje se AI Act na hlasové agenty AI?
Ano. Od 2. srpna 2026 musí být lidé nejpozději při první interakci informováni, že mluví s AI (čl. 50 odst. 1 a 5). Většina použití v zákaznické péči není vysoce riziková.
Kdy platí pravidla pro vysoce rizikové systémy?
Od 2. prosince 2027 pro použití z přílohy III a od 2. srpna 2028 pro AI v regulovaných produktech, poté co digitální omnibus k AI (nařízení (EU) 2026/1744) termíny posunul.
Je voicebot podle AI Act vysoce rizikový?
Sám o sobě ne. Stává se jím, když se použije k uvedenému účelu, například k rozhodování o úvěruschopnosti (příloha III, bod 5 písm. b)) nebo k třídění tísňových volání (bod 5 písm. d)).
Kdo musí volajícím říct, že mluví s AI?
Poskytovatel musí agenta postavit tak, aby byli lidé informováni (čl. 50 odst. 1). U našich agentů je oznámení o AI na začátku hovoru ve výchozím nastavení zapnuté.
Existuje certifikace AI Act pro produkty s AI?
Obecná ne. Posouzení shody a označení CE existují jen pro vysoce rizikové systémy. Buďte opatrní u každého produktu prodávaného jako „certifikovaný podle AI Act“.
Usnadňuje AI on-premise soulad s GDPR?
Zvuk hovorů a dokumenty zůstávají ve vaší vlastní infrastruktuře, takže v cestě není externí zpracovatel. GDPR se na vaše vlastní zpracování stále plně vztahuje.
Proberte s námi svůj případ
Řekněte nám, jaký systém AI plánujete použít a kde musí údaje zůstat; ukážeme vám, jak s pravidly naše produkty pracují. Odpovídáme osobně, obvykle do jednoho pracovního dne.
Vyberte si čas hovoru
Zvolte termín, který vám vyhovuje. Obdržíte potvrzení s odkazem na video.
30 minutpo – pá 9:00–17:00 (východoevropský čas)Google Meet
Otevřít kalendář na nové kartě →
Nechcete vybírat termín v kalendáři? Napište nám raději, kdy se vám to hodí.
Dáváte přednost telefonu? Zavolejte na +359 888 899 932. Nebo napište na office@aifortis.com.