AI Act i RODO dla firm stosujących AI
Od 2 sierpnia 2026 r. każdy, kto rozmawia z agentem głosowym AI w UE, musi zostać poinformowany, że to AI, najpóźniej przy pierwszej interakcji (AI Act art. 50). Obowiązki dla systemów wysokiego ryzyka obowiązują od 2 grudnia 2027 r. i tylko dla zastosowań z załącznika III, takich jak scoring kredytowy. Rozmowy, nagrania i dokumenty to dane osobowe, więc RODO obowiązuje w pełni, niezależnie od tego, gdzie działa AI.
Co obowiązuje i od kiedy
| Data | Co obowiązuje | Co to oznacza dla firmowej AI |
|---|---|---|
| 2 lutego 2025 r. | Definicje, kompetencje w zakresie AI, zakazane praktyki (art. 5) | Zakaz technik manipulacyjnych i wnioskowania o emocjach pracowników w miejscu pracy |
| 2 sierpnia 2025 r. | Kary (art. 99), zasady dla modeli AI ogólnego przeznaczenia | Za zakazane praktyki można nakładać kary |
| 2 sierpnia 2026 r. | Ogólne stosowanie, w tym przejrzystość (art. 50) | Ludzie muszą wiedzieć, że rozmawiają z AI, od pierwszej interakcji |
| 2 grudnia 2026 r. | Oznaczanie syntetycznego dźwięku w formacie nadającym się do odczytu maszynowego dla systemów już wprowadzonych do obrotu (art. 111 ust. 4) | Obowiązek dostawcy, a nie firmy używającej agenta |
| 2 grudnia 2027 r. | Obowiązki dla systemów wysokiego ryzyka z załącznika III | Tylko dla wymienionych zastosowań, takich jak scoring kredytowy czy wycena ubezpieczeń na życie i zdrowotnych |
| 2 sierpnia 2028 r. | Obowiązki dla AI w produktach regulowanych (załącznik I) | Maszyny, wyroby medyczne i podobne produkty |
Źródła: AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 113; Cyfrowy pakiet Omnibus w sprawie AI (Regulation (EU) 2026/1744); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 111(4)
Dostawca czy podmiot stosujący: kto za co odpowiada
AI Act dzieli obowiązki między dostawcę, który opracowuje system AI i wprowadza go do obrotu pod własną nazwą (art. 3 pkt 3), a podmiot stosujący, który używa go na własną odpowiedzialność (art. 3 pkt 4). W przypadku agentów głosowych AI dostawcą jest AI Fortis; firma, z której klientami rozmawia agent, jest podmiotem stosującym.
Dostawca musi zaprojektować agenta rozmawiającego z ludźmi tak, aby byli informowani, że mają do czynienia z AI (art. 50 ust. 1), i oznaczać syntetyczny dźwięk w formacie nadającym się do odczytu maszynowego (art. 50 ust. 2). Podmiot stosujący ma własne obowiązki, jeśli używa rozpoznawania emocji (art. 50 ust. 3) lub publikuje deepfake'i (art. 50 ust. 4), oraz obowiązki z art. 26, jeśli jego zastosowanie jest wysokiego ryzyka. Informacja musi zostać podana najpóźniej przy pierwszej interakcji (art. 50 ust. 5).
Źródła: AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 3(3); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 3(4); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 50(1); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 50(2); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 50(5); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 26
Czy Twoje zastosowanie AI jest wysokiego ryzyka?
| Zastosowanie | Wymienione w załączniku III? | Uwaga |
|---|---|---|
| Infolinia dla klientów, rezerwacje, przypomnienia, ankiety | Nie | Obowiązują przejrzystość (art. 50) i RODO |
| Decydowanie o zdolności kredytowej lub ocenie punktowej osoby | Tak, pkt 5 lit. b | Wykrywanie nadużyć finansowych jest z tego punktu wyłączone |
| Ocena ryzyka i wycena w ubezpieczeniach na życie i zdrowotnych | Tak, pkt 5 lit. c | Rozmowy o szkodach i pytania o polisy to nie ta decyzja |
| Klasyfikowanie zgłoszeń alarmowych lub segregacja pacjentów | Tak, pkt 5 lit. d | Umawianie wizyt nie jest segregacją pacjentów |
| Ocena wyników pracy konsultantów call center | Tak, pkt 4 lit. b | Wnioskowanie o emocjach pracowników jest zakazane (art. 5 ust. 1 lit. f) |
| Odczyt faktur, archiwizacja, ERP, rejestry VAT | Nie | Obowiązują kompetencje w zakresie AI (art. 4) i RODO |
Źródła: AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 6(2); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 4(b); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 5(b); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 5(c); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 5(d); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 5(1)(f)
RODO a rozmowy i dokumenty
Nagrania rozmów, transkrypcje, głos dzwoniącego i dane na fakturze dotyczą możliwych do zidentyfikowania osób, więc są danymi osobowymi (RODO art. 4 pkt 1). Firma, która decyduje o celach i sposobach ich przetwarzania, jest administratorem; dostawca przetwarzający je w jej imieniu jest podmiotem przetwarzającym (art. 4 pkt 7 i 8) i potrzebuje umowy o treści z art. 28 ust. 3.
Dzwoniący muszą otrzymać informacje z art. 13 w momencie zbierania danych, co w praktyce oznacza krótką informację na początku rozmowy i odnośnik do pełnego tekstu. Dane o zdrowiu z rozmów z pacjentami to szczególna kategoria (art. 9), a głos użyty do identyfikacji osoby to dane biometryczne (art. 4 pkt 14). Nowa technologia na dużą skalę zwykle wymaga oceny skutków dla ochrony danych (art. 35), a środki bezpieczeństwa, takie jak szyfrowanie, wymaga art. 32.
To, gdzie działa AI, zmienia to, kto przetwarza dane, a nie to, czy RODO obowiązuje. On-premises dane pozostają u administratora; w chmurze dostawca jest podmiotem przetwarzającym związanym umową powierzenia przetwarzania danych.
Źródła: RODO (Regulation (EU) 2016/679), art. 4(1); RODO (Regulation (EU) 2016/679), art. 4(7); RODO (Regulation (EU) 2016/679), art. 4(8); RODO (Regulation (EU) 2016/679), art. 28(3); RODO (Regulation (EU) 2016/679), art. 13; RODO (Regulation (EU) 2016/679), art. 9; RODO (Regulation (EU) 2016/679), art. 35; RODO (Regulation (EU) 2016/679), art. 32
Połączenia wychodzące i nagrywanie rozmów
Połączenia marketingowe wykonywane przez automatyczny system wywołujący bez interwencji człowieka wymagają uprzedniej zgody osoby w każdym państwie członkowskim (dyrektywa o prywatności i łączności elektronicznej, art. 13 ust. 1); agent głosowy AI wykonujący połączenia sprzedażowe podlega tej zasadzie. Połączenia serwisowe, o które poprosił klient, oraz połączenia przychodzące to inny przypadek.
Nagrywanie rozmów regulują przepisy krajowe wdrażające art. 5 dyrektywy o prywatności i łączności elektronicznej, który dopuszcza zgodne z prawem nagrywanie w ramach zgodnej z prawem praktyki handlowej jako dowód transakcji handlowej (art. 5 ust. 2). Przepisy krajowe się różnią, więc sprawdź swoje, zanim włączysz nagrywanie.
Źródła: dyrektywa o prywatności i łączności elektronicznej (Directive 2002/58/EC), art. 13(1); dyrektywa o prywatności i łączności elektronicznej (Directive 2002/58/EC), art. 5(2)
Twierdzenia, z którymi trzeba uważać
- Nie istnieje ogólny „certyfikat AI Act”. Ocena zgodności i oznakowanie CE dotyczą wyłącznie systemów wysokiego ryzyka.
- Obowiązek przejrzystości z art. 50 nie został przesunięty: obowiązuje od 2 sierpnia 2026 r.
- Uruchomienie AI na własnych serwerach nie wyłącza RODO, DORA ani NIS2. Zmienia to, kto przetwarza dane i gdzie.
- Odrębny projekt zmiany RODO i przepisów o plikach cookie nie został przyjęty; obowiązują obecne teksty.
- Agent głosowy odpowiadający na pytania nie jest systemem wysokiego ryzyka tylko dlatego, że używa AI. Decyduje zastosowanie.
Najczęściej zadawane pytania
Czy AI Act dotyczy agentów głosowych AI?
Tak. Od 2 sierpnia 2026 r. ludzie muszą zostać poinformowani, że rozmawiają z AI, najpóźniej przy pierwszej interakcji (art. 50 ust. 1 i 5). Większość zastosowań w obsłudze klienta nie jest wysokiego ryzyka.
Od kiedy obowiązują przepisy o systemach wysokiego ryzyka?
Od 2 grudnia 2027 r. dla zastosowań z załącznika III i od 2 sierpnia 2028 r. dla AI w produktach regulowanych, po tym jak cyfrowy pakiet Omnibus w sprawie AI (rozporządzenie (UE) 2026/1744) przesunął terminy.
Czy voicebot jest systemem wysokiego ryzyka według AI Act?
Sam z siebie nie. Staje się nim, gdy służy do celu z wykazu, na przykład do decydowania o zdolności kredytowej (załącznik III, pkt 5 lit. b) lub klasyfikowania zgłoszeń alarmowych (pkt 5 lit. d).
Kto musi poinformować dzwoniących, że rozmawiają z AI?
Dostawca musi zbudować agenta tak, aby ludzie byli informowani (art. 50 ust. 1). W naszych agentach informacja o AI na początku rozmowy jest domyślnie włączona.
Czy istnieje certyfikacja AI Act dla produktów AI?
Ogólnej nie ma. Ocena zgodności i oznakowanie CE istnieją tylko dla systemów wysokiego ryzyka. Ostrożnie z każdym produktem sprzedawanym jako „certyfikowany AI Act”.
Czy AI on-premises ułatwia zgodność z RODO?
Dane audio i dokumenty zostają w Twojej infrastrukturze, więc w ścieżce nie ma zewnętrznego podmiotu przetwarzającego. RODO nadal w pełni dotyczy Twojego przetwarzania.
Porozmawiaj z nami o swoim przypadku
Powiedz nam, jakiego systemu AI planujesz używać i gdzie dane muszą pozostać; pokażemy, jak nasze produkty radzą sobie z tymi przepisami. Odpowiadamy osobiście, zwykle w ciągu jednego dnia roboczego.
Prosimy wybrać termin rozmowy
Prosimy wybrać dogodny termin. Otrzymają Państwo potwierdzenie z linkiem do wideorozmowy.
30 minutpon. – pt. 09:00–17:00 (czas wschodnioeuropejski)Google Meet
Otwórz kalendarz w nowej karcie →
Wolą Państwo nie wybierać terminu w kalendarzu? Proszę podać nam zamiast tego preferowaną porę.
Preferują Państwo telefon? Prosimy zadzwonić pod +359 888 899 932. Lub napisać na office@aifortis.com.