AI Act i RODO dla firm stosujących AI

Od 2 sierpnia 2026 r. każdy, kto rozmawia z agentem głosowym AI w UE, musi zostać poinformowany, że to AI, najpóźniej przy pierwszej interakcji (AI Act art. 50). Obowiązki dla systemów wysokiego ryzyka obowiązują od 2 grudnia 2027 r. i tylko dla zastosowań z załącznika III, takich jak scoring kredytowy. Rozmowy, nagrania i dokumenty to dane osobowe, więc RODO obowiązuje w pełni, niezależnie od tego, gdzie działa AI.

Co obowiązuje i od kiedy

Terminy stosowania AI Act po cyfrowym pakiecie Omnibus w sprawie AI (art. 113 w brzmieniu zmienionym)
DataCo obowiązujeCo to oznacza dla firmowej AI
2 lutego 2025 r.Definicje, kompetencje w zakresie AI, zakazane praktyki (art. 5)Zakaz technik manipulacyjnych i wnioskowania o emocjach pracowników w miejscu pracy
2 sierpnia 2025 r.Kary (art. 99), zasady dla modeli AI ogólnego przeznaczeniaZa zakazane praktyki można nakładać kary
2 sierpnia 2026 r.Ogólne stosowanie, w tym przejrzystość (art. 50)Ludzie muszą wiedzieć, że rozmawiają z AI, od pierwszej interakcji
2 grudnia 2026 r.Oznaczanie syntetycznego dźwięku w formacie nadającym się do odczytu maszynowego dla systemów już wprowadzonych do obrotu (art. 111 ust. 4)Obowiązek dostawcy, a nie firmy używającej agenta
2 grudnia 2027 r.Obowiązki dla systemów wysokiego ryzyka z załącznika IIITylko dla wymienionych zastosowań, takich jak scoring kredytowy czy wycena ubezpieczeń na życie i zdrowotnych
2 sierpnia 2028 r.Obowiązki dla AI w produktach regulowanych (załącznik I)Maszyny, wyroby medyczne i podobne produkty

Źródła: AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 113; Cyfrowy pakiet Omnibus w sprawie AI (Regulation (EU) 2026/1744); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 111(4)

Dostawca czy podmiot stosujący: kto za co odpowiada

AI Act dzieli obowiązki między dostawcę, który opracowuje system AI i wprowadza go do obrotu pod własną nazwą (art. 3 pkt 3), a podmiot stosujący, który używa go na własną odpowiedzialność (art. 3 pkt 4). W przypadku agentów głosowych AI dostawcą jest AI Fortis; firma, z której klientami rozmawia agent, jest podmiotem stosującym.

Dostawca musi zaprojektować agenta rozmawiającego z ludźmi tak, aby byli informowani, że mają do czynienia z AI (art. 50 ust. 1), i oznaczać syntetyczny dźwięk w formacie nadającym się do odczytu maszynowego (art. 50 ust. 2). Podmiot stosujący ma własne obowiązki, jeśli używa rozpoznawania emocji (art. 50 ust. 3) lub publikuje deepfake'i (art. 50 ust. 4), oraz obowiązki z art. 26, jeśli jego zastosowanie jest wysokiego ryzyka. Informacja musi zostać podana najpóźniej przy pierwszej interakcji (art. 50 ust. 5).

Źródła: AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 3(3); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 3(4); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 50(1); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 50(2); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 50(5); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 26

Czy Twoje zastosowanie AI jest wysokiego ryzyka?

Typowe zastosowania naszych produktów i to, czy AI Act wymienia je w załączniku III
ZastosowanieWymienione w załączniku III?Uwaga
Infolinia dla klientów, rezerwacje, przypomnienia, ankietyNieObowiązują przejrzystość (art. 50) i RODO
Decydowanie o zdolności kredytowej lub ocenie punktowej osobyTak, pkt 5 lit. bWykrywanie nadużyć finansowych jest z tego punktu wyłączone
Ocena ryzyka i wycena w ubezpieczeniach na życie i zdrowotnychTak, pkt 5 lit. cRozmowy o szkodach i pytania o polisy to nie ta decyzja
Klasyfikowanie zgłoszeń alarmowych lub segregacja pacjentówTak, pkt 5 lit. dUmawianie wizyt nie jest segregacją pacjentów
Ocena wyników pracy konsultantów call centerTak, pkt 4 lit. bWnioskowanie o emocjach pracowników jest zakazane (art. 5 ust. 1 lit. f)
Odczyt faktur, archiwizacja, ERP, rejestry VATNieObowiązują kompetencje w zakresie AI (art. 4) i RODO

Źródła: AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 6(2); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 4(b); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 5(b); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 5(c); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), załącznik III, pkt 5(d); AI Act (rozporządzenie w sprawie sztucznej inteligencji) (Regulation (EU) 2024/1689), art. 5(1)(f)

RODO a rozmowy i dokumenty

Nagrania rozmów, transkrypcje, głos dzwoniącego i dane na fakturze dotyczą możliwych do zidentyfikowania osób, więc są danymi osobowymi (RODO art. 4 pkt 1). Firma, która decyduje o celach i sposobach ich przetwarzania, jest administratorem; dostawca przetwarzający je w jej imieniu jest podmiotem przetwarzającym (art. 4 pkt 7 i 8) i potrzebuje umowy o treści z art. 28 ust. 3.

Dzwoniący muszą otrzymać informacje z art. 13 w momencie zbierania danych, co w praktyce oznacza krótką informację na początku rozmowy i odnośnik do pełnego tekstu. Dane o zdrowiu z rozmów z pacjentami to szczególna kategoria (art. 9), a głos użyty do identyfikacji osoby to dane biometryczne (art. 4 pkt 14). Nowa technologia na dużą skalę zwykle wymaga oceny skutków dla ochrony danych (art. 35), a środki bezpieczeństwa, takie jak szyfrowanie, wymaga art. 32.

To, gdzie działa AI, zmienia to, kto przetwarza dane, a nie to, czy RODO obowiązuje. On-premises dane pozostają u administratora; w chmurze dostawca jest podmiotem przetwarzającym związanym umową powierzenia przetwarzania danych.

Źródła: RODO (Regulation (EU) 2016/679), art. 4(1); RODO (Regulation (EU) 2016/679), art. 4(7); RODO (Regulation (EU) 2016/679), art. 4(8); RODO (Regulation (EU) 2016/679), art. 28(3); RODO (Regulation (EU) 2016/679), art. 13; RODO (Regulation (EU) 2016/679), art. 9; RODO (Regulation (EU) 2016/679), art. 35; RODO (Regulation (EU) 2016/679), art. 32

Połączenia wychodzące i nagrywanie rozmów

Połączenia marketingowe wykonywane przez automatyczny system wywołujący bez interwencji człowieka wymagają uprzedniej zgody osoby w każdym państwie członkowskim (dyrektywa o prywatności i łączności elektronicznej, art. 13 ust. 1); agent głosowy AI wykonujący połączenia sprzedażowe podlega tej zasadzie. Połączenia serwisowe, o które poprosił klient, oraz połączenia przychodzące to inny przypadek.

Nagrywanie rozmów regulują przepisy krajowe wdrażające art. 5 dyrektywy o prywatności i łączności elektronicznej, który dopuszcza zgodne z prawem nagrywanie w ramach zgodnej z prawem praktyki handlowej jako dowód transakcji handlowej (art. 5 ust. 2). Przepisy krajowe się różnią, więc sprawdź swoje, zanim włączysz nagrywanie.

Źródła: dyrektywa o prywatności i łączności elektronicznej (Directive 2002/58/EC), art. 13(1); dyrektywa o prywatności i łączności elektronicznej (Directive 2002/58/EC), art. 5(2)

Twierdzenia, z którymi trzeba uważać

  • Nie istnieje ogólny „certyfikat AI Act”. Ocena zgodności i oznakowanie CE dotyczą wyłącznie systemów wysokiego ryzyka.
  • Obowiązek przejrzystości z art. 50 nie został przesunięty: obowiązuje od 2 sierpnia 2026 r.
  • Uruchomienie AI na własnych serwerach nie wyłącza RODO, DORA ani NIS2. Zmienia to, kto przetwarza dane i gdzie.
  • Odrębny projekt zmiany RODO i przepisów o plikach cookie nie został przyjęty; obowiązują obecne teksty.
  • Agent głosowy odpowiadający na pytania nie jest systemem wysokiego ryzyka tylko dlatego, że używa AI. Decyduje zastosowanie.

Najczęściej zadawane pytania

Czy AI Act dotyczy agentów głosowych AI?

Tak. Od 2 sierpnia 2026 r. ludzie muszą zostać poinformowani, że rozmawiają z AI, najpóźniej przy pierwszej interakcji (art. 50 ust. 1 i 5). Większość zastosowań w obsłudze klienta nie jest wysokiego ryzyka.

Od kiedy obowiązują przepisy o systemach wysokiego ryzyka?

Od 2 grudnia 2027 r. dla zastosowań z załącznika III i od 2 sierpnia 2028 r. dla AI w produktach regulowanych, po tym jak cyfrowy pakiet Omnibus w sprawie AI (rozporządzenie (UE) 2026/1744) przesunął terminy.

Czy voicebot jest systemem wysokiego ryzyka według AI Act?

Sam z siebie nie. Staje się nim, gdy służy do celu z wykazu, na przykład do decydowania o zdolności kredytowej (załącznik III, pkt 5 lit. b) lub klasyfikowania zgłoszeń alarmowych (pkt 5 lit. d).

Kto musi poinformować dzwoniących, że rozmawiają z AI?

Dostawca musi zbudować agenta tak, aby ludzie byli informowani (art. 50 ust. 1). W naszych agentach informacja o AI na początku rozmowy jest domyślnie włączona.

Czy istnieje certyfikacja AI Act dla produktów AI?

Ogólnej nie ma. Ocena zgodności i oznakowanie CE istnieją tylko dla systemów wysokiego ryzyka. Ostrożnie z każdym produktem sprzedawanym jako „certyfikowany AI Act”.

Czy AI on-premises ułatwia zgodność z RODO?

Dane audio i dokumenty zostają w Twojej infrastrukturze, więc w ścieżce nie ma zewnętrznego podmiotu przetwarzającego. RODO nadal w pełni dotyczy Twojego przetwarzania.

Porozmawiaj z nami o swoim przypadku

Powiedz nam, jakiego systemu AI planujesz używać i gdzie dane muszą pozostać; pokażemy, jak nasze produkty radzą sobie z tymi przepisami. Odpowiadamy osobiście, zwykle w ciągu jednego dnia roboczego.