AI-forordningen og GDPR for AI i virksomheder: hvad gælder hvornår
Siden den 2. august 2026 skal enhver, der taler med en AI-stemmeagent i EU, have at vide, at det er en AI, senest ved den første interaktion (AI-forordningen art. 50). Kravene til højrisikosystemer gælder fra den 2. december 2027 og kun for de anvendelser, der er opført i bilag III, for eksempel kreditscoring. Opkald, optagelser og dokumenter er personoplysninger, så GDPR gælder fuldt ud, uanset hvor AI'en kører.
Hvad gælder hvornår
| Dato | Hvad der gælder | Hvad det betyder for AI i virksomheder |
|---|---|---|
| 2. februar 2025 | Definitioner, AI-kompetencer, forbudt praksis (art. 5) | Ingen manipulerende teknikker, ingen udledning af medarbejderes følelser på arbejdspladsen |
| 2. august 2025 | Sanktioner (art. 99), regler for AI til almen brug | Bøder kan pålægges for forbudt praksis |
| 2. august 2026 | Generel anvendelse, herunder gennemsigtighed (art. 50) | Folk skal have at vide, at de taler med en AI, fra den første interaktion |
| 2. december 2026 | Maskinlæsbar mærkning af syntetisk lyd for systemer, der allerede er på markedet (art. 111, stk. 4) | En pligt for udbyderen, ikke for virksomheden, der bruger agenten |
| 2. december 2027 | Krav til højrisikosystemer efter bilag III | Kun for angivne anvendelser som kreditscoring eller prissætning af liv- og sundhedsforsikring |
| 2. august 2028 | Krav til højrisiko-AI i regulerede produkter (bilag I) | Maskiner, medicinsk udstyr og lignende produkter |
Kilder: AI-forordningen (Regulation (EU) 2024/1689), Art. 113; Den digitale omnibus om AI (Regulation (EU) 2026/1744); AI-forordningen (Regulation (EU) 2024/1689), Art. 111(4)
Udbyder eller idriftsætter: hvem gør hvad
AI-forordningen fordeler pligterne mellem udbyderen, der udvikler et AI-system og bringer det i omsætning under eget navn (art. 3, nr. 3), og idriftsætteren, der bruger det under eget ansvar (art. 3, nr. 4). For AI-stemmeagenterne er AI Fortis udbyder; virksomheden, hvis kunder agenten taler med, er idriftsætter.
Udbyderen skal udforme en agent, der taler med mennesker, så de oplyses om, at de har med en AI at gøre (art. 50, stk. 1), og skal mærke syntetisk lyd maskinlæsbart (art. 50, stk. 2). Idriftsætteren har egne pligter, hvis den bruger følelsesgenkendelse (art. 50, stk. 3) eller offentliggør deepfakes (art. 50, stk. 4), og idriftsætterpligterne i art. 26, hvis anvendelsen er højrisiko. Oplysningen skal gives senest ved den første interaktion (art. 50, stk. 5).
Kilder: AI-forordningen (Regulation (EU) 2024/1689), Art. 3(3); AI-forordningen (Regulation (EU) 2024/1689), Art. 3(4); AI-forordningen (Regulation (EU) 2024/1689), Art. 50(1); AI-forordningen (Regulation (EU) 2024/1689), Art. 50(2); AI-forordningen (Regulation (EU) 2024/1689), Art. 50(5); AI-forordningen (Regulation (EU) 2024/1689), Art. 26
Er jeres brug af AI højrisiko?
| Anvendelse | Opført i bilag III? | Bemærkning |
|---|---|---|
| Kundehotline, bookinger, påmindelser, undersøgelser | Nej | Gennemsigtighed (art. 50) og GDPR gælder |
| Afgøre en persons kreditværdighed eller kreditscore | Ja, nr. 5, litra b | Afsløring af svig er undtaget fra dette nummer |
| Risikovurdering og prissætning i liv- og sundhedsforsikring | Ja, nr. 5, litra c | Skadeopkald og spørgsmål om policer er ikke denne beslutning |
| Klassificere nødopkald eller triagere patienter | Ja, nr. 5, litra d | Tidsbestilling er ikke triage |
| Vurdere præstationen hos callcenter-medarbejdere | Ja, nr. 4, litra b | At udlede medarbejderes følelser er forbudt (art. 5, stk. 1, litra f) |
| Fakturaaflæsning, arkivering, ERP, momsjournaler | Nej | AI-kompetencer (art. 4) og GDPR gælder |
Kilder: AI-forordningen (Regulation (EU) 2024/1689), Art. 6(2); AI-forordningen (Regulation (EU) 2024/1689), Bilag III, nr. 4(b); AI-forordningen (Regulation (EU) 2024/1689), Bilag III, nr. 5(b); AI-forordningen (Regulation (EU) 2024/1689), Bilag III, nr. 5(c); AI-forordningen (Regulation (EU) 2024/1689), Bilag III, nr. 5(d); AI-forordningen (Regulation (EU) 2024/1689), Art. 5(1)(f)
GDPR for opkald og dokumenter
Opkaldslyd, transskriptioner, en opkalders stemme og oplysningerne på en faktura vedrører identificerbare personer og er derfor personoplysninger (GDPR art. 4, nr. 1). Virksomheden, der afgør formålet med og midlerne til behandlingen, er dataansvarlig; en leverandør, der behandler dem på dens vegne, er databehandler (art. 4, nr. 7 og 8) og skal have en aftale med det indhold, som art. 28, stk. 3, kræver.
Opkaldere skal have oplysningerne efter art. 13, når data indsamles, hvilket i praksis betyder en kort besked i starten af opkaldet og et link til den fulde tekst. Sundhedsoplysninger fra patientopkald er en særlig kategori (art. 9), og en stemme, der bruges til at identificere en person, er biometriske oplysninger (art. 4, nr. 14). Ny teknologi i stor skala kræver som regel en konsekvensanalyse vedrørende databeskyttelse (art. 35), og sikkerhedsforanstaltninger som kryptering kræves efter art. 32.
Hvor AI'en kører, ændrer, hvem der behandler data, ikke om GDPR gælder. On-premise bliver data hos den dataansvarlige; i skyen er leverandøren en databehandler, der er bundet af databehandleraftalen.
Kilder: GDPR (Regulation (EU) 2016/679), Art. 4(1); GDPR (Regulation (EU) 2016/679), Art. 4(7); GDPR (Regulation (EU) 2016/679), Art. 4(8); GDPR (Regulation (EU) 2016/679), Art. 28(3); GDPR (Regulation (EU) 2016/679), Art. 13; GDPR (Regulation (EU) 2016/679), Art. 9; GDPR (Regulation (EU) 2016/679), Art. 35; GDPR (Regulation (EU) 2016/679), Art. 32
Udgående opkald og optagelse af opkald
Markedsføringsopkald, som et automatisk opkaldssystem foretager uden menneskelig indgriben, kræver personens forudgående samtykke i alle medlemsstater (ePrivacy-direktivet art. 13, stk. 1); en AI-stemmeagent, der foretager salgsopkald, falder ind under denne regel. Serviceopkald, som en kunde har bedt om, og indgående opkald er et andet tilfælde.
Optagelse af opkald er reguleret af national ret, der gennemfører art. 5 i ePrivacy-direktivet, som tillader lovligt tilladt optagelse som led i lovlig forretningspraksis som bevis for en handelstransaktion (art. 5, stk. 2). De nationale regler er forskellige, så tjek jeres egne, før I slår optagelse til.
Kilder: ePrivacy-direktivet (Directive 2002/58/EC), Art. 13(1); ePrivacy-direktivet (Directive 2002/58/EC), Art. 5(2)
Påstande, man skal være forsigtig med
- Der findes ikke noget generelt "AI-forordningscertifikat". Overensstemmelsesvurdering og CE-mærkning gælder kun for højrisikosystemer.
- Gennemsigtighedspligten i art. 50 blev ikke udskudt: den gælder fra den 2. august 2026.
- At køre AI på egne servere slår ikke GDPR, DORA eller NIS2 fra. Det ændrer, hvem der behandler data, og hvor.
- Det separate forslag om at ændre GDPR og cookiereglerne er ikke vedtaget; de gældende tekster gælder.
- En stemmeagent, der besvarer spørgsmål, er ikke et højrisikosystem, bare fordi den bruger AI. Anvendelsen afgør det.
Ofte stillede spørgsmål
Gælder AI-forordningen for min virksomhed?
Ja, hvis I bruger AI-systemer i EU, for eksempel en stemmeagent i kundeservice. Siden den 2. august 2026 skal folk have at vide, at de taler med en AI, senest ved den første interaktion (art. 50, stk. 1 og 5). De fleste anvendelser i kundeservice er ikke højrisiko.
Hvad kræver artikel 50?
At mennesker, der interagerer med et AI-system, oplyses om det, at syntetisk lyd mærkes maskinlæsbart, og at idriftsættere af følelsesgenkendelse og deepfakes oplyser de berørte. Oplysningen skal gives senest ved den første interaktion.
Skal en stemmeagent sige, at den er en AI?
Ja. Udbyderen skal bygge agenten, så folk oplyses om det (art. 50, stk. 1). I vores agenter er AI-oplysningen i starten af opkaldet slået til som standard.
Hvad er forskellen på udbyder og idriftsætter?
Udbyderen udvikler AI-systemet og bringer det i omsætning under eget navn; idriftsætteren bruger det under eget ansvar. For vores stemmeagenter er AI Fortis udbyder og kundevirksomheden idriftsætter.
Må opkald optages?
Det afgøres af national ret, der gennemfører art. 5 i ePrivacy-direktivet, og GDPR gælder for oplysningerne: retsgrundlag, information efter art. 13 og opbevaringstid. Reglerne er forskellige fra land til land, så tjek jeres egne, før I slår optagelse til.
Gør on-premise AI det nemmere at overholde GDPR?
Det holder opkaldslyd og dokumenter i jeres egen infrastruktur, så ingen ekstern databehandler er i vejen. GDPR gælder stadig fuldt ud for jeres egen behandling.
Tal med os om jeres sag
Fortæl os, hvilket AI-system I planlægger at bruge, og hvor jeres data skal blive; vi viser, hvordan vores produkter håndterer reglerne. Vi svarer personligt, som regel inden for en arbejdsdag.
Vælg et tidspunkt til jeres opkald
Vælg et tidspunkt, der passer jer. I får en bekræftelse med et videolink.
30 minutterman.-fre. 09.00–17.00 (Østeuropæisk tid)Google Meet
Vil I ikke vælge et tidspunkt i kalenderen? Fortæl os i stedet, hvornår I foretrækker det.
Foretrækker I telefonen? Ring til +359 888 899 932. Eller skriv til office@aifortis.com.