AI-förordningen och GDPR för AI i företag: vad gäller när
Sedan den 2 augusti 2026 måste alla som talar med en AI-röstagent i EU få veta att det är en AI, senast vid den första interaktionen (AI-förordningen art. 50). Kraven för högrisksystem gäller från den 2 december 2027 och bara för de användningar som anges i bilaga III, till exempel kreditscoring. Samtal, inspelningar och dokument är personuppgifter, så GDPR gäller fullt ut, oavsett var AI:n körs.
Vad gäller när
| Datum | Vad som gäller | Vad det betyder för AI i företag |
|---|---|---|
| 2 februari 2025 | Definitioner, AI-kunskap, förbjudna metoder (art. 5) | Inga manipulativa tekniker, ingen avläsning av anställdas känslor på arbetsplatsen |
| 2 augusti 2025 | Sanktioner (art. 99), regler för AI-modeller för allmänna ändamål | Böter kan utdömas för förbjudna metoder |
| 2 augusti 2026 | Allmän tillämpning, inklusive transparens (art. 50) | Människor måste få veta att de talar med en AI, från den första interaktionen |
| 2 december 2026 | Maskinläsbar märkning av syntetiskt ljud för system som redan finns på marknaden (art. 111.4) | En skyldighet för leverantören, inte för företaget som använder agenten |
| 2 december 2027 | Krav för högrisksystem enligt bilaga III | Bara för angivna användningar som kreditscoring eller prissättning av liv- och sjukförsäkring |
| 2 augusti 2028 | Krav för högrisk-AI i reglerade produkter (bilaga I) | Maskiner, medicintekniska produkter och liknande produkter |
Källor: AI-förordningen (Regulation (EU) 2024/1689), Art. 113; Digitala omnibuspaketet för AI (Regulation (EU) 2026/1744); AI-förordningen (Regulation (EU) 2024/1689), Art. 111(4)
Leverantör eller driftsättare: vem gör vad
AI-förordningen fördelar skyldigheterna mellan leverantören, som utvecklar ett AI-system och släpper ut det på marknaden under eget namn (art. 3.3), och driftsättaren, som använder det under eget ansvar (art. 3.4). För AI-röstagenterna är AI Fortis leverantör; företaget vars kunder agenten talar med är driftsättare.
Leverantören måste utforma en agent som talar med människor så att de informeras om att de har att göra med en AI (art. 50.1) och måste märka syntetiskt ljud på ett maskinläsbart sätt (art. 50.2). Driftsättaren har egna skyldigheter om den använder känsloigenkänning (art. 50.3) eller publicerar deepfakes (art. 50.4), samt driftsättarens skyldigheter enligt art. 26 om användningen är högrisk. Informationen ska ges senast vid den första interaktionen (art. 50.5).
Källor: AI-förordningen (Regulation (EU) 2024/1689), Art. 3(3); AI-förordningen (Regulation (EU) 2024/1689), Art. 3(4); AI-förordningen (Regulation (EU) 2024/1689), Art. 50(1); AI-förordningen (Regulation (EU) 2024/1689), Art. 50(2); AI-förordningen (Regulation (EU) 2024/1689), Art. 50(5); AI-förordningen (Regulation (EU) 2024/1689), Art. 26
Är er användning av AI högrisk?
| Användning | Upptagen i bilaga III? | Anmärkning |
|---|---|---|
| Kundtjänstlinje, bokningar, påminnelser, enkäter | Nej | Transparens (art. 50) och GDPR gäller |
| Avgöra en persons kreditvärdighet eller kreditscore | Ja, punkt 5 b | Upptäckt av bedrägerier är undantaget från denna punkt |
| Riskbedömning och prissättning av liv- och sjukförsäkring | Ja, punkt 5 c | Skadesamtal och frågor om försäkringsbrev är inte detta beslut |
| Klassificera nödsamtal eller triagera patienter | Ja, punkt 5 d | Tidsbokning är inte triagering |
| Poängsätta prestationen hos callcenter-medarbetare | Ja, punkt 4 b | Att avläsa anställdas känslor är förbjudet (art. 5.1 f) |
| Fakturatolkning, arkivering, affärssystem, momsjournaler | Nej | AI-kunskap (art. 4) och GDPR gäller |
Källor: AI-förordningen (Regulation (EU) 2024/1689), Art. 6(2); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 4(b); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 5(b); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 5(c); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 5(d); AI-förordningen (Regulation (EU) 2024/1689), Art. 5(1)(f)
GDPR för samtal och dokument
Samtalsljud, transkript, en uppringares röst och uppgifterna på en faktura avser identifierbara personer och är därför personuppgifter (GDPR art. 4.1). Företaget som bestämmer ändamålet med och medlen för behandlingen är personuppgiftsansvarig; en leverantör som behandlar uppgifterna för dess räkning är personuppgiftsbiträde (art. 4.7 och 4.8) och behöver ett avtal med det innehåll som art. 28.3 anger.
Uppringare ska få den information som art. 13 kräver när uppgifterna samlas in, vilket i praktiken betyder ett kort meddelande i början av samtalet och en länk till hela texten. Hälsodata från patientsamtal är en särskild kategori (art. 9), och en röst som används för att identifiera en person är biometriska uppgifter (art. 4.14). Ny teknik i stor skala kräver oftast en konsekvensbedömning avseende dataskydd (art. 35), och säkerhetsåtgärder som kryptering krävs enligt art. 32.
Var AI:n körs ändrar vem som behandlar uppgifterna, inte om GDPR gäller. On-premise stannar uppgifterna hos den personuppgiftsansvarige; i molnet är leverantören ett personuppgiftsbiträde som är bundet av personuppgiftsbiträdesavtalet.
Källor: GDPR (Regulation (EU) 2016/679), Art. 4(1); GDPR (Regulation (EU) 2016/679), Art. 4(7); GDPR (Regulation (EU) 2016/679), Art. 4(8); GDPR (Regulation (EU) 2016/679), Art. 28(3); GDPR (Regulation (EU) 2016/679), Art. 13; GDPR (Regulation (EU) 2016/679), Art. 9; GDPR (Regulation (EU) 2016/679), Art. 35; GDPR (Regulation (EU) 2016/679), Art. 32
Utgående samtal och samtalsinspelning
Marknadsföringssamtal som ett automatiserat uppringningssystem gör utan mänsklig inblandning kräver personens förhandssamtycke i alla medlemsstater (ePrivacydirektivet art. 13.1); en AI-röstagent som ringer säljsamtal omfattas av denna regel. Servicesamtal som en kund har bett om, och inkommande samtal, är ett annat fall.
Inspelning av samtal regleras av nationell rätt som genomför art. 5 i ePrivacydirektivet, som tillåter lagligen tillåten inspelning inom ramen för laglig affärspraxis som bevis för en affärstransaktion (art. 5.2). De nationella reglerna skiljer sig åt, så kontrollera era egna innan ni slår på inspelning.
Källor: ePrivacydirektivet (Directive 2002/58/EC), Art. 13(1); ePrivacydirektivet (Directive 2002/58/EC), Art. 5(2)
Påståenden att vara försiktig med
- Det finns inget allmänt "AI-förordningscertifikat". Bedömning av överensstämmelse och CE-märkning gäller bara högrisksystem.
- Transparensskyldigheten i art. 50 sköts inte upp: den gäller från den 2 augusti 2026.
- Att köra AI på egna servrar stänger inte av GDPR, DORA eller NIS2. Det ändrar vem som behandlar uppgifterna och var.
- Det separata förslaget om att ändra GDPR och reglerna om kakor är inte antaget; de nuvarande texterna gäller.
- En röstagent som svarar på frågor är inte ett högrisksystem bara för att den använder AI. Användningen avgör.
Vanliga frågor
Gäller AI-förordningen mitt företag?
Ja, om ni använder AI-system i EU, till exempel en röstagent i kundtjänsten. Sedan den 2 augusti 2026 måste människor få veta att de talar med en AI, senast vid den första interaktionen (art. 50.1 och 50.5). De flesta användningar i kundtjänst är inte högrisk.
Vad kräver artikel 50?
Att människor som interagerar med ett AI-system informeras om det, att syntetiskt ljud märks maskinläsbart och att driftsättare av känsloigenkänning och deepfakes informerar de berörda. Informationen ska ges senast vid den första interaktionen.
Måste en röstagent säga att den är AI?
Ja. Leverantören måste bygga agenten så att människor informeras (art. 50.1). I våra agenter är AI-informationen i början av samtalet påslagen som standard.
Vad är skillnaden mellan leverantör och driftsättare?
Leverantören utvecklar AI-systemet och släpper ut det på marknaden under eget namn; driftsättaren använder det under eget ansvar. För våra röstagenter är AI Fortis leverantör och kundföretaget driftsättare.
Får samtal spelas in?
Det styrs av nationell rätt som genomför art. 5 i ePrivacydirektivet, och GDPR gäller för uppgifterna: rättslig grund, information enligt art. 13 och lagringstid. Reglerna skiljer sig åt mellan länder, så kontrollera era egna innan ni slår på inspelning.
Blir GDPR enklare med AI on-premise?
Det håller samtalsljud och dokument i er egen infrastruktur, så ingen extern leverantör finns i vägen. GDPR gäller fortfarande fullt ut för er egen behandling.
Prata med oss om ert fall
Berätta vilket AI-system ni planerar att använda och var era data måste stanna; vi visar hur våra produkter hanterar reglerna. Vi svarar personligen, oftast inom en arbetsdag.
Välj en tid för ert samtal
Välj en tid som passar er. Ni får en bekräftelse med en videolänk.
30 minutermån–fre 09:00–17:00 (östeuropeisk tid)Google Meet
Öppna kalendern i en ny flik →
Vill ni inte välja en tid i kalendern? Berätta i stället vilken tid ni föredrar.
Föredrar ni telefon? Ring +359 888 899 932. Eller skriv till office@aifortis.com.