AI-förordningen och GDPR för AI i företag: vad gäller när

Sedan den 2 augusti 2026 måste alla som talar med en AI-röstagent i EU få veta att det är en AI, senast vid den första interaktionen (AI-förordningen art. 50). Kraven för högrisksystem gäller från den 2 december 2027 och bara för de användningar som anges i bilaga III, till exempel kreditscoring. Samtal, inspelningar och dokument är personuppgifter, så GDPR gäller fullt ut, oavsett var AI:n körs.

Vad gäller när

Tillämpningsdatum för AI-förordningen efter det digitala omnibuspaketet för AI (art. 113 i ändrad lydelse)
DatumVad som gällerVad det betyder för AI i företag
2 februari 2025Definitioner, AI-kunskap, förbjudna metoder (art. 5)Inga manipulativa tekniker, ingen avläsning av anställdas känslor på arbetsplatsen
2 augusti 2025Sanktioner (art. 99), regler för AI-modeller för allmänna ändamålBöter kan utdömas för förbjudna metoder
2 augusti 2026Allmän tillämpning, inklusive transparens (art. 50)Människor måste få veta att de talar med en AI, från den första interaktionen
2 december 2026Maskinläsbar märkning av syntetiskt ljud för system som redan finns på marknaden (art. 111.4)En skyldighet för leverantören, inte för företaget som använder agenten
2 december 2027Krav för högrisksystem enligt bilaga IIIBara för angivna användningar som kreditscoring eller prissättning av liv- och sjukförsäkring
2 augusti 2028Krav för högrisk-AI i reglerade produkter (bilaga I)Maskiner, medicintekniska produkter och liknande produkter

Källor: AI-förordningen (Regulation (EU) 2024/1689), Art. 113; Digitala omnibuspaketet för AI (Regulation (EU) 2026/1744); AI-förordningen (Regulation (EU) 2024/1689), Art. 111(4)

Leverantör eller driftsättare: vem gör vad

AI-förordningen fördelar skyldigheterna mellan leverantören, som utvecklar ett AI-system och släpper ut det på marknaden under eget namn (art. 3.3), och driftsättaren, som använder det under eget ansvar (art. 3.4). För AI-röstagenterna är AI Fortis leverantör; företaget vars kunder agenten talar med är driftsättare.

Leverantören måste utforma en agent som talar med människor så att de informeras om att de har att göra med en AI (art. 50.1) och måste märka syntetiskt ljud på ett maskinläsbart sätt (art. 50.2). Driftsättaren har egna skyldigheter om den använder känsloigenkänning (art. 50.3) eller publicerar deepfakes (art. 50.4), samt driftsättarens skyldigheter enligt art. 26 om användningen är högrisk. Informationen ska ges senast vid den första interaktionen (art. 50.5).

Källor: AI-förordningen (Regulation (EU) 2024/1689), Art. 3(3); AI-förordningen (Regulation (EU) 2024/1689), Art. 3(4); AI-förordningen (Regulation (EU) 2024/1689), Art. 50(1); AI-förordningen (Regulation (EU) 2024/1689), Art. 50(2); AI-förordningen (Regulation (EU) 2024/1689), Art. 50(5); AI-förordningen (Regulation (EU) 2024/1689), Art. 26

Är er användning av AI högrisk?

Typiska användningar av våra produkter och om AI-förordningen räknar upp dem i bilaga III
AnvändningUpptagen i bilaga III?Anmärkning
Kundtjänstlinje, bokningar, påminnelser, enkäterNejTransparens (art. 50) och GDPR gäller
Avgöra en persons kreditvärdighet eller kreditscoreJa, punkt 5 bUpptäckt av bedrägerier är undantaget från denna punkt
Riskbedömning och prissättning av liv- och sjukförsäkringJa, punkt 5 cSkadesamtal och frågor om försäkringsbrev är inte detta beslut
Klassificera nödsamtal eller triagera patienterJa, punkt 5 dTidsbokning är inte triagering
Poängsätta prestationen hos callcenter-medarbetareJa, punkt 4 bAtt avläsa anställdas känslor är förbjudet (art. 5.1 f)
Fakturatolkning, arkivering, affärssystem, momsjournalerNejAI-kunskap (art. 4) och GDPR gäller

Källor: AI-förordningen (Regulation (EU) 2024/1689), Art. 6(2); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 4(b); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 5(b); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 5(c); AI-förordningen (Regulation (EU) 2024/1689), Bilaga III, punkt 5(d); AI-förordningen (Regulation (EU) 2024/1689), Art. 5(1)(f)

GDPR för samtal och dokument

Samtalsljud, transkript, en uppringares röst och uppgifterna på en faktura avser identifierbara personer och är därför personuppgifter (GDPR art. 4.1). Företaget som bestämmer ändamålet med och medlen för behandlingen är personuppgiftsansvarig; en leverantör som behandlar uppgifterna för dess räkning är personuppgiftsbiträde (art. 4.7 och 4.8) och behöver ett avtal med det innehåll som art. 28.3 anger.

Uppringare ska få den information som art. 13 kräver när uppgifterna samlas in, vilket i praktiken betyder ett kort meddelande i början av samtalet och en länk till hela texten. Hälsodata från patientsamtal är en särskild kategori (art. 9), och en röst som används för att identifiera en person är biometriska uppgifter (art. 4.14). Ny teknik i stor skala kräver oftast en konsekvensbedömning avseende dataskydd (art. 35), och säkerhetsåtgärder som kryptering krävs enligt art. 32.

Var AI:n körs ändrar vem som behandlar uppgifterna, inte om GDPR gäller. On-premise stannar uppgifterna hos den personuppgiftsansvarige; i molnet är leverantören ett personuppgiftsbiträde som är bundet av personuppgiftsbiträdesavtalet.

Källor: GDPR (Regulation (EU) 2016/679), Art. 4(1); GDPR (Regulation (EU) 2016/679), Art. 4(7); GDPR (Regulation (EU) 2016/679), Art. 4(8); GDPR (Regulation (EU) 2016/679), Art. 28(3); GDPR (Regulation (EU) 2016/679), Art. 13; GDPR (Regulation (EU) 2016/679), Art. 9; GDPR (Regulation (EU) 2016/679), Art. 35; GDPR (Regulation (EU) 2016/679), Art. 32

Utgående samtal och samtalsinspelning

Marknadsföringssamtal som ett automatiserat uppringningssystem gör utan mänsklig inblandning kräver personens förhandssamtycke i alla medlemsstater (ePrivacydirektivet art. 13.1); en AI-röstagent som ringer säljsamtal omfattas av denna regel. Servicesamtal som en kund har bett om, och inkommande samtal, är ett annat fall.

Inspelning av samtal regleras av nationell rätt som genomför art. 5 i ePrivacydirektivet, som tillåter lagligen tillåten inspelning inom ramen för laglig affärspraxis som bevis för en affärstransaktion (art. 5.2). De nationella reglerna skiljer sig åt, så kontrollera era egna innan ni slår på inspelning.

Källor: ePrivacydirektivet (Directive 2002/58/EC), Art. 13(1); ePrivacydirektivet (Directive 2002/58/EC), Art. 5(2)

Påståenden att vara försiktig med

  • Det finns inget allmänt "AI-förordningscertifikat". Bedömning av överensstämmelse och CE-märkning gäller bara högrisksystem.
  • Transparensskyldigheten i art. 50 sköts inte upp: den gäller från den 2 augusti 2026.
  • Att köra AI på egna servrar stänger inte av GDPR, DORA eller NIS2. Det ändrar vem som behandlar uppgifterna och var.
  • Det separata förslaget om att ändra GDPR och reglerna om kakor är inte antaget; de nuvarande texterna gäller.
  • En röstagent som svarar på frågor är inte ett högrisksystem bara för att den använder AI. Användningen avgör.

Vanliga frågor

Gäller AI-förordningen mitt företag?

Ja, om ni använder AI-system i EU, till exempel en röstagent i kundtjänsten. Sedan den 2 augusti 2026 måste människor få veta att de talar med en AI, senast vid den första interaktionen (art. 50.1 och 50.5). De flesta användningar i kundtjänst är inte högrisk.

Vad kräver artikel 50?

Att människor som interagerar med ett AI-system informeras om det, att syntetiskt ljud märks maskinläsbart och att driftsättare av känsloigenkänning och deepfakes informerar de berörda. Informationen ska ges senast vid den första interaktionen.

Måste en röstagent säga att den är AI?

Ja. Leverantören måste bygga agenten så att människor informeras (art. 50.1). I våra agenter är AI-informationen i början av samtalet påslagen som standard.

Vad är skillnaden mellan leverantör och driftsättare?

Leverantören utvecklar AI-systemet och släpper ut det på marknaden under eget namn; driftsättaren använder det under eget ansvar. För våra röstagenter är AI Fortis leverantör och kundföretaget driftsättare.

Får samtal spelas in?

Det styrs av nationell rätt som genomför art. 5 i ePrivacydirektivet, och GDPR gäller för uppgifterna: rättslig grund, information enligt art. 13 och lagringstid. Reglerna skiljer sig åt mellan länder, så kontrollera era egna innan ni slår på inspelning.

Blir GDPR enklare med AI on-premise?

Det håller samtalsljud och dokument i er egen infrastruktur, så ingen extern leverantör finns i vägen. GDPR gäller fortfarande fullt ut för er egen behandling.

Prata med oss om ert fall

Berätta vilket AI-system ni planerar att använda och var era data måste stanna; vi visar hur våra produkter hanterar reglerna. Vi svarar personligen, oftast inom en arbetsdag.