EU AI Act und DSGVO für Unternehmen: Artikel 50 und mehr
Seit dem 2. August 2026 muss jeder, der in der EU mit einem KI-Sprachagenten spricht, spätestens bei der ersten Interaktion erfahren, dass es eine KI ist (KI-Verordnung Art. 50). Die Pflichten für Hochrisiko-Systeme gelten ab dem 2. Dezember 2027 und nur für die in Anhang III genannten Verwendungen, etwa Kreditscoring. Anrufe, Aufzeichnungen und Dokumente sind personenbezogene Daten, daher gilt die DSGVO vollständig, wo auch immer die KI läuft.
Ab wann gilt was
| Datum | Was gilt | Was das für Unternehmens-KI bedeutet |
|---|---|---|
| 2. Februar 2025 | Begriffsbestimmungen, KI-Kompetenz, verbotene Praktiken (Art. 5) | Keine manipulativen Techniken, kein Ableiten der Emotionen von Beschäftigten am Arbeitsplatz |
| 2. August 2025 | Sanktionen (Art. 99), Regeln für KI mit allgemeinem Verwendungszweck | Bußgelder für verbotene Praktiken können verhängt werden |
| 2. August 2026 | Allgemeine Geltung, einschließlich Transparenz (Art. 50) | Menschen müssen von der ersten Interaktion an erfahren, dass sie mit einer KI sprechen |
| 2. Dezember 2026 | Maschinenlesbare Kennzeichnung synthetischer Audioinhalte für bereits in Verkehr befindliche Systeme (Art. 111 Abs. 4) | Eine Anbieterpflicht, keine für das Unternehmen, das den Agenten nutzt |
| 2. Dezember 2027 | Pflichten für Hochrisiko-Systeme nach Anhang III | Nur für genannte Verwendungen wie Kreditscoring oder Preisbildung in der Lebens- und Krankenversicherung |
| 2. August 2028 | Pflichten für Hochrisiko-KI in regulierten Produkten (Anhang I) | Maschinen, Medizinprodukte und ähnliche Produkte |
Quellen: KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 113; Digital-Omnibus zur KI (Regulation (EU) 2026/1744); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 111(4)
Anbieter oder Betreiber: wer was tut
Die KI-Verordnung teilt die Pflichten zwischen dem Anbieter, der ein KI-System entwickelt und unter eigenem Namen in Verkehr bringt (Art. 3 Nr. 3), und dem Betreiber, der es in eigener Verantwortung nutzt (Art. 3 Nr. 4). Bei den KI-Sprachagenten ist AI Fortis der Anbieter; das Unternehmen, dessen Kunden mit dem Agenten sprechen, ist der Betreiber.
Der Anbieter muss einen Agenten, der mit Menschen spricht, so gestalten, dass sie darüber informiert werden, dass sie es mit einer KI zu tun haben (Art. 50 Abs. 1), und muss synthetisches Audio maschinenlesbar kennzeichnen (Art. 50 Abs. 2). Der Betreiber hat eigene Pflichten, wenn er Emotionserkennung einsetzt (Art. 50 Abs. 3) oder Deepfakes veröffentlicht (Art. 50 Abs. 4), sowie die Betreiberpflichten nach Art. 26, wenn seine Nutzung Hochrisiko ist. Die Information muss spätestens bei der ersten Interaktion erfolgen (Art. 50 Abs. 5).
Quellen: KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 3(3); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 3(4); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(1); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(2); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(5); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 26
Ist Ihre KI-Nutzung Hochrisiko?
| Verwendung | In Anhang III genannt? | Hinweis |
|---|---|---|
| Kundenhotline, Terminvergabe, Erinnerungen, Umfragen | Nein | Transparenz (Art. 50) und DSGVO gelten |
| Entscheidung über die Kreditwürdigkeit oder den Kreditscore einer Person | Ja, Nr. 5 Buchst. b | Betrugserkennung ist von dieser Nummer ausgenommen |
| Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung | Ja, Nr. 5 Buchst. c | Schadenanrufe und Policenfragen sind nicht diese Entscheidung |
| Notrufe klassifizieren oder Patienten triagieren | Ja, Nr. 5 Buchst. d | Terminvergabe ist keine Triage |
| Leistungsbewertung von Callcenter-Mitarbeitenden | Ja, Nr. 4 Buchst. b | Das Ableiten der Emotionen von Beschäftigten ist verboten (Art. 5 Abs. 1 Buchst. f) |
| Rechnungsauslesung, Archivierung, ERP, Umsatzsteuer-Journale | Nein | KI-Kompetenz (Art. 4) und DSGVO gelten |
Quellen: KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 6(2); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 4(b); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 5(b); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 5(c); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 5(d); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 5(1)(f)
Die DSGVO für Anrufe und Dokumente
Anrufaudio, Transkripte, die Stimme eines Anrufers und die Daten auf einer Rechnung beziehen sich auf identifizierbare Personen und sind damit personenbezogene Daten (DSGVO Art. 4 Nr. 1). Das Unternehmen, das über Zweck und Mittel der Verarbeitung entscheidet, ist der Verantwortliche; ein Dienstleister, der sie in seinem Auftrag verarbeitet, ist Auftragsverarbeiter (Art. 4 Nr. 7 und 8) und braucht einen Vertrag mit dem Inhalt nach Art. 28 Abs. 3.
Anrufer müssen bei der Erhebung die Informationen nach Art. 13 erhalten, was in der Praxis einen kurzen Hinweis zu Beginn des Anrufs und einen Link auf den vollständigen Text bedeutet. Gesundheitsdaten aus Patientenanrufen sind eine besondere Kategorie (Art. 9), und eine Stimme, die zur Identifizierung einer Person dient, sind biometrische Daten (Art. 4 Nr. 14). Neue Technologie in großem Umfang erfordert in der Regel eine Datenschutz-Folgenabschätzung (Art. 35), und Sicherheitsmaßnahmen wie Verschlüsselung verlangt Art. 32.
Wo die KI läuft, ändert, wer die Daten verarbeitet, nicht, ob die DSGVO gilt. On-Premise bleiben die Daten beim Verantwortlichen; in der Cloud ist der Anbieter ein Auftragsverarbeiter, der an den Auftragsverarbeitungsvertrag gebunden ist.
Quellen: DSGVO (Regulation (EU) 2016/679), Art. 4(1); DSGVO (Regulation (EU) 2016/679), Art. 4(7); DSGVO (Regulation (EU) 2016/679), Art. 4(8); DSGVO (Regulation (EU) 2016/679), Art. 28(3); DSGVO (Regulation (EU) 2016/679), Art. 13; DSGVO (Regulation (EU) 2016/679), Art. 9; DSGVO (Regulation (EU) 2016/679), Art. 35; DSGVO (Regulation (EU) 2016/679), Art. 32
Ausgehende Anrufe und Gesprächsaufzeichnung
Werbeanrufe, die ein automatisches Anrufsystem ohne menschliches Eingreifen tätigt, brauchen in jedem Mitgliedstaat die vorherige Einwilligung der Person (ePrivacy-Richtlinie Art. 13 Abs. 1); ein KI-Sprachagent, der Verkaufsanrufe führt, fällt unter diese Regel. Servicegespräche, um die ein Kunde gebeten hat, und eingehende Anrufe sind ein anderer Fall.
Die Aufzeichnung von Gesprächen richtet sich nach dem nationalen Recht, das Art. 5 der ePrivacy-Richtlinie umsetzt; dieser erlaubt rechtlich zulässige Aufzeichnungen im Rahmen rechtmäßiger Geschäftspraxis als Beweis für ein Handelsgeschäft (Art. 5 Abs. 2). Die nationalen Regeln unterscheiden sich, prüfen Sie Ihre, bevor Sie die Aufzeichnung einschalten.
Quellen: ePrivacy-Richtlinie (Directive 2002/58/EC), Art. 13(1); ePrivacy-Richtlinie (Directive 2002/58/EC), Art. 5(2)
Aussagen, bei denen Vorsicht geboten ist
- Es gibt kein allgemeines „AI-Act-Zertifikat“. Konformitätsbewertung und CE-Kennzeichnung gelten nur für Hochrisiko-Systeme.
- Die Transparenzpflicht nach Art. 50 wurde nicht verschoben: Sie gilt seit dem 2. August 2026.
- KI auf den eigenen Servern schaltet DSGVO, DORA oder NIS-2 nicht ab. Sie ändert, wer die Daten verarbeitet und wo.
- Der gesonderte Vorschlag zur Änderung der DSGVO und der Cookie-Regeln ist nicht angenommen; die geltenden Texte gelten.
- Ein Sprachagent, der Fragen beantwortet, ist nicht schon deshalb ein Hochrisiko-System, weil er KI nutzt. Die Verwendung entscheidet.
Häufige Fragen
Was regelt Artikel 50 der KI-Verordnung?
Menschen, die mit einer KI interagieren, müssen spätestens bei der ersten Interaktion darüber informiert werden (Art. 50 Abs. 1 und 5); das gilt für KI-Sprachagenten seit dem 2. August 2026. Die meisten Kundenservice-Verwendungen sind nicht Hochrisiko.
Ab wann gelten die Hochrisiko-Regeln?
Ab dem 2. Dezember 2027 für die in Anhang III genannten Verwendungen und ab dem 2. August 2028 für KI in regulierten Produkten, nachdem der Digital-Omnibus zur KI (Verordnung (EU) 2026/1744) die Termine verschoben hat.
Ist ein Voicebot nach dem AI Act Hochrisiko?
Nicht von selbst. Er wird es, wenn er für einen genannten Zweck genutzt wird, etwa um über die Kreditwürdigkeit zu entscheiden (Anhang III Nr. 5 Buchst. b) oder Notrufe zu klassifizieren (Nr. 5 Buchst. d).
Wer muss Anrufern sagen, dass sie mit einer KI sprechen?
Der Anbieter muss den Agenten so bauen, dass Menschen informiert werden (Art. 50 Abs. 1). Bei unseren Agenten ist der KI-Hinweis zu Beginn des Anrufs standardmäßig eingeschaltet.
Gibt es eine AI-Act-Zertifizierung für KI-Produkte?
Eine allgemeine nicht. Konformitätsbewertung und CE-Kennzeichnung gibt es nur für Hochrisiko-Systeme. Seien Sie vorsichtig bei jedem Produkt, das als „AI-Act-zertifiziert“ verkauft wird.
Erleichtert On-Premise-KI die DSGVO-Konformität?
Sie hält Anrufaudio und Dokumente in Ihrer eigenen Infrastruktur, sodass kein externer Auftragsverarbeiter im Weg liegt. Die DSGVO gilt für Ihre eigene Verarbeitung weiterhin vollständig.
Sprechen Sie mit uns über Ihren Fall
Nennen Sie uns, welches KI-System Sie einsetzen wollen und wo Ihre Daten bleiben müssen; wir zeigen Ihnen, wie unsere Produkte mit den Regeln umgehen. Wir antworten persönlich, in der Regel innerhalb eines Werktags.
Wählen Sie einen Termin für Ihr Gespräch
Wählen Sie einen passenden Termin. Sie erhalten eine Bestätigung mit einem Videolink.
30 MinutenMo – Fr 09:00–17:00 Uhr (Osteuropäische Zeit)Google Meet
Kalender in neuem Tab öffnen →
Möchten Sie keinen Kalendertermin wählen? Nennen Sie uns stattdessen Ihre bevorzugte Zeit.
Lieber telefonisch? Rufen Sie +359 888 899 932 an. Oder schreiben Sie an office@aifortis.com.