AI Act und DSGVO im KI Callcenter auf eigenen Servern

Mit dem Enterprise AI Callcenter auf Ihren eigenen Servern sind Sie Betreiber nach der KI-Verordnung und Verantwortlicher nach der DSGVO, und im Gesprächsweg sitzt kein externer Auftragsverarbeiter. Der Agent sagt jedem Anrufer zu Beginn des Gesprächs, dass er eine KI ist, wie es Art. 50 seit dem 2. August 2026 verlangt. Hochrisiko-Pflichten entstehen nur, wenn Sie ihn für einen in Anhang III genannten Zweck nutzen.

  • DSGVO by Design
  • Läuft auf Ihren eigenen Servern
  • Betrieb und Support rund um die Uhr
  • Ein Team von 5 Personen in Sofia, EU

Bereits im Produktivbetrieb bei Organisationen in Bulgarien — Namen unter NDA.

So belegen wir es →

Ihre Rolle und unsere

Wer beim auf Ihren Servern installierten Enterprise AI Callcenter welche Pflicht trägt
ThemaSie (Betreiber, Verantwortlicher)AI Fortis (Anbieter)
Anrufern sagen, dass sie mit einer KI sprechenDen Hinweis in Ihren Szenarien eingeschaltet lassenBaut den Agenten so, dass er Anrufer informiert (Art. 50 Abs. 1); standardmäßig eingeschaltet
Synthetisches Audio kennzeichnenKeine PflichtAnbieterpflicht (Art. 50 Abs. 2)
Zweck der AnrufeSie entscheiden; genannte Zwecke machen es zu HochrisikoDokumentiert, wofür das System gebaut ist
Anrufaudio, Aufzeichnungen, TranskripteWerden in Ihrer eigenen Infrastruktur verarbeitetZugriff nur wie für den Support vereinbart
Information der Anrufer (DSGVO Art. 13)Ihr Hinweis zu Gesprächsbeginn und Ihre DatenschutzerklärungAufzeichnungshinweis in der Begrüßung eingebaut
Aufbewahrung und LöschungIhre RichtlinieAufbewahrungseinstellungen und das Audit-Protokoll in der Plattform

Quellen: KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 3(3); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 3(4); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(1); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(2); DSGVO (Regulation (EU) 2016/679), Art. 13

KI-Hinweis seit dem 2. August 2026

Ein KI-System, das direkt mit Menschen interagiert, muss so gestaltet sein, dass diese darüber informiert werden, dass sie mit einer KI interagieren, spätestens bei der ersten Interaktion (Art. 50 Abs. 1 und 5). Die Kommission legt die Ausnahme für offensichtliche Fälle eng aus, ein Sprachagent sollte also sagen, dass er eine KI ist, und es nicht dem Anrufer überlassen, das zu erraten.

Im Enterprise AI Callcenter enthält die Begrüßung den KI-Hinweis und den Aufzeichnungshinweis, beide standardmäßig eingeschaltet. Sie können den Wortlaut pro Szenario und Sprache anpassen.

Quellen: KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(1); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 50(5)

Wann eine Callcenter-Verwendung zu Hochrisiko wird

Fragen beantworten, Termine vergeben, Erinnerungen und Umfragen stehen nicht in Anhang III. Einige Verwendungen schon: über Kreditwürdigkeit entscheiden (Nr. 5 Buchst. b), Preise in der Lebens- und Krankenversicherung bilden (5 Buchst. c), Notrufe klassifizieren (5 Buchst. d) und die Leistung von Beschäftigten überwachen oder bewerten (4 Buchst. b). Dafür gelten die Betreiberpflichten nach Art. 26 ab dem 2. Dezember 2027, darunter menschliche Aufsicht, das Aufbewahren von Protokollen für mindestens sechs Monate und das Unterrichten der Arbeitnehmervertreter vor dem Einsatz am Arbeitsplatz.

Das Ableiten der Emotionen von Beschäftigten am Arbeitsplatz ist ausdrücklich verboten, außer aus medizinischen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f). Richten Sie das Callcenter so ein, dass die KI den Anrufern dient und Ihr Personal nicht bewertet.

Quellen: KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 5(b); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 5(c); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 5(d); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Anhang III, Nr. 4(b); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 26(6); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 26(7); KI-Verordnung (AI Act) (Regulation (EU) 2024/1689), Art. 5(1)(f); Digital-Omnibus zur KI (Regulation (EU) 2026/1744)

DSGVO auf Ihren eigenen Servern

  • Rechtsgrundlage je Anrufart: Vertrag für Servicegespräche, rechtliche Verpflichtung, wo ein Gesetz den Anruf verlangt, berechtigtes Interesse erst nach einer Interessenabwägung (Art. 6 Abs. 1).
  • Information der Anrufer zu Beginn des Gesprächs, mit Link oder Nummer für den vollständigen Hinweis (Art. 13).
  • Eine Datenschutz-Folgenabschätzung vor dem Einsatz neuer Technologie in großem Umfang (Art. 35).
  • Sicherheit der Verarbeitung: Verschlüsselung, Zugriffskontrolle, Wiederherstellung der Verfügbarkeit nach einem Vorfall (Art. 32). Die Plattform hat rollenbasierten Zugriff, Zwei-Faktor-Anmeldung und ein Audit-Protokoll.
  • Gesundheitsdaten in Patientenanrufen sind eine besondere Kategorie (Art. 9); eine Stimme, die zur Identifizierung einer Person dient, sind biometrische Daten (Art. 4 Nr. 14).

Quellen: DSGVO (Regulation (EU) 2016/679), Art. 6(1); DSGVO (Regulation (EU) 2016/679), Art. 13; DSGVO (Regulation (EU) 2016/679), Art. 35; DSGVO (Regulation (EU) 2016/679), Art. 32; DSGVO (Regulation (EU) 2016/679), Art. 9; DSGVO (Regulation (EU) 2016/679), Art. 4(14)

Ausgehende Kampagnen

Werbeanrufe durch ein automatisches System ohne menschliches Eingreifen brauchen die vorherige Einwilligung der Person (ePrivacy-Richtlinie Art. 13 Abs. 1). Zahlungserinnerungen und Anrufe, um die ein Kunde gebeten hat, sind ein anderer Fall, aber nationale Regeln zu Anrufzeiten und Aufzeichnung gelten weiterhin. Die Plattform setzt Ihre Sperrliste, Anrufzeiten und Versuchsgrenzen in jeder Kampagne durch.

Quellen: ePrivacy-Richtlinie (Directive 2002/58/EC), Art. 13(1); ePrivacy-Richtlinie (Directive 2002/58/EC), Art. 5(2)

Häufige Fragen

Ist ein KI-Callcenter On-Premise DSGVO-konform?

Die DSGVO gilt für Ihre Verarbeitung, wo auch immer sie läuft. On-Premise bleiben Anrufaudio und Aufzeichnungen in Ihrer Infrastruktur und kein externer Auftragsverarbeiter liegt im Gesprächsweg, was die Datenflüsse einfacher dokumentierbar macht.

Muss der KI-Agent sagen, dass er eine KI ist?

Ja. Seit dem 2. August 2026 müssen Anrufer spätestens bei der ersten Interaktion informiert werden (AI Act Art. 50 Abs. 1 und 5). Unser Agent sagt es zu Beginn jedes Anrufs.

Ist unser KI-Callcenter ein Hochrisiko-KI-System?

Nur wenn Sie es für einen in Anhang III genannten Zweck nutzen, etwa die Kreditwürdigkeit zu bestimmen oder Notrufe zu klassifizieren. Für Kundenservice, Terminvergabe und Erinnerungen ist es das nicht.

Brauchen wir eine DSFA für KI-Sprachagenten?

Meist ja, wenn Sie neue Technologie in großem Umfang einsetzen (DSGVO Art. 35). Die Dokumentation des Systems durch den Anbieter hilft Ihnen bei der Vorbereitung.

Kann die KI Verkaufsanrufe führen?

Nur bei Personen, die vorher eingewilligt haben: automatisierte Werbeanrufe brauchen das in jedem Mitgliedstaat (ePrivacy-Richtlinie Art. 13 Abs. 1).

Anfrage zu Enterprise AI Callcenter

Nennen Sie uns, welche Anrufe Sie automatisieren wollen und welche Regeln Ihre Rechtsabteilung beschäftigen. Wir antworten persönlich, in der Regel innerhalb eines Werktags.

  • DSGVO by Design
  • Läuft auf Ihren eigenen Servern
  • Betrieb und Support rund um die Uhr
  • Ein Team von 5 Personen in Sofia, EU

Bereits im Produktivbetrieb bei Organisationen in Bulgarien — Namen unter NDA.

So belegen wir es →