EmpfangoWas der EU AI Act regelt
Der AI Act ist das weltweit erste umfassende KI-Gesetz. Er teilt KI-Systeme in Risikoklassen ein: Verbotene Praktiken (etwa Social Scoring), Hochrisiko-Systeme (etwa KI in der Personalauswahl), Systeme mit Transparenzpflichten und Anwendungen mit minimalem Risiko. Je höher das Risiko, desto strenger die Auflagen.
Die Verordnung ist im August 2024 in Kraft getreten und gilt gestaffelt: Verbote seit Februar 2025, Pflichten für Allzweck-KI-Modelle seit August 2025 – und die breite Anwendung inklusive der Transparenzpflichten ab dem 2. August 2026.
Wo KI-Telefonassistenten einzuordnen sind
Ein Telefonassistent, der Anrufe annimmt, Fragen beantwortet und Termine bucht, ist in aller Regel kein Hochrisiko-System. Er fällt aber unter die Transparenzpflichten nach Artikel 50: Wer ein KI-System einsetzt, das direkt mit Menschen interagiert, muss sicherstellen, dass diese Menschen über den KI-Einsatz informiert werden – es sei denn, er ist aus dem Kontext offensichtlich.
Am Telefon ist nichts „offensichtlich“: Moderne KI-Stimmen sind von menschlichen kaum zu unterscheiden. Deshalb gilt praktisch immer – der Anrufer muss zu Gesprächsbeginn erfahren, dass eine KI spricht.
Was Unternehmen bis August 2026 tun sollten
- Bestandsaufnahme: Wo sind bereits Voicebots, Chatbots oder KI-Assistenten im Kundenkontakt im Einsatz?
- Ansagen prüfen: Beginnt jedes KI-Gespräch mit einem klaren Hinweis auf den KI-Einsatz? Ist die Ansage fest verdrahtet oder abschaltbar?
- Anbieter in die Pflicht nehmen: Der Anbieter sollte die AI-Act-Konformität vertraglich zusichern und die Transparenzfunktionen technisch erzwingen.
- DSGVO-Hausaufgaben mitmachen: AVV, Verarbeitungsverzeichnis und Datenschutzerklärung um den KI-Assistenten ergänzen.
- Dokumentieren: Festhalten, welches System eingesetzt wird, wie informiert wird und wer verantwortlich ist.
DSGVO und AI Act gelten parallel
Der AI Act ersetzt die DSGVO nicht – beide gelten nebeneinander. Die DSGVO regelt, wie personenbezogene Daten (Stimme, Name, Anliegen) verarbeitet werden dürfen; der AI Act regelt zusätzlich, wie das KI-System selbst gestaltet sein muss. Für die Praxis heißt das: EU-Datenverarbeitung, Löschkonzept und KI-Ansage gehören zusammen gedacht.
Bei Verstößen drohen empfindliche Sanktionen: Der AI Act sieht je nach Verstoß Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor – bei verbotenen Praktiken sogar mehr.
Fazit
Für Unternehmen, die KI-Telefonie einsetzen wollen, ist der AI Act kein Hindernis, sondern eine klare Spielregel: KI-Einsatz offenlegen, Daten in der EU verarbeiten, sauber dokumentieren. Empfango erfüllt die Transparenzpflicht von Haus aus – jedes Gespräch beginnt mit einer festen Ansage zu KI-Einsatz und Aufzeichnung, die sich nicht abschalten lässt.