Geringes Risiko oder hohes Risiko? Wo Ihr KI-Sprachassistent im Rahmen des EU-KI-Gesetzes einzuordnen ist
Geringes Risiko oder hohes Risiko? Wo Ihr KI-Sprachassistent im Rahmen des EU-KI-Gesetzes einzuordnen ist

Geringes Risiko oder hohes Risiko? Wo Ihr KI-Sprachassistent im Rahmen des EU-KI-Gesetzes einzuordnen ist

von pbx.lu Leitartikel vom 28. September 2026
KI-Sprachassistenten nehmen mittlerweile bei vielen Geschäftstelefonanschlüssen Anrufe entgegen, vereinbaren Termine und leiten Anrufer weiter. Seit dem 2. August 2026 stellt das EU-KI-Gesetz eine Anforderung an alle diese Systeme: Anrufer müssen wissen, dass sie mit einer Maschine sprechen. Einige Sprachassistenten übernehmen weitaus umfangreichere Aufgaben, und bestimmte Anwendungsfälle sind gänzlich verboten.
Der Unterschied liegt nicht in der Technologie. Er ergibt sich daraus, wofür der Agent eingesetzt wird. Dieser Artikel zeigt, wo ein typischer KI-Sprachagent in den Risikostufen des KI-Gesetzes einzuordnen ist – und warum er dort in die Kategorie „hohes Risiko“ fällt –, welche Technologien hinter Ihrer Cloud-PBX diese Agenten antreiben und welche Fragen Sie Ihrem Anbieter für Telefonanlagen stellen sollten.
⚖️ Die kurze Antwort. Ein KI-Sprachassistent, der Anrufe entgegennimmt, Auskünfte erteilt, Nachrichten entgegennimmt, Termine vereinbart oder Anrufe weiterleitet, fällt unter die Kategorie „Transparenz“ und wird oft als „begrenztes Risiko“ bezeichnet. Seine Hauptaufgabe besteht darin, den Anrufern gleich zu Beginn des Gesprächs mitzuteilen, dass sie mit einer KI sprechen. Er wird erst dann als „hohes Risiko“ eingestuft, wenn er für einen in Anhang III des Gesetzes aufgeführten Zweck eingesetzt wird, wie beispielsweise die Überprüfung von Bewerbern, die Bonitätsprüfung oder die Triage von Notrufen. Diese Aufgaben mit hohem Risiko gelten ab dem 2. Dezember 2027.
🧭 Auf dieser Seite
  1. Die vier Risikostufen, angewandt auf einen Telefonanschluss
  2. Warum die meisten KI-Sprachassistenten ein Beispiel für Transparenz sind
  3. Wenn derselbe Sprachagent zu einem hohen Risiko wird
  4. Was bereits verboten ist
  5. Was steckt hinter den KI-Sprachassistenten in geschäftlichen Telefonanlagen?
  6. Wer ist verantwortlich: Sie oder Ihr Anbieter für Telefonanlagen?
  7. Was Sie über Ihren eigenen KI-Sprachassistenten wissen sollten
  8. Fragen, die Sie Ihrem Cloud-PBX- oder UCaaS-Anbieter stellen sollten
  9. Weitere Vorschriften, die neben dem KI-Gesetz gelten
  10. Wichtige Termine für KI-Sprachassistenten
  11. Häufig gestellte Fragen

Die vier Risikostufen, angewandt auf einen Telefonanschluss

Das EU-KI-Gesetz (Verordnung (EU) 2024/1689) regelt „KI“ nicht als ein einheitliches Ganzes. Vielmehr werden KI-Systeme nach dem mit ihrer Nutzung verbundenen Risiko eingestuft. Für die Geschäftstelefonie sehen die vier Stufen wie folgt aus.
KI-Sprachassistent: Eine Software, die Anrufe entgegennimmt oder tätigt und ein mündliches Gespräch mit dem Anrufer führt. Sie kombiniert in der Regel Spracherkennung, ein großes Sprachmodell und eine synthetische Stimme.
„Begrenztes Risiko“ – Dieser Begriff wird im Gesetz selbst nicht verwendet. Es handelt sich um eine gängige Kurzbezeichnung für KI-Systeme, für die in erster Linie die Transparenzvorschriften gemäß Artikel 50 gelten.
Risikostufe
Beispiel für einen Sprachagenten
Gültig ab
Verboten
Bewertung der emotionalen Verfassung der eigenen Callcenter-Mitarbeiter; Druckausübung auf schutzbedürftige Anrufer
2. Februar 2025
Mit hohem Risiko
Telefonische Vorauswahl von Bewerbern; Bonitätsvorabprüfungen; Triage bei Notrufen
2. Dezember 2027
Begrenztes Risiko (Transparenz)
KI-Rezeptionist, FAQ-Agent, Terminvereinbarung, Anrufweiterleitung
2. August 2026
Minimales Risiko
Filterung von Spam-Anrufen, Unterdrückung von Hintergrundgeräuschen
Keine besonderen Aufgaben
Der Termin mit hohem Risiko wurde verschoben. Der Digitaler Sammelband zum Thema KI (Verordnung (EU) 2026/1744), die seit dem 27. Juli 2026 in Kraft ist, verschob den Beginn der Hochrisikovorschriften gemäß Anhang III von August 2026 auf den 2. Dezember 2027. Die Transparenzvorschriften wurden nicht verschoben.

Warum die meisten KI-Sprachassistenten ein Beispiel für Transparenz sind

Artikel 50 Absatz 1 legt die Kernvorschrift fest. Der Anbieter eines KI-Systems, das direkt mit Menschen kommuniziert, muss das System so gestalten, dass diese Menschen darüber informiert werden, dass sie mit einer KI interagieren. Eine Ausnahme gilt nur dann, wenn dies für eine angemessen informierte und aufmerksame Person offensichtlich ist. Die Europäische Kommission Häufig gestellte Fragen zu Artikel 50 erklärt, dass diese Ausnahme eng ausgelegt werden sollte. Am Telefon, wo eine synthetische Stimme menschlich klingen kann, ist dies selten offensichtlich.
Anbieter Das Unternehmen, das ein KI-System entwickelt und es unter eigenem Namen auf den Markt bringt. Bei einem in Ihre Telefonanlage integrierten Sprachassistenten ist dies in der Regel der Anbieter der Telefonanlage.
Einsatzbetreiber: Die Organisation, die ein KI-System in eigener Verantwortung einsetzt. Wenn Ihr Unternehmen eine KI-Rezeptionistin in Betrieb nimmt, ist Ihr Unternehmen der Einsatzbetreiber.
Die Informationen müssen spätestens beim ersten Kontakt bereitgestellt werden. Sie müssen klar und zugänglich sein. In den endgültigen Leitlinien der Kommission zu Artikel 50, die im Juli 2026 veröffentlicht wurden, wird hinzugefügt, dass ein KI-Agent sowohl angeben muss, dass es sich um KI handelt, als auch, in wessen Auftrag er handelt. Eine vage Bezeichnung wie „Assistent“ reicht nicht aus.
In der Praxis legt das Unternehmen die Begrüßung fest. Ein Anbieter kann den Hinweis in das Produkt integrieren, doch dies funktioniert nur, wenn das Unternehmen dafür sorgt, dass er deutlich erkennbar und aktiviert ist. Zwei weitere Transparenzpflichten obliegen direkt dem Unternehmen als Betreiber. Erkennt der Mitarbeiter anhand der Stimme des Anrufers dessen Emotionen, muss der Anrufer darüber informiert werden (Artikel 50 Absatz 3). Verwendet der Mitarbeiter eine nachgebildete Stimme einer realen Person, kann diese Tonaufnahme als Deepfake gelten, der offengelegt werden muss (Artikel 50 Absatz 4).
🎙️ So sieht eine regelkonforme Einleitung aus
Ein Satz wie „Sie sprechen mit dem KI-Assistenten von [Unternehmen]. Sie können jederzeit nach einem Kollegen fragen“ deckt die wichtigsten Punkte ab: den KI-Charakter, in wessen Auftrag die Antwort erfolgt und die Möglichkeit, an einen Menschen weitergeleitet zu werden. Bei mehrsprachigen Ansagen sollte die Information in der Sprache des Anrufs erfolgen und nicht nur in einer Standardsprache.
🔊 Braucht die synthetische Stimme selbst einen versteckten Marker?
Artikel 50 Absatz 2 verpflichtet Anbieter von Systemen, die synthetische Audiodaten erzeugen, diese maschinenlesbar zu kennzeichnen, damit sie als KI-generiert erkannt werden können. Für Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, gilt eine Frist bis zum 2. Dezember 2026. Wie dies bei Live-Telefonaudiodaten funktioniert, die von Telefonnetzen komprimiert werden, ist in den Leitlinien noch nicht geklärt. Die Pflicht liegt beim Anbieter; fragen Sie jedoch Ihren Anbieter, wie er damit umgeht.

Wenn derselbe Sprachagent zu einem hohen Risiko wird

In Anhang III des Gesetzes sind die Zwecke aufgeführt, die ein KI-System zu einem System mit hohem Risiko machen. Einige davon können über eine Telefonleitung stattfinden.
Aufgabe für Sprachagenten
Anhang III, Punkt
Kommentar
Bewerber telefonisch befragen oder auswählen
4(a) Beschäftigung
Behandelt die Analyse und Bewertung von Bewerbern
Bewertung der Leistung oder des Verhaltens von Call-Center-Mitarbeitern
4(b) Beschäftigung
Gilt sowohl für die Anrufanalyse als auch für die Agenten
Überprüfung der Bonität eines Anrufers
5(b) Systemrelevante Dienste
Die Aufdeckung von Betrugsfällen ist ausgeschlossen
Risikobewertung oder Prämienberechnung für Lebens- oder Krankenversicherungen
5(c) Systemrelevante Dienste
Andere Versicherungssparten sind nicht aufgeführt
Prüfung des Anspruchs auf staatliche Leistungen
5(a) Systemrelevante Dienste
Behörden und die in ihrem Auftrag handelnden Personen
Einstufung oder Priorisierung von Notrufen
5(d) Systemrelevante Dienste
Beinhaltet die Triage in der Notfallmedizin
Identifizierung eines Anrufers anhand seiner Stimme unter vielen Personen
1(a) Biometrie
Die Bestätigung einer angegebenen Identität ist ausgeschlossen
Erkennung der Emotionen von Anrufern anhand ihrer Stimme
1(c) Biometrie
Muss ebenfalls gemäß Artikel 50 Absatz 3 offengelegt werden
🎯 Der Zweck ist entscheidend, nicht die Technologie. Dieselbe Software kann in einer Zahnarztpraxis ein geringes Risiko darstellen, bei einem Verbraucherkreditgeber hingegen ein hohes Risiko. Entscheidend ist der vom Anbieter angegebene Verwendungszweck und die Art und Weise, wie das Unternehmen die Software tatsächlich einsetzt.
Artikel 6 Absatz 3 enthält eine Ausnahmeregelung. Ein System gemäß Anhang III gilt nicht als risikoreich, wenn es lediglich eine eng gefasste verfahrenstechnische oder vorbereitende Aufgabe erfüllt oder keinen wesentlichen Einfluss auf die Entscheidung hat. Für Banken, Kreditgeber und Versicherer, die Anwendungsfall im Bereich Finanzdienstleistungen Wie bereits ausführlicher erläutert, ist dieser Filter entscheidend. Ein Makler, der eine Kreditanfrage entgegennimmt und einen Termin mit einem Berater vereinbart, fällt möglicherweise nicht darunter. Ein Makler, der Anrufer bewertet oder vorab ablehnt, hingegen schon. Jedes System, das Profile von Personen erstellt, birgt stets ein hohes Risiko.
Der Entwurf der Kommission für Leitlinien zur Einstufung als Hochrisikoprodukt enthält einen Warnhinweis: Als „Unterstützung“ vermarktete Instrumente können dennoch ein hohes Risiko darstellen, wenn sie in der Praxis die Ergebnisse beeinflussen. Ein Anbieter, der sich auf den Filter stützt, muss seine Bewertung dokumentieren und das System dennoch in der EU-Datenbank registrieren.
🔐 Stimauthentifizierung versus Stimmenidentifizierung
Viele Banken und Dienstleistungsbereiche nutzen die Stimmbiometrie, um zu überprüfen, ob ein Anrufer tatsächlich der ist, für den er sich ausgibt. Diese Eins-zu-Eins-Überprüfung, die als biometrische Verifizierung bezeichnet wird, ist von der Liste der risikoreichen Verfahren ausgenommen. Die Identifizierung eines unbekannten Anrufers durch den Abgleich seiner Stimme mit zahlreichen gespeicherten Stimmen wird als ferngesteuerte biometrische Identifizierung bezeichnet und gilt als risikoreich. In beiden Fällen gelten die DSGVO-Vorschriften zu biometrischen Daten.

Was bereits verboten ist

🚫 Seit dem 2. Februar 2025 gesperrt. KI, die die Emotionen von Menschen am Arbeitsplatz einschätzt – einschließlich Ihrer eigenen Callcenter-Mitarbeiter –, es sei denn, dies geschieht aus medizinischen oder sicherheitsrelevanten Gründen. KI, die manipulative Techniken einsetzt oder Alter, Behinderung oder eine schwierige soziale oder wirtschaftliche Situation ausnutzt, um erheblichen Schaden anzurichten. Ein Sprachassistent, der darauf ausgelegt ist, ältere Anrufer zum Kauf zu drängen, wäre ein eindeutiges Risiko.
Die Unterscheidung zwischen Anrufern und Mitarbeitern ist wichtig. Die Analyse der Emotionen eines Kunden während eines Gesprächs ist zwar nicht verboten, gilt jedoch ab Dezember 2027 als risikoreich und muss bereits jetzt offengelegt werden. Wenn dasselbe Tool auch die Emotionen Ihrer Mitarbeiter bewertet, ist dieser Teil verboten. Die Sentiment-Bewertung eines schriftlichen Transkripts, wie beispielsweise der Ausgabe von Transkription von Anrufen mittels KI, fällt im Allgemeinen nicht unter die Definition der Emotionserkennung, da dabei keine biometrischen Daten verwendet werden. Die Analyse des Tonfalls hingegen fällt darunter.

Was steckt hinter den KI-Sprachassistenten in geschäftlichen Telefonanlagen?

Ein KI-Sprachassistent besteht in der Regel aus drei Ebenen. Die Spracherkennung wandelt die Worte des Anrufers in Text um. Ein großes Sprachmodell entscheidet, was gesagt werden soll. Eine synthetische Stimme spricht die Antwort. Neuere „Speech-to-Speech“-Modelle erledigen alle drei Schritte in einem einzigen Vorgang, wodurch Verzögerungen vermieden werden. Die meisten Anbieter von Cloud-PBX- und UCaaS-Lösungen entwickeln nicht jede Ebene selbst, sondern lizenzieren sie.
UCaaS (Unified Communications as a Service): Eine Cloud-Plattform, die Telefonie, Messaging und Besprechungen in einem Abonnement vereint.
Ebene
Gängige Anbieter
Standort
Sprachmodell
OpenAI, Google Gemini, Anthropic, xAI; Mistral AI
USA; Frankreich
Spracherkennung
Deepgram, AssemblyAI, Microsoft Azure, Google; Speechmatics; Gladia
USA; Großbritannien; Frankreich
Synthetische Stimme
ElevenLabs, Cartesia, Microsoft Azure, Google; Mistral AI
USA und Großbritannien; USA; Frankreich
Plattform für Sprachassistenten
Vapi, Retell AI; Parloa, Synthflow, Cognigy (Teil von NiCE); PolyAI
USA; Deutschland; Großbritannien
Die öffentlichen Aussagen der Anbieter variieren stark. Stand September 2026 gibt RingCentral an, dass sein „AI Receptionist“ OpenAI-Modelle verwendet. 3CX ermöglicht es Administratoren, ihr eigenes OpenAI- oder xAI-Konto zu verknüpfen. Ringover hat seinen „AIRO Voice“-Agenten auf der ElevenLabs-Agentenplattform aufgebaut. Dialpad nutzt ein eigenes, intern entwickeltes Modell. Zoom kombiniert seine eigenen Modelle mit Modellen von Drittanbietern, darunter Anthropic und OpenAI. Telavox nennt in seiner Datenschutzerklärung zur KI Google Gemini und Sana AI. Viele europäische Cloud-PBX-Anbieter nennen ihre Anbieter überhaupt nicht.
Auf jeder Ebene gibt es europäische Alternativen. Mistral AI in Frankreich bietet sowohl Sprach- als auch Sprachausgabemodelle an. Kyutai, ein Pariser Forschungslabor, veröffentlicht offene Sprachmodelle. Gladia in Paris ist auf Spracherkennung spezialisiert. Parloa und Synthflow in Berlin entwickeln Plattformen für Sprachassistenten, wobei beide jedoch auch US-amerikanische Modelle nutzen.
🌍 Führt ein US-Modell dazu, dass der Sprachassistent nicht konform ist?
Nein. Das KI-Gesetz gilt für jedes KI-System, das in der EU in Verkehr gebracht wird, unabhängig davon, wo der Anbieter ansässig ist. Anbieter von Allzweck-KI-Modellen unterliegen seit dem 2. August 2025 eigenen Pflichten. Für die DSGVO spielt die Herkunft des Modells eine größere Rolle: Einige US-amerikanische Dienste speichern Daten in der EU, garantieren jedoch keine Verarbeitung in der EU bei Echtzeit-Sprachdaten. Fragen Sie nach, wo die Audiodaten verarbeitet werden, und nicht nur, wo sie gespeichert werden.

Wer ist verantwortlich: Sie oder Ihr Anbieter für Telefonanlagen?

Beides, allerdings aus unterschiedlichen Gründen. Der Anbieter muss als Hersteller die entsprechenden Angaben in das Produkt integrieren und synthetische Audioinhalte kennzeichnen. Wenn das Produkt für risikoreiche Anwendungen vorgesehen ist, muss er zudem ein Risikomanagement durchführen, technische Unterlagen erstellen, eine Konformitätsbewertung bestehen, die CE-Kennzeichnung anbringen und das System vor dem Verkauf registrieren.
Ihr Unternehmen muss als Betreiber dafür sorgen, dass die Offenlegung funktioniert und die Pflichten gemäß Artikel 50 Absätze 3 und 4 erfüllt werden. Bei einer risikoreichen Nutzung muss der Betreiber zudem die Gebrauchsanweisung befolgen, geschultes Personal mit der menschlichen Überwachung beauftragen, die Protokolle mindestens sechs Monate lang aufbewahren, die Arbeitnehmer vor dem Einsatz am Arbeitsplatz informieren und die Betroffenen darüber in Kenntnis setzen, wenn ein risikoreiches System bei Entscheidungen über sie mitwirkt. Öffentliche Stellen, Kreditgeber sowie Lebens- und Krankenversicherer müssen zudem eine Folgenabschätzung hinsichtlich der Grundrechte durchführen.
Menschliche Aufsicht: Eine namentlich benannte, geschulte Person, die die Ergebnisse des KI-Systems verstehen, hinterfragen und das System stoppen oder dessen Entscheidungen außer Kraft setzen kann.
Artikel 25 birgt eine Falle. Ein Unternehmen wird zum Anbieter mit allen damit verbundenen Pflichten, wenn es einen risikoreichen Dienst unter seinem eigenen Namen anbietet, diesen wesentlich verändert oder einen allgemeinen Sprachassistenten in ein risikoreiches Tool umwandelt. Ein typisches Beispiel hierfür ist die Entwicklung eines eigenen Prozesses zur Bewerberauswahl auf einer offenen Sprachassistent-Plattform.
🏷️ White-Label und Weiterverkauf: Wer ist der Anbieter?
Viele Cloud-PBX-Dienste werden unter der Marke eines Partners weiterverkauft. Für einen Sprachdienstleister mit begrenztem Risiko stellt sich in der Praxis die Frage, wer die Offenlegungshinweise gestaltet und wer sie konfiguriert. Bei einer Nutzung mit hohem Risiko gilt das Unternehmen, dessen Name auf dem Produkt steht, als Anbieter. Wiederverkäufer und Integratoren sollten dies vor der Markteinführung vertraglich regeln und nicht erst nach einer Beschwerde.

Was Sie über Ihren eigenen KI-Sprachassistenten wissen sollten

Bevor Sie Ihren Anbieter um Rat fragen, sollten Sie zunächst Ihren eigenen Bedarf ermitteln. Diese acht Punkte reichen für die meisten kleinen und mittleren Unternehmen aus.
  1. Zweck: Was der Akteur tut, in welcher Hinsicht und was er niemals tun darf.
  2. Risikostufe: Gibt es Aufgaben, die einem in Anhang III genannten Zweck entsprechen – entweder derzeit oder im Rahmen künftiger Pläne?
  3. Offenlegung: Der genaue erste Satz in jeder Sprache, die Sie anbieten.
  4. Menschlicher Weg: Wie ein Anrufer einen Ansprechpartner erreicht und wie schnell.
  5. Emotions- und Stimmmerkmale: Wird der Tonfall, die Emotion oder die Stimmenidentität analysiert – sei es bei Anrufern oder bei Mitarbeitern?
  6. Daten: Wo werden Aufzeichnungen und Transkripte gespeichert, wie lange werden sie aufbewahrt und wer hat Zugriff darauf?
  7. Ausgehende Anrufe: Ob der Mitarbeiter jemals Anrufe tätigt und aus welchem Grund.
  8. Personen: Wer in Ihrem Team konfiguriert und überwacht den Agenten, und ob diese Personen verstehen, wie er funktioniert.
Der letzte Punkt knüpft an Artikel 4 zur KI-Kompetenz an, der seit Februar 2025 in Kraft ist. Im Omnibus-Gesetz wurde dieser Artikel zu einer Verpflichtung zur Förderung der KI-Kompetenz abgeschwächt, doch Mitarbeiter, die einen Sprachassistenten einrichten, sollten dessen Grenzen weiterhin kennen.

Fragen, die Sie Ihrem Cloud-PBX- oder UCaaS-Anbieter stellen sollten

Diese zwölf Fragen unterscheiden einen Anbieter, der seine Hausaufgaben gemacht hat, von einem, der dies nicht getan hat. Ein guter Anbieter beantwortet sie schriftlich. Fügen Sie sie Ihrer Checkliste für den Kauf einer Cloud-PBX wenn Sie Anbieter bewerten.
  1. Welchen Verwendungszweck geben Sie für den Sprachassistenten an, und welche Verwendungszwecke schließen Sie aus?
  2. Haben Sie geprüft, ob eine Funktion gemäß Anhang III als risikoreich eingestuft wird? Können wir das Ergebnis einsehen?
  3. Wie macht der Agent deutlich, dass es sich um eine KI handelt und in wessen Auftrag er handelt? Können wir den Wortlaut ändern, und lässt sich diese Funktion deaktivieren?
  4. Wie gehen Sie mit der maschinenlesbaren Kennzeichnung der synthetischen Stimme gemäß Artikel 50 Absatz 2 um?
  5. Gibt es eine Funktion, die Emotionen, den Tonfall oder die Stimmidentität von Anrufern oder unseren Mitarbeitern analysiert? Bieten Sie geklonte Stimmen an?
  6. Welche Unternehmen bieten das Sprachmodell, die Spracherkennung und die Sprachausgabe an?
  7. Wo werden die Anrufaufzeichnungen verarbeitet, und wo werden die Aufzeichnungen und Transkripte gespeichert?
  8. Werden unsere Anrufe oder Gesprächsprotokolle zum Trainieren von Modellen verwendet? Können wir dem widersprechen?
  9. Sind alle KI-Unterauftragsverarbeiter in der Datenverarbeitungsvereinbarung aufgeführt?
  10. Welche Protokolle erhalten wir, wie lange werden sie aufbewahrt und können wir sie exportieren?
  11. Können wir den Agenten testen, seine Themen einschränken und Versprechen blockieren, die er niemals machen darf?
  12. Wie werden Sie uns informieren, wenn Sie das Modell, den Anbieter oder die Funktionen ändern?

Weitere Vorschriften, die neben dem KI-Gesetz gelten

Das KI-Gesetz ist nicht die einzige Regelung, um die es hier geht. Die DSGVO regelt weiterhin Aufzeichnungen und Transkripte, und Artikel 22 der DSGVO schränkt Entscheidungen ein, die ausschließlich automatisiert getroffen werden und eine Person erheblich beeinträchtigen. Eine schriftliche Richtlinie zur Aufzeichnung von Telefongesprächen und eine unterzeichnete Datenverarbeitungsvereinbarung bilden nach wie vor die Grundlage.
Ausgehende KI-Anrufe erfordern besondere Sorgfalt. Die EU-E-Privacy-Vorschriften verlangen eine vorherige Einwilligung für Marketinganrufe, die von automatisierten Anrufsystemen ohne menschliches Eingreifen getätigt werden. Ein KI-Agent, der eigenständig Marketinganrufe durchführt, wird wahrscheinlich entsprechend behandelt. In Frankreich bedarf seit dem 11. August 2026 jedes Telefonmarketing gegenüber Verbrauchern einer vorherigen Einwilligung. In Deutschland war bereits zuvor eine vorherige ausdrückliche Einwilligung für Marketinganrufe an Verbraucher erforderlich.
Die Bußgelder nach dem KI-Gesetz betragen bei Verstößen gegen die Transparenzvorschriften bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes und bei verbotenen Praktiken bis zu 35 Millionen Euro oder 7 %. Für kleine und mittlere Unternehmen gilt der niedrigere der beiden Beträge. In Luxemburg sieht der Gesetzentwurf 8476 die CNPD als Hauptaufsichtsbehörde vor, während für den Finanzsektor die CSSF zuständig ist.

Wichtige Termine für KI-Sprachassistenten

📅 Wo wir derzeit stehen (September 2026). 2. Februar 2025: Verbote und Anforderungen an die KI-Kompetenz treten in Kraft. 2. August 2025: Pflichten für Anbieter von Allzweck-KI-Modellen. 2. August 2026: Transparenzvorschriften und Bußgelder treten in Kraft. 2. Dezember 2026: Kennzeichnung synthetischer Audioinhalte für bereits auf dem Markt befindliche Systeme. 2. Dezember 2027: Die Vorschriften für Systeme mit hohem Risiko gemäß Anhang III treten in Kraft. 2. August 2028: Vorschriften für KI mit hohem Risiko, die in regulierte Produkte integriert ist.

Häufig gestellte Fragen

Stellt eine KI-Rezeptionistin gemäß dem EU-KI-Gesetz ein hohes Risiko dar?

Nicht standardmäßig. Eine KI-Rezeption, die Anrufe entgegennimmt, Auskunft erteilt, Termine vereinbart und Anrufe weiterleitet, gilt als Fall der Transparenz gemäß Artikel 50. Sie wird erst dann als risikoreich eingestuft, wenn sie für einen in Anhang III genannten Zweck eingesetzt wird, wie beispielsweise Personalbeschaffung, Bonitätsprüfungen oder Notfall-Triage.

Muss ich Anrufern mitteilen, dass sie mit einer KI sprechen?

Ja. Seit dem 2. August 2026 müssen Anrufer zu Beginn des ersten Gesprächs darüber informiert werden, sofern dies nicht offensichtlich ist. Bei einem Telefonat ist dies selten der Fall, planen Sie daher einen klaren Eröffnungssatz ein.

Fällt ein klassisches IVR-Menü unter den AI Act?

Ein Menü mit der Aufforderung „Drücken Sie die 1 für den Vertrieb“ und aufgezeichneten Ansagen ist kein KI-System. Ein sprachbasiertes IVR-System, das natürliche Sprache versteht und mit eigenen Worten antwortet, ist ein KI-System, das direkt mit den Anrufern kommuniziert, sodass die Offenlegungspflicht wahrscheinlich gilt.

Ab wann gelten die Vorschriften für Risikogruppen?

Am 2. Dezember 2027 für die in Anhang III genannten Verwendungszwecke, nachdem das „Digital Omnibus“-Gesetz zur KI den Termin verschoben hatte. Die Verbote gelten seit Februar 2025 und die Transparenzvorschriften seit August 2026.
📚 Möchten Sie einen umfassenderen Überblick über KI in Ihrer Telefonanlage erhalten? Schlagen Sie Schlüsselbegriffe im Glossar zu Regulierungs- und Compliance-Themen, schau mal, wie Anrufaufzeichnung So funktioniert eine Cloud-PBX – entdecken Sie die Funktionsübersicht oder Anbieter vergleichen in Luxemburg und der Großregion tätig.

TLDR: Begrenztes Risiko oder hohes Risiko? Wo Ihr KI-Sprachassistent im Rahmen des EU-KI-Gesetzes einzuordnen ist

  • Die meisten KI-Sprachassistenten (Rezeptionisten, Buchungsagenten, Anrufweiterleiter) sind Fälle von Transparenz: Die Anrufer müssen darüber informiert werden, dass sie mit einer KI sprechen.
  • Ein Sprachagent gilt nur dann als risikoreich, wenn er gemäß Anhang III für die Personalbeschaffung, Bonitätsprüfungen oder die Notfall-Triage eingesetzt wird.
  • Die Vorschriften für Hochrisikofälle gelten ab dem 2. Dezember 2027; die Vorschriften zur Transparenz und Offenlegung gelten bereits seit dem 2. August 2026.
Aktualisiert am 28.09.2026