Ratgeber

KI-Telefonassistent und EU AI Act: Was seit dem 2. August 2026 gilt

Veröffentlicht: · Zuletzt aktualisiert:

Kurz erklärt

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Art. 50 der EU-KI-Verordnung (AI Act). Für KI-Telefonassistenten heißt das: Anrufer müssen spätestens zu Beginn des Gesprächs klar und eindeutig erfahren, dass sie mit einem KI-System sprechen – es sei denn, das ist für eine durchschnittlich informierte Person ohnehin offensichtlich.

Was regelt Art. 50 der KI-Verordnung?

Die KI-Verordnung der EU (Verordnung (EU) 2024/1689) enthält in Art. 50 Transparenzpflichten für bestimmte KI-Systeme. Für Systeme, die direkt mit Menschen interagieren – also auch Chatbots, Sprachassistenten und KI-Telefonassistenten – gilt:

  • Information: Die Person muss darüber informiert werden, dass sie mit einem KI-System interagiert (Art. 50 Abs. 1).
  • Ausnahme: Die Information entfällt nur, wenn der KI-Charakter für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände offensichtlich ist.
  • Zeitpunkt und Form: Die Information muss spätestens bei der ersten Interaktion erfolgen, klar und eindeutig sein und Anforderungen an die Barrierefreiheit erfüllen (Art. 50 Abs. 5).

Am Telefon ist der KI-Charakter einer natürlich klingenden Stimme in der Regel nicht offensichtlich. Eine kurze Ansage zu Beginn des Gesprächs ist deshalb der sichere Weg.

Seit wann gilt die Pflicht?

Die Transparenzpflichten nach Art. 50 gelten seit dem 2. August 2026. Einen pauschalen Bestandsschutz für Systeme, die schon vorher im Einsatz waren, gibt es für die Ansagepflicht nicht. Für die technische Kennzeichnung KI-erzeugter Inhalte (Art. 50 Abs. 2) gelten teilweise abweichende Übergangsfristen – das betrifft aber nicht die Information am Telefon.

Wer ist verantwortlich: Anbieter oder Betrieb?

Art. 50 Abs. 1 richtet sich an die Anbieter von KI-Systemen: Sie müssen ihre Systeme so gestalten, dass die Information erfolgt. Wer einen KI-Telefonassistenten im eigenen Betrieb einsetzt, sollte trotzdem selbst darauf achten, dass die Ansage aktiv ist und verständlich formuliert wurde – denn die Anrufer sind Ihre Kunden.

Bei Procom AI ist die Ansage, dass ein KI-System spricht, technisch voreingestellt. Ihre Anrufer werden zu Beginn jedes Gesprächs darauf hingewiesen.

Wie kann eine Ansage aussehen?

„Guten Tag, Sie sprechen mit dem digitalen KI-Assistenten der Malerei Beispiel. Ich kann Ihre Fragen beantworten und Termine vereinbaren. Wie kann ich Ihnen helfen?“

Wichtig sind drei Dinge: Der Hinweis auf die KI kommt gleich am Anfang, er ist verständlich formuliert, und der Name Ihres Betriebs macht klar, in wessen Auftrag der Assistent spricht. Werden Gespräche transkribiert oder gespeichert, gehört auch ein Datenschutzhinweis dazu – stimmen Sie die Formulierung mit Ihrer Datenschutzberatung ab.

Checkliste für Betriebe

  • Die Ansage „Sie sprechen mit einem KI-Assistenten“ ist zu Beginn jedes Gesprächs aktiv.
  • Die Formulierung ist kurz, verständlich und nennt Ihren Betrieb.
  • Es gibt einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO mit dem Anbieter.
  • Sie wissen, ob und wie lange Gespräche transkribiert oder gespeichert werden.
  • Ihre Datenschutzerklärung beschreibt den Einsatz des KI-Telefonassistenten.
  • Ihr Team weiß, wie Rückrufwünsche aus dem System bearbeitet werden.

Was droht bei Verstößen?

Die KI-Verordnung sieht in Art. 99 Bußgelder für Verstöße gegen ihre Pflichten vor, auch gegen die Transparenzpflichten. Wie Verstöße in Deutschland verfolgt werden, regelt das nationale Durchführungsgesetz. Unabhängig davon gilt: Anrufer, die sich getäuscht fühlen, verlieren Vertrauen – eine offene Ansage ist auch aus Kundensicht die bessere Lösung.

Häufige Fragen

Muss sich ein KI-Telefonassistent als KI zu erkennen geben?

Ja. Seit dem 2. August 2026 verlangt Art. 50 der EU-KI-Verordnung, dass Menschen informiert werden, wenn sie mit einem KI-System interagieren – außer, das ist ohnehin offensichtlich. Am Telefon geschieht das am besten mit einer kurzen Ansage zu Beginn des Gesprächs.

Reicht ein Hinweis auf der Website?

Nach Art. 50 Abs. 5 muss die Information spätestens bei der ersten Interaktion erfolgen – bei einem Anruf also im Gespräch selbst. Ein Hinweis nur auf der Website dürfte dafür nicht ausreichen.

Wie setzt Procom AI die Transparenzpflicht um?

Bei Procom AI ist die Ansage, dass ein KI-System spricht, technisch voreingestellt. Ihre Anrufer werden zu Beginn jedes Gesprächs darauf hingewiesen. Zusätzlich schließen wir einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO.

Quellen

Dieser Ratgeber gibt einen allgemeinen Überblick und ist keine Rechtsberatung. Für Ihre konkrete Situation wenden Sie sich bitte an eine Rechtsanwältin, einen Rechtsanwalt oder Ihre Datenschutzberatung.

Finden Sie heraus, wo KI Ihrem Betrieb Zeit spart

In 30 Minuten zeigen wir Ihnen Procom AI in einer Live-Demo und schauen uns gemeinsam Ihre Abläufe an. Kostenlos und unverbindlich – Sie müssen nichts vorbereiten.

Lieber erst ein kurzer Rückruf? Formular in einer Minute ausfüllen