KI-Verordnung Sprachagenten: Transparenzpflichten 2026

Gilt für KI-Telefonassistenten eine Kennzeichnungspflicht? Was Artikel 50 der KI-Verordnung seit August 2026 verlangt und wie Unternehmen Anrufe rechtssicher gestalten.

## Was verlangt die KI-Verordnung von Sprachagenten am Telefon? Seit dem 2. August 2026 verpflichtet die Verordnung (EU) 2024/1689 Unternehmen zur Transparenz bei Telefonaten. Wenn Sie für Inbound- oder Outbound-Anrufe auf KI-Sprachagenten setzen, teilen Sie Anrufern zu Beginn mit, dass sie mit einer künstlichen Intelligenz sprechen. Die Kennzeichnungspflicht KI greift unmittelbar beim ersten Austausch. Folgende Punkte müssen Betreiber eines Telefonassistenten prüfen: * Transparenzhinweis beim ersten Kontakt: Artikel 50 Absatz 1 und Absatz 5 verlangen die klare Information bei Beginn des Gesprächs. * Stimmklonierung und Deep Fakes: Täuschend echte Nachbildungen realer Personen müssen offengelegt werden (Artikel 50 Absatz 4). * Emotionserkennung: Die Analyse von Emotionen ist im Bildungs- und Arbeitsumfeld verboten (Artikel 5 Absatz 1 Buchstabe f), für externe Anrufer besteht eine Informationspflicht (Artikel 50 Absatz 3). * Abgrenzung zu Hochrisiko-Fällen: Anwendungsbereiche wie Bonitätsprüfung oder Personalauswahl unterliegen Sonderregeln nach Anhang III. * Gleichzeitige Pflichten: Die KI-Verordnung gilt neben der DSGVO und nationalen Vorgaben für Telefonmarketing. Dies sind praktische Hinweise und keine Rechtsberatung; die Einstufung eines konkreten Anwendungsfalls ist mit einem Anwalt oder Datenschutzbeauftragten zu prüfen. ## Zeitplan der KI-Verordnung für Sprachagenten Die europäischen Vorgaben greifen in mehreren Etappen. Der Digital Omnibus (Verordnung (EU) 2026/1744) hat die Transparenzvorgaben für Sprachassistenten nicht aufgeschoben. | Datum | Gesetzliche Regelung | Bedeutung für den Telefonassistenten | | :--- | :--- | :--- | | 1. August 2024 | Inkrafttreten der Verordnung (EU) 2024/1689 | Beginn der Übergangsfristen für alle Marktakteure. | | 2. Februar 2025 | Verbotene Praktiken nach Artikel 5 | Verbot von Systemen zur Emotionserkennung am Arbeitsplatz und in Schulen. | | 2. August 2026 | Artikel 50 Transparenzpflichten | Anrufer müssen sofort erfahren, dass sie mit einer KI sprechen. | | 2. Dezember 2026 | Stichtag nach Verordnung (EU) 2026/1744 | Frist für maschinenlesbare Kennzeichnung generativer Alt-Systeme (Art. 50 Abs. 2). | | 2. Dezember 2027 | Hochrisiko-Systeme nach Anhang III | Vorschriften für Stand-alone-Systeme wie Kredit-Scoring oder Bewerberauswahl. | | 2. August 2028 | Hochrisiko-Systeme nach Anhang I | Vorschriften für regulierte Produktbereiche. | Die Verordnung (EU) 2026/1744 (Digital Omnibus, in Kraft seit dem 27. Juli 2026) hat bestimmte Hochrisiko-Regeln vertagt. Die allgemeinen Transparenzpflichten nach Artikel 50 der KI-Verordnung gelten planmäßig seit dem 2. August 2026. ## Anbieter und Betreiber: wer welche Pflichten trägt Die Verordnung unterscheidet zwischen Provider (Anbieter) und Deployer (Betreiber). Ein Anbieter entwickelt ein System oder lässt es entwickeln und bringt es auf den Markt. Die Plattform DeepAgent stellt als technischer Bereitsteller die Software zur Verfügung. Als Betreiber konfigurieren Sie die Begrüßung, wählen die Stimme aus und bestimmen den Einsatzzweck. Sie tragen die Verantwortung dafür, dass die Begrüßungsnachricht abgespielt wird und der Anrufer den Hinweis erhält. Wie die technische Steuerung abläuft, erläutert die Übersicht, wie ein KI-Telefonassistent Anrufe automatisiert. ## Klare Ansage in den ersten Sekunden des Telefonats Artikel 50 Absatz 5 schreibt vor, dass die Information klar, verständlich und spätestens bei der ersten Interaktion erfolgen muss. Die Begrüßung am Telefon vermittelt dem Anrufer vier Details: wer anruft oder abhebt, dass es sich um einen KI-Assistenten handelt, welches Anliegen geklärt wird und wie man eine menschliche Fachkraft erreicht. Ein Muster für ein fiktives Unternehmen: > „Guten Tag bei der Nordstern Logistik. Ich bin ein KI-Assistent. Ich nehme Ihre Sendungsdaten auf oder verbinde Sie direkt mit einer Mitarbeiterin oder einem Mitarbeiter. Worum geht es bei Ihnen?“ Als Beispiel für die Nachvollziehbarkeit bearbeitete die Agentur Unipol Cerignola 725 eingehende Anrufe in zwei Monaten und wickelte dabei 200 Weiterleitungen an das Büroteam erfolgreich ab (96,6 % von 207 Versuchen). Technische Details dazu finden Sie im Leitfaden zur KI-Agent Anrufweitergabe mit Kontext und in der Fallstudie Unipol Cerignola. ## Synthetische Stimmen, Klonierung und Deep Fakes Ein KI-Voicebot nutzt computergenerierte Sprache. Gemäß Artikel 50 Absatz 4 müssen Betreiber offenlegen, wenn Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert wurden, die realen Personen ähneln und als echt wahrgenommen werden könnten. Dies betrifft Deep Fakes. Für den Alltag empfiehlt sich eine synthetische Systemstimme aus dem Standardkatalog. Verwenden Sie Stimmen realer Personen nur nach deren ausdrücklicher Zustimmung und mit deutlichem Hinweis für den Anrufer. Die maschinenlesbare Kennzeichnung von synthetischem Audio nach Artikel 50 Absatz 2 ist eine Aufgabe der Modellanbieter, für die der Digital Omnibus Systemen vor August 2026 Zeit bis zum 2. Dezember 2026 einräumt. ## Emotionserkennung und Tonfallanalyse am Telefon Manche Contact-Center-Lösungen bieten Analysen an, um Wut oder Frustration im Tonfall des Anrufers zu messen. Die KI-Verordnung setzt hier Grenzen. Gemäß Artikel 5 Absatz 1 Buchstabe f sind Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen seit dem 2. Februar 2025 verboten, sofern keine medizinischen oder sicherheitsrelevanten Gründe vorliegen. Setzen Sie Sprachtools nicht ein, um die Stimmung Ihrer Mitarbeiter zu erfassen. Wenn solche Funktionen bei externen Anrufern genutzt werden, greift Artikel 50 Absatz 3: Die betroffenen Personen müssen vorab über den Einsatz des Systems informiert werden. Klären Sie diesen Punkt mit Ihrem Datenschutzbeauftragten. ## Wann Sprachagenten als Hochrisiko-KI-Systeme gelten Ein Sprachagent, der Nachrichten aufnimmt, Anfragen qualifiziert und Termine bucht, fällt im Allgemeinen nicht in die Hochrisiko-Liste; die Einstufung eines konkreten Anwendungsfalls ist mit einem Anwalt oder Datenschutzbeauftragten zu prüfen. Hochrisiko-KI-Systeme werden in Anhang III definiert. Dazu gehören Systeme, die zur Bewertung der Kreditwürdigkeit natürlicher Personen (Kredit-Scoring) eingesetzt werden oder die über Einstellungen im Personalbereich entscheiden. Für diese Systeme gelten die Auflagen ab dem 2. Dezember 2027. Maßgeblich ist der konkrete Geschäftszweck: * **Kreditsektor**: Ein Konsumentenkredit-Unternehmen setzt den Sprachagenten Klio ein. Klio klärt das Interesse ohne wirtschaftliche Schätzungen und bucht Termine mit den Beratern. Das ist ein anderer Anwendungsfall als die Bewertung der Kreditwürdigkeit; die rechtliche Einordnung klären Sie mit einem Anwalt. Mehr dazu in der Fallstudie Klio Kreditwesen. * B2B-Partnerakquise: Eine Versicherungsgesellschaft führte 685 Anrufversuche durch und qualifizierte 36 Agenturen für ihr Partnernetzwerk im Rahmen von B2B-Anrufen an Agenturen, nicht zur Einstellung von Mitarbeitern. * Gesundheitswesen: Der Assistent eines medizinischen Versorgungszentrums erfragt das Anliegen ohne Diagnose und liest zur Bestätigung des Termins eine Zusammenfassung vor. Details dazu stehen in der Fallstudie Arztpraxen Sprachassistent. Fehleinschätzungen und unzulässige Aussagen lassen sich durch Vorgaben im Systemprompt begrenzen. Die Umsetzung beschreibt der Beitrag über Halluzinationen beim Telefonassistenten verhindern. ## Bußgelder bei Verstößen gegen Artikel 50 Wer die Kennzeichnungspflicht KI am Telefon ignoriert, riskiert Strafen nach Artikel 99. Bei Missachtung der Transparenzpflichten nach Artikel 50 drohen Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen (KMU) sowie Start-ups bildet der jeweils niedrigere dieser beiden Beträge die Obergrenze. ## Checkliste: 9 Schritte für Sprach-KI nach der KI-Verordnung So richten Sie den Telefonbetrieb ein: 1. Inventar anlegen: Erfassen Sie alle internen und externen Telefonassistenten mit ihrem genauen Einsatzzweck. 2. Transparenzhinweis texten: Formulieren Sie für jedes Anrufszenario eine Begrüßung, die den KI-Einsatz sofort nennt. 3. Testanrufe durchführen: Prüfen Sie über VoIP oder Testnummern, ob der Hinweis in den ersten Sekunden fehlerfrei zu hören ist. 4. Stimmen prüfen: Wählen Sie Standardstimmen und verzichten Sie auf das Klonen realer Personen. 5. Keine Emotionsanalyse bei Mitarbeitern: Schalten Sie Stimmungs- oder Tonfallanalysen im internen Arbeitskontext ab. 6. Transkripte sichern: Nutzen Sie Dashboards zur Kontrolle der Gesprächsverläufe. Als Beispiel für die Nachvollziehbarkeit erreichte die Agentur Unipol Cerignola eine Transkriptabdeckung von 99,6 %. 7. Datenschutzbeauftragten einbinden: Stimmen Sie die Einstufung und die Datenspeicherung mit dem Datenschutzbeauftragten ab. Beachten Sie dazu den Leitfaden über DSGVO und KI-Sprachagenten. 8. Einwilligungen bei Outbound-Telefonaten: Bei Werbeanrufen gelten Werbeeinwilligungen und Schutzregister, wie im Artikel zu KI-Anrufen und UWG-Vorgaben dargestellt. 9. Technikpartner evaluieren: Wählen Sie den Dienstleister nach Kontrollmöglichkeiten und Zuverlässigkeit aus. Hilfestellung gibt der Text Voicebot-Anbieter auswählen. ## Tarife bei DeepAgent DeepAgent stellt die technische Plattform für Telefonassistenten bereit. Die monatlichen Kosten richten sich nach dem gewählten Paket: * Starter: 99 € pro Monat * Pro: 299 € pro Monat * Growth: 500 € pro Monat * Scale: 799 € pro Monat * Enterprise: Individuelles Angebot auf Anfrage Alle Preise verstehen sich zuzüglich Mehrwertsteuer. Bei jährlicher Abrechnung sparen Unternehmen 17 %. Zum Ausprobieren erstellen Sie einen Agenten über die Registrierung: 30 Minuten kostenlos, ohne Karte. Eine vollständige Übersicht finden Sie auf der Seite DeepAgent Preise. ## Häufig gestellte Fragen zur KI-Verordnung bei Sprachagenten ### Muss ein KI-Sprachagent am Telefon sagen, dass er eine KI ist? Ja. Gemäß Artikel 50 Absatz 1 der Verordnung (EU) 2024/1689 müssen KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sein, dass die Person darüber informiert wird, dass sie mit einer KI spricht. Gemäß Artikel 50 Absatz 5 muss diese Information klar und spätestens beim ersten Kontakt erfolgen, es sei denn, dies ist nach den Umständen für eine vernünftige Person offensichtlich. ### Wann gilt die KI-Verordnung für Chatbots und Voicebots? Die Verordnung (EU) 2024/1689 trat am 1. August 2024 in Kraft. Die Transparenzpflichten nach Artikel 50 gelten seit dem 2. August 2026 für Anbieter und Betreiber von Systemen mit direkter menschlicher Interaktion. Verbotene Praktiken nach Artikel 5 gelten bereits seit dem 2. Februar 2025. ### Wurde Artikel 50 durch den Digital Omnibus verschoben? Nein. Die Verordnung (EU) 2026/1744 (Digital Omnibus) hat das Datum des Artikels 50 nicht verschoben. Sie gewährt lediglich Anbietern von generativen Systemen, die vor dem 2. August 2026 auf dem Markt waren, eine Frist bis zum 2. Dezember 2026 für die maschinenlesbare Kennzeichnung von Inhalten nach Artikel 50 Absatz 2. ### Sind KI-Telefonassistenten automatisch Hochrisiko-KI-Systeme? Nein. Ein Sprachagent, der Nachrichten aufnimmt, Anfragen qualifiziert und Termine bucht, fällt im Allgemeinen nicht unter Anhang III; die Einstufung eines konkreten Anwendungsfalls ist mit einem Anwalt oder Datenschutzbeauftragten zu prüfen. Hochrisiko-KI-Systeme umfassen beispielsweise die Bewertung der Kreditwürdigkeit (Kredit-Scoring) oder Systeme zur Auswahl und Rekrutierung von Bewerbern. Für diese gelten die Pflichten ab dem 2. Dezember 2027. ### Welche Bußgelder drohen bei Verstößen gegen die Kennzeichnungspflicht? Verstöße gegen die Transparenzpflichten nach Artikel 50 der Verordnung (EU) 2024/1689 können nach Artikel 99 mit Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups bildet der jeweils niedrigere Betrag die Obergrenze. ## Den Telefonassistenten nach den EU-Regeln einrichten Mit einer klaren Begrüßungsansage und dokumentierten Systemabläufen decken Sie die Transparenzpflicht nach Artikel 50 direkt im ersten Telefonat ab. Mit dem Vertrieb sprechen → · Eigenen Agenten erstellen →