Halluzinationen bei KI-Telefonassistenten verhindern
Wie Sie verhindern, dass Ihr KI-Telefonassistent Preise oder Termine erfindet. Leitfaden zu Leitplanken, Fallbacks und Transkriptprüfungen.
## Wie Sie Halluzinationen bei einer KI am Telefon verhindern Um **Halluzinationen bei einer KI zu verhindern**, beschränken Sie den Handlungsspielraum des Telefonassistenten exakt auf freigegebene Unternehmensdaten. Bei fehlenden Informationen benennt das System Lücken direkt. Feste Leitplanken steuern das Verhalten: * **Freigegebenes Wissen festlegen:** Der Agent nutzt ausschließlich hinterlegte Wissensdaten, FAQs und dokumentierte Tarife. * **Verbotene Themen definieren:** Medizinische Diagnosen, finanzielle Zusagen oder Sonderkonditionen werden kategorisch gesperrt. * **Strenger Fallback:** Fehlen Informationen im System, räumt der Bot die Wissenslücke ein und leitet weiter. * **Weiterleitung und Rückruf:** Komplexe Anliegen gehen an Mitarbeiter oder werden als Rückrufnotiz im CRM erfasst. * **Regelmäßige Audits:** Transkripte werden stichprobenartig geprüft, um Wissenslücken im System nachzupflegen. Auf der Hauptseite für KI-Telefonie sehen Sie, wie diese Mechanismen in der Praxis zusammenwirken. ## Was eine Halluzination im Telefonat bedeutet Wenn eine **KI Antworten erfindet**, klingt die Aussage am Telefon meist plausibel. Das Modell wählt Formulierungen, die statistisch zur Kundenfrage passen, ignoriert dabei aber reale Geschäftsdaten. Im Kundenservice treten Halluzinationen in typischen Mustern auf: * **Erfundene Preise:** Ein Anrufer fragt nach Rabatten. Der Agent bestätigt einen Nachlass von 20 %, obwohl das Unternehmen Festpreise führt. * **Falsche Verfügbarkeiten:** Die KI sagt eine Lieferung bis morgen früh zu, obwohl der Artikel vier Wochen Lieferzeit hat. * **Ausgedachte Richtlinien:** Der Assistent verspricht eine kostenlose Rücknahme nach sechs Monaten entgegen der geltenden AGB. * **Medizinischer oder finanzieller Rat:** Ein Anrufer schildert Symptome oder fragt nach Renditen, woraufhin der Bot ungeprüfte Empfehlungen ausspricht. * **Falsche Zusagen zur Rückrufzeit:** Die KI verspricht einen Rückruf innerhalb von zehn Minuten, ohne Dienstpläne des Teams zu kennen. Diese Fehler entstehen durch fehlende Begrenzungen. Sprachmodelle versuchen jede Anfrage grammatikalisch stimmig abzuschließen. Ohne klare Schranken füllt die KI das Informationsvakuum mit Annahmen. ## Einsatzbereich und Grenzen festlegen Eine wirksame **Antwortkontrolle der KI** beginnt mit der Zuweisung klarer Zuständigkeiten. Definieren Sie für jedes Kundenanliegen, ob der Bot autonom antworten darf, ob das Thema gesperrt ist oder ob der Anruf an einen Menschen übergeben werden muss. | Anfragetyp | KI antwortet aus freigegebenem Wissen | KI antwortet niemals | Übergabe an Mitarbeiter | | :--- | :--- | :--- | :--- | | **Öffnungszeiten & Anfahrt** | Ja, liest hinterlegte Zeiten vor | Abweichungen ohne Beleg | Nein, wird direkt gelöst | | **Symptome & Behandlungen** | Nein, verweist auf Fachpersonal | Eigene Diagnosen oder Dosierungen | Ja, Weiterleitung oder Rückruf | | **Kreditkonditionen & Zinsen** | Nein, erfasst nur Rahmendaten | Individuelle Zinsberechnungen | Ja, Termin mit Berater | | **Photovoltaik-Preise** | Nein, qualifiziert nur Gebäudedaten | Festpreise ohne Vor-Ort-Termin | Ja, Vor-Ort-Termin vereinbaren | | **Schadensmeldungen** | Ja, nimmt Basisdaten auf | Haftungszusagen oder Deckungsprüfung | Ja, Weiterleitung an Sachbearbeiter | In der Praxis setzen Unternehmen diese Grenzen strikt um. Ein italienisches Ärztezentrum mit Facharztpraxen lässt den Empfangsassistenten Termine koordinieren, schließt klinische Bewertungen jedoch aus. Der Agent qualifiziert Anfragen, prüft reale Kalenderdaten und liest vor der Buchung eine Zusammenfassung vor. Bei Klio, dem KI-Agenten eines Konsumentenkredit-Anbieters, gibt das System keine wirtschaftlichen Schätzungen am Telefon ab. Der Bot erfasst das Interesse und bucht Beratungsgespräche direkt in den Kalendern der Spezialisten. UltraSolar nennt am Telefon keine Preise. Die KI erfasst Objektdaten, klärt Vorfragen und bucht Vor-Ort-Termine für Fachberater. ## Freigegebene Inhalte und die Nicht-Wissen-Regel Der Sprachassistent greift ausschließlich auf Informationen zu, die Sie explizit im System hinterlegen. Dazu gehören FAQs, Tarifübersichten, Servicezeiten und Standardabläufe. Wie Sie diese Gesprächsleitfäden strukturieren, beschreibt der Leitfaden zum effizienten Scripting für Sprachagenten. Formulieren Sie im Systemprompt klare Verbote für nicht hinterlegte Inhalte: Fehlt eine Angabe in den hinterlegten Dokumenten, teilt der Bot diesen Umstand mit und bietet einen Rückruf an. Zur Absicherung wichtiger Schritte liest der Assistent Kerninformationen laut vor. Das Ärztezentrum nutzt diese Technik im Regelbetrieb: Der Agent wiederholt Name, Fachbereich, Wunschtermin und Telefonnummer, bevor der Eintrag in die Praxissoftware fließt. Der Anrufer bestätigt die Angaben aktiv, wodurch Abweichungen sofort auffallen. Gemäß Artikel 50 des EU AI Act weist der Telefonassistent zu Beginn des Gesprächs darauf hin, dass es sich um eine künstliche Intelligenz handelt. ## Fallback: Weiterleitung oder Rückruf anbieten Verlässt ein Anrufer den abgesteckten Rahmen, greift der Fallback-Mechanismus. Der Assistent bietet zwei direkte Pfade an: das Weiterleiten auf eine Nebenstelle oder das Erfassen einer Rückrufbitte. Wie ein Übergabeprozess mit Datenübergabe funktioniert, erklärt der Artikel über die Anrufübergabe mit Kontext an Mitarbeiter. Formulierungen für Kunden, die dennoch auf Auskünfte drängen, zeigt der Beitrag zur Einwandbehandlung am Telefon. Die Versicherungsagentur Unipol Cerignola steuert diesen Prozess über sechs definierte Fälle: Weiterleitung, Angebot, Rückruf, allgemeine Information, Schadenmeldung und Termin. Erfordert ein Anliegen menschliche Prüfung, stellt die KI durch. In der Praxis gelangen 200 von 207 Weiterleitungsversuchen (96,6 %). Wünschten Anrufer einen Rückruf, erfasste das System deren Kontaktdaten. Kundenanfragen blieben verbindlich dokumentiert, ohne dass die KI Deckungszusagen erfand. ## Testen vor dem Start Führen Sie vor dem Start gezielte Testanrufe mit Fangfragen durch, um die **Grenzen des KI-Telefonassistenten** zu prüfen. Typische Testfragen decken Lücken auf: * **Nicht hinterlegte Preise:** Was kostet die Expresslieferung am Sonntagabend? * **Feiertagsregelungen:** Haben Sie am 25. Dezember um 20 Uhr geöffnet? * **Rechts- und Fachfragen:** Kann ich den Vertrag nach drei Monaten fristlos kündigen? * **Wettbewerbervergleiche:** Warum ist Ihr Service besser als Produkt X der Konkurrenz? * **Unlogische Wünsche:** Können Sie mir schriftlich garantieren, dass der Techniker in 15 Minuten da ist? Besteht der Assistent den Test, verweist er bei diesen Fragen sachlich auf die zuständige Fachabteilung. Hinweise für strukturierte Testläufe finden Sie im Ratgeber zum Thema KI-Sprachagenten kostenlos testen. ## Transkripte prüfen nach dem Start Nach der Liveschaltung sichert eine regelmäßige Stichprobenprüfung die Qualität. Im DeepAgent-Dashboard stehen für jedes Gespräch die Audioaufnahme, das vollständige Texttranskript und das kategorisierte Ergebnis bereit. Prüfen Sie wöchentlich eine Auswahl an Gesprächen. Achten Sie auf folgende Warnsignale: * Der Anrufer widerspricht einer Aussage des Bots. * Der Bot nutzt Füllwörter und verstrickt sich in lange Erklärungen. * Ein Thema taucht wiederholt auf, für das keine Freigabe im Wissensbereich existiert. Passen Sie die Anweisungen bei Bedarf an und testen Sie Änderungen kurz per Telefon. Kontinuierliche Kalibrierung verbessert die Betriebsergebnisse messbar: * Bei der **Agenzia Unipol Cerignola** stieg der Anteil korrekt bearbeiteter Anfragen bei Gesprächen über 30 Sekunden von 63,4 % im Juli auf 93,2 % im August nach gezielter Überarbeitung der Instruktionen. * Das **italienische Ärztezentrum** senkte die Quote fehlgeschlagener Anrufe von 18,0 % im Juni auf 2,9 % im Teilmonat September, bei einer durchschnittlichen Qualitätsbewertung von 8,1 von 10 Punkten. * Bei einem italienischen Wasseraufbereitungsunternehmen (Sprachagent SARA) stieg die operative Erfolgsquote von 45,5 % in den ersten Tagen auf 76,5 % im ersten Monat durch Kalibrierung an echten Dialogen. Diese Zahlen bilden die allgemeine Gesprächs- und Routingqualität der Systeme ab. Sie belegen, wie stark fortlaufende Textanpassungen die Betriebssicherheit erhöhen. Details zur Auswertung liefert der Artikel über die Anrufanalyse von KI-Transkripten. ## Typischer Dialog am Telefon Ein kurzer Ausschnitt zeigt, wie Leitplanken am Telefon klingen: **Anrufer:** Guten Tag, ich interessiere mich für die Angebote bei Muster Software. Wenn ich direkt für zwei Jahre buche, geben Sie mir einen Nachlass? **KI-Assistent:** Guten Tag. Ich bin die künstliche Intelligenz von Muster Software. Zu individuellen Preisnachlässen liegen mir keine Informationen vor. Unsere regulären Paketpreise finden Sie auf unserer Website. Wenn Sie möchten, nehme ich Ihre Kontaktdaten auf und bitte das Team aus dem Vertrieb, Sie für ein Angebot zurückzurufen. **Anrufer:** Das klingt gut. Rufen Sie mich unter der hinterlegten Nummer zurück? **KI-Assistent:** Sehr gerne. Ich habe Ihre Nummer erfasst und gebe die Notiz direkt an den Vertrieb weiter. Vielen Dank für Ihren Anruf. Der Assistent bleibt bei den Fakten und leitet das Anliegen an das Team weiter. ## Feste Regeln für Ihre Telefon-KI Für den verlässlichen Betrieb braucht es feste interne Zuständigkeiten. Etablieren Sie diese sechs Schritte im Unternehmen: 1. **Inhaltliche Verantwortung festlegen:** Eine benannte Person aus Kundenservice oder Marketing pflegt alle Fakten, Preise und Textbausteine im System. 2. **Änderungsprotokoll führen:** Jede Anpassung an Prompts oder Wissensdokumenten wird mit Datum und Grund dokumentiert. 3. **Wöchentliche Stichproben:** Der Verantwortliche liest Transkripte von Anrufen mit unklarem Ausgang mindestens einmal pro Woche. 4. **Sperrliste für Themen pflegen:** Sammeln Sie Fragen, bei denen die KI unter keinen Umständen antworten darf, und erweitern Sie die Systemanweisung. 5. **Datenschutzbeauftragten einbinden:** Klären Sie Fragen zur DSGVO, insbesondere zur Speicherung von Audiodaten und Transkripten. Lesen Sie dazu den Leitfaden über DSGVO und KI-Sprachagenten. 6. **Passende Software wählen:** Nutzen Sie eine Plattform, die Einblick in jedes einzelne Transkript gewährt. Kriterien hierfür finden Sie im Ratgeber Voicebot-Anbieter auswählen. ## Kostenübersicht für den Einstieg Die Steuerung eigener Telefon-Assistenten lässt sich über feste Monatspakete kalkulieren. DeepAgent bietet folgende Tarife: * **Starter:** 99 € pro Monat * **Pro:** 299 € pro Monat * **Growth:** 500 € pro Monat * **Scale:** 799 € pro Monat * **Enterprise:** Individuelles Angebot auf Anfrage Alle Preise verstehen sich zuzüglich Mehrwertsteuer. Bei jährlicher Abrechnung sparen Sie 17 %. Alle Details stehen auf der Preisseite. Zum Testen legen Sie über die Registrierung einen Agenten an: 30 Minuten kostenlos, ohne Karte. Um unerwünschte Aussagen zu vermeiden, braucht das System präzise Wissensquellen. Erfahren Sie in unserer Übersicht über notwendige Daten für KI-Sprachassistenten, wie Sie freigegebene Inhalte und klare Antwortgrenzen definieren. ## Häufige Fragen zu KI-Halluzinationen am Telefon ### Was ist eine KI-Halluzination am Telefon? Eine Halluzination tritt auf, wenn der Sprachassistent Fakten erfindet, die nicht in den hinterlegten Unternehmensdaten stehen. Das betrifft häufig Preise, Kalenderverfügbarkeiten, rechtliche Zusagen oder Rabatte. ### Können KI-Telefonassistenten Antworten frei erfinden? Ja, Sprachmodelle füllen Lücken sprachlich plausibel aus. Fehlen Handlungsanweisungen für eine Kundenfrage, improvisiert das System ohne strikten Fallback. ### Wie lassen sich Halluzinationen in einer Kundenservice-KI verhindern? Drei Maßnahmen verhindern falsche Aussagen: die Beschränkung auf freigegebene Dokumente, ein Verbot bestimmter Fachthemen mit Verweis auf Mitarbeiter und regelmäßige Transkript-Prüfungen nach dem Start. ### Was macht die KI, wenn sie eine Antwort nicht weiß? Der Assistent teilt mit, dass die Information nicht vorliegt. Er bietet sofort an, den Anruf an einen Mitarbeiter weiterzuleiten oder eine Rückrufbitte mit den Eckdaten des Anliegens aufzunehmen. ### Kann man Halluzinationen bei Sprach-KI komplett ausschließen? Kein System am Markt garantiert technisch null Halluzinationen. Unternehmen begrenzen das Risiko über enge Wissensgrenzen, manuelle Freigaben und laufende Stichproben in den Anrufprotokollen. ## Verlässliche Telefonie durch klare Leitplanken Präzise definierte Wissensquellen und saubere Übergabeprozesse halten die Fehlerquote am Telefon niedrig und entlasten Ihr Serviceteam im Alltag. Mit dem Vertrieb sprechen → · Eigenen Agenten erstellen →