Allucinazioni AI al telefono: come controllare l'agente
Le allucinazioni AI nella voce telefonica si gestiscono circoscrivendo i contenuti approvati, impostando deviazioni verso colleghi umani e controllando i trascritti.
## Come bloccare le allucinazioni AI al telefono Le **allucinazioni AI** al telefono compaiono quando un assistente vocale afferma qualcosa di non verificato: prezzi fuori listino, disponibilità inventate in agenda, norme contrattuali inesistenti o consigli tecnici privi di riscontro. Questo comportamento si blocca stabilendo perimetri rigidi sui contenuti autorizzati e deviando la chiamata verso un operatore appena l'utente esce dalle casistiche previste. Su piattaforme come DeepAgent, la configurazione corretta richiede passaggi operativi precisi: * Definire documenti aziendali chiusi (FAQ, orari, servizi) come unica sorgente valida per le risposte. * Vietare in modo esplicito la stima di costi, le valutazioni cliniche e gli impegni su tempistiche non registrate a gestionale. * Impostare come comportamento standard la formula «non dispongo di questo dato, inoltro la richiesta al team» per qualsiasi argomento non mappato. * Configurare l'inoltro di chiamata SIP o VoIP verso un numero interno o la presa in carico per richiamata. * Rivedere con cadenza fissa i trascritti integrali registrati nel pannello di controllo per correggere le istruzioni. ## Cosa sono le allucinazioni dell'agente vocale e perché accadono Durante una telefonata, un modello linguistico completa sequenze di parole in base a probabilità statistiche. Quando riceve una domanda a cui la base di conoscenza non risponde direttamente, il sistema genera comunque una frase plausibile per tono e sintassi, producendo le tipiche **allucinazioni agente vocale**. Sul canale voce, le risposte inesatte si manifestano in forme ricorrenti: * **Tariffe e promozioni inventate:** il cliente chiede uno sconto per rinnovo e l'agente accorda una percentuale arbitraria assente dal listino. * **Disponibilità orarie errate:** l'assistente conferma un appuntamento in giorni di chiusura o su slot già occupati se privo di vincolo diretto con il calendario. * **Regolamenti aziendali alterati:** la voce assicura rimborsi immediati o estensioni di garanzia contrarie alle condizioni di vendita. * **Pareri clinici o finanziari non autorizzati:** l'assistente rassicura il paziente sulla gravità di un sintomo o promette tassi d'interesse a chi richiede credito. * **Promesse su orari di richiamata:** l'assistente garantisce un ricontatto entro quindici minuti quando l'ufficio competente è già chiuso. Conoscere questi **limiti agente vocale AI** serve ad assegnare al software compiti basati su regole documentate, escludendo valutazioni discrezionali. ## Definire il perimetro operativo dell'assistente Per impostare un efficace **controllo risposte intelligenza artificiale**, ogni azienda redige una matrice delle competenze. Ogni richiesta priva di riscontro formale nelle istruzioni va considerata vietata. | Tipologia di richiesta | L'agente risponde da contenuto approvato | L'agente non risponde mai | Passaggio a operatore umano | | :--- | :--- | :--- | :--- | | Orari e sedi | Sì, secondo tabella orari ufficiale | Non stima orari di arrivo del personale | Se la sede è chiusa per ferie non tabulate | | Preventivi e prezzi | Solo se a listino fisso approvato | Non elabora sconti personalizzati | Se il cliente richiede offerte su misura | | Tematiche sanitarie | Spiega modalità di accesso e servizi | Non formula diagnosi né valuta sintomi | Sempre, se il paziente segnala urgenza clinica | | Prestiti e finanziamenti | Raccoglie dati e verifica requisiti base | Non calcola rate o simulazioni di taeg | Per la consulenza economica approfondita | | Installazioni tecniche | Raccoglie caratteristiche dell'immobile | Non fornisce pareri di fattibilità finale | Assegna l'appuntamento al perito sul campo | Questo schema guida i progetti sul campo. Nel caso studio del centro medico polispecialistico, l'assistente raccoglie la richiesta del paziente e controlla la disponibilità in agenda prima di confermare la visita, rimandando le questioni cliniche al personale sanitario. Nella gestione del credito al consumo con l'assistente Klio, l'agente raccoglie i dati del contatto e fissa l'appuntamento con i consulenti autorizzati, escludendo calcoli economici al telefono. Nella campagna dell'installatore UltraSolar, la voce verifica i dati dell'immobile, risponde a dubbi generali e fissa il sopralluogo tecnico gratuito del consulente di zona. ## Contenuti approvati e la regola del non so I contenuti caricati derivano da fonti aziendali verificate: condizioni contrattuali, prontuari di servizio, risposte ufficiali del supporto clienti. All'interno del prompt, una clausola dedicata disciplina l'**agente AI che non sa rispondere**. Di fronte a un quesito privo di riscontro nel testo approvato, il sistema pronuncia la formula concordata di indisponibilità del dato. I dettagli di scrittura si trovano nella guida al training e scripting per agenti vocali. Un presidio ulteriore contro gli errori verbali è la rilettura di riepilogo. Prima di registrare una prenotazione o trasmettere dati al gestionale, la voce ripete nome, data, prestazione e recapito telefonico, chiedendo conferma al chiamante. Nel centro medico polispecialistico, l'assistente rilegge il riepilogo prima di confermare l'appuntamento a gestionale. ## Gestione delle eccezioni: trasferimento o richiamata Quando la conversazione tocca argomenti esclusi dal perimetro, il sistema attiva una procedura di riserva. Le soluzioni operative sono due: 1. **Trasferimento di chiamata su linea attiva:** l'assistente devia la telefonata verso un interno SIP, una coda del centralino o un numero fisso dell'ufficio. 2. **Presa in carico per richiamata (callback):** se gli operatori sono occupati o le linee sature, l'assistente registra motivo della chiamata e dati di contatto, inserendoli a CRM. L'esperienza dell'Agenzia Unipol Cerignola documenta questo flusso: l'assistente telefonica Adriana ha classificato le chiamate in ingresso in sei casistiche operative (trasferimento, preventivo, richiamata, informazioni, sinistro, appuntamento). Quando serviva l'intervento del personale, il sistema ha completato 200 trasferimenti con successo su 207 tentativi (il 96,6% di riuscita tecnica). I casi semplici sono stati risolti al telefono, mentre le pratiche complesse sono passate ai colleghi d'agenzia. I requisiti tecnici sono illustrati nelle guide su trasferimento di chiamata a operatore e gestione delle obiezioni telefoniche. ## Test di simulazione prima del rilascio Prima di aprire le linee al pubblico, occorre verificare le istruzioni con telefonate di prova interne. Per **evitare risposte inventate AI**, il team di progetto simula chiamate con richieste insistenti mirate a provocare errori: * **Listini non pubblicati:** «Mi applicate lo sconto del trenta per cento come l'anno scorso?» * **Orari festivi non regolati:** «Sarete aperti a Pasquetta alle venti?» * **Quesiti normativi o di responsabilità:** «Se il macchinario si blocca di notte rispondete voi dei danni di produzione?» * **Domande su concorrenti:** «Il vostro impianto produce più kilowattora rispetto al modello della marca X?» * **Richieste cliniche dirette:** «Mio figlio ha questa eruzione cutanea da due giorni, posso dargli questo farmaco?» Se l'assistente formula un'ipotesi invece di dichiarare l'assenza del dato o passare la linea, le istruzioni vanno corrette con un divieto puntuale. Uno schema operativo è disponibile nell'articolo su come testare un agente vocale. ## Revisione costante dei trascritti dopo il rilascio Il controllo prosegue dopo il rilascio. Su DeepAgent ogni chiamata registra audio, esito operativo e trascrizione testuale nel pannello di controllo. Il campionamento sistematico delle trascrizioni fa emergere risposte imprecise, nuovi quesiti degli utenti e correzioni necessarie alle istruzioni. I dati di esercizio confermano i risultati del metodo: * All'Agenzia Unipol Cerignola, le richieste gestite correttamente sulle chiamate sopra i 30 secondi sono passate dal 63,4% di luglio al 93,2% di agosto, con una copertura delle trascrizioni del 99,6%. * Nel centro medico polispecialistico, su 2.935 chiamate gestite in tre mesi e mezzo, le chiamate fallite sono scese dal 18,0% di giugno al 2,9% parziale di settembre, con un punteggio medio di qualità di 8,1 su 10. * Nell'azienda di trattamento acque con l'assistente SARA, la resa operativa è salita dal 45,5% dei primi giorni al 76,5% nel primo mese grazie alla calibrazione sulle conversazioni reali; l'assistente ha gestito 2.260 chiamate in un mese. Queste percentuali misurano la qualità operativa complessiva del servizio e la conclusione corretta delle chiamate. Per impostare il monitoraggio settimanale, consulta l'approfondimento sull'analisi chiamate e trascrizioni. ## Esempio di dialogo telefonico controllato Ecco il comportamento di un assistente dotato di divieti espliciti di fronte a una richiesta non prevista dai documenti: **Chiamante:** Buongiorno, vorrei sapere se per il contratto di manutenzione caldaia fate lo sconto comitive per tre appartamenti dello stesso condominio. **Assistente:** Buongiorno. Sono un assistente basato su intelligenza artificiale dell'ufficio tecnico. Nel nostro tariffario standard non è presente un'agevolazione specifica per condomini multipli. **Chiamante:** Non potete farmi una riduzione del quindici per cento se firmiamo tutti e tre oggi? **Assistente:** Non ho l'autorizzazione per applicare variazioni di prezzo o sconti personalizzati. Se vuole, posso annotare la richiesta e i suoi recapiti per farla ricontattare da un responsabile commerciale. **Chiamante:** Va bene, mi faccia richiamare al numero da cui sto telefonando. **Assistente:** Perfetto, ho registrato la richiesta per il responsabile con riferimento al suo numero. C'è altro che posso fare per lei oggi? L'assistente ha mantenuto il perimetro delle sue competenze, ha evitato concessioni economiche e ha registrato il contatto per il reparto vendite. ## Governance: 6 passaggi per blindare le istruzioni La stabilità delle risposte nel tempo richiede una gestione organizzativa definita: 1. **Nominare un responsabile unico dei contenuti:** una sola figura aziendale per reparto (operazioni, marketing o legale) autorizza le modifiche alle informazioni usate dall'assistente. 2. **Mantenere un registro delle versioni:** ogni variazione a istruzioni, listini o risposte include data, motivazione e autore. 3. **Campionamento settimanale delle telefonate:** ascoltare e leggere un campione di conversazioni ogni settimana, con priorità per quelle concluse con disconnessione o rifiuto. 4. **Manutenzione della lista argomenti vietati:** aggiornare l'elenco delle tematiche che richiedono il passaggio immediato a operatore (reclami formali, contestazioni legali, richieste di rimborso). 5. **Supervisione del Responsabile della Protezione Dati (DPO):** definire il trattamento dei dati personali e l'informativa in linea con le regole europee, consultando l'articolo su GDPR e agenti vocali AI e i requisiti di trasparenza dell'articolo 50 dell'EU AI Act. 6. **Adozione di tecnologie trasparenti:** valutare la piattaforma seguendo i criteri esposti nella guida su come scegliere il fornitore di agente vocale AI, garantendo l'accesso completo a file audio e trascrizioni. ## Piani e costi del servizio I profili tariffari di DeepAgent sono articolati su più livelli: * **Starter:** 99 € al mese * **Pro:** 299 € al mese * **Growth:** 500 € al mese * **Scale:** 799 € al mese * **Enterprise:** preventivo personalizzato su richiesta I corrispettivi indicati sono IVA esclusa. La fatturazione annuale prevede una riduzione del 17%. Il dettaglio è consultabile alla pagina con i prezzi di DeepAgent. Per provarlo, crea un agente dalla registrazione: 30 minuti gratis, senza carta. Il controllo delle risposte parte dalle informazioni aziendali che dai all'agente. Consulta la guida su come preparare i dati per l'agente vocale per fissare risposte approvate e limiti operativi precisi. ## Domande frequenti sul controllo delle risposte ### Cosa si intende per allucinazione di un'intelligenza artificiale? Si parla di allucinazione quando un modello linguistico genera un'informazione falsa, inesatta o priva di riscontro nei documenti forniti, presentandola come un dato di fatto all'interlocutore. ### Un agente vocale telefonico può inventare risposte durante la chiamata? Sì. Se il chiamante pone domande fuori dal materiale approvato o chiede chiarimenti su listini e condizioni assenti dalle istruzioni, il modello linguistico tende a colmare il vuoto inventando date, sconti o regole aziendali. ### Come evitare risposte inventate dall'assistente vocale? Occorre caricare istruzioni con contenuti perimetrati, vietare esplicitamente le risposte su argomenti non presenti nei documenti, impostare la risposta standard di non conoscenza e trasferire la chiamata a un operatore umano. ### Cosa dice l'assistente quando non sa rispondere a una domanda? Dichiara con chiarezza di non disporre di quel dettaglio specifico, raccoglie i riferimenti del chiamante per un ricontatto da parte del personale di sede oppure passa direttamente la linea a un collega. ### È possibile azzerare completamente il rischio di allucinazioni? Nessun software può garantire l'azzeramento matematico delle allucinazioni. Il rischio operativo si riduce restringendo le competenze permesse all'assistente, testando le casistiche complesse prima del lancio e analizzando periodicamente i trascritti delle telefonate reali. ## Configura il perimetro del tuo assistente vocale Definisci le regole di risposta, analizza le chiamate registrate e passa all'operatore umano le richieste fuori perimetro. Parla con sales → · Crea il tuo agente →