Nei ristoranti i clienti credono a ChatGPT più che ai camerieri
IA · Contenuto generato con l'intelligenza artificiale, rivisto da una personaUn cliente allergico ai crostacei ordina un piatto con un brodo di crostacei e, quando il personale lo avverte, risponde che ChatGPT dice il contrario. È uno degli episodi raccolti da The Verge sull'impatto delle risposte inventate dall'intelligenza artificiale nel lavoro a contatto con il pubblico.
- Clienti allergici ai crostacei contestano il personale citando ChatGPT.
- Alcuni ospiti rifiutano il sommelier e chiedono vini inesistenti.
- The Verge raccoglie casi simili anche in cinema, bar e negozi.
Quando l'errore del chatbot arriva a tavola
Madison, cameriera a New York che ha chiesto di non rendere pubblico il cognome, racconta a The Verge di chiedere a ogni tavolo quali allergie abbiano i commensali. Negli ultimi tempi, dice, ci sono stati episodi al limite: clienti che dichiarano un'allergia ai crostacei e poi ordinano un piatto di pesce accompagnato da un brodo a base di crostacei. Quando il personale segnala la presenza dell'allergene, alcuni ribattono che il chatbot sostiene il contrario.
Si tratta di quelle che in gergo si chiamano allucinazioni: risposte prodotte da un sistema di intelligenza artificiale generativa che risultano plausibili e sicure di sé ma non corrispondono alla realtà. Non sono bug isolati, ma un effetto del modo in cui questi programmi costruiscono le frasi.
Sommelier scartati e vini che non esistono
Secondo il racconto raccolto da The Verge, nel ristorante italiano segnalato dalla Michelin dove Madison ha lavorato fino a poco tempo fa capita sempre più spesso che l'offerta di chiamare il sommelier venga rifiutata: meglio chiedere al chatbot. Alcuni clienti richiedono bottiglie che il locale non ha in carta o che, in certi casi, non esistono proprio.
Per evitare imbarazzi, il personale ha imparato a smorzare la situazione dicendo che la carta dei vini è molto specifica e che certe etichette non sono trattate, invece di spiegare al cliente che il suo assistente digitale ha inventato tutto. The Verge riferisce di segnalazioni simili da lavoratori di cinema, caffetterie e Apple Store, con richieste di prodotti o funzioni inesistenti.
Perché conta
Il vecchio motto per cui il cliente ha sempre ragione si complica quando la convinzione del cliente nasce da un'informazione generata da una macchina. Nel caso delle allergie alimentari non si tratta di una questione di cortesia ma di sicurezza: una risposta sbagliata può avere conseguenze sanitarie serie.
Il punto pratico, valido anche per chi mangia fuori in Italia, è semplice: su allergeni, ingredienti e disponibilità dei prodotti la fonte affidabile resta chi lavora nel locale, non un assistente conversazionale che non ha accesso alla cucina né alla cantina.
