Can an AI chatbot give customers wrong answers?
Yes, it can — if it is wired straight to a language model with no source of truth of its own. The risk almost disappears when the assistant answers strictly from your content and openly declines when it cannot find the information.
Răspuns scurt
- Asistentul caută întâi fragmente relevante în baza ta de cunoștințe.
- Primește instrucțiunea să răspundă strict pe baza acelor fragmente.
- Dacă nu găsește nimic suficient de relevant, spune că nu știe și propune un operator.
- Fiecare răspuns poate afișa sursa, ca vizitatorul să verifice singur.
- Subiectele sensibile sar complet peste bot și ajung direct la un om.
Ce spune legislația
- Regulamentul (UE) 2024/1689 (AI Act), art. 50: utilizatorul trebuie informat că interacționează cu un sistem AI.
- Informația comercială afișată clientului te obligă ca vânzător, indiferent dacă a fost transmisă de un om sau de un asistent automat.
- Datele colectate în conversație intră sub GDPR, deci cer temei legal și informare.
Exemple practice
- Un preț modificat pe site, dar rămas într-o pagină de campanie veche încă indexată: botul citează pagina veche. Excluzi pagina și răspunsul se corectează, fără reantrenare.
- O întrebare despre o comandă individuală: asistentul nu are datele, deci escaladează în loc să estimeze.
Greșeli frecvente
- Conectezi un model generic fără bază de cunoștințe proprie și te bazezi pe „cunoștințele lui generale".
- Nu definești subiectele sensibile (reclamații, rambursări), deci botul improvizează exact unde costă cel mai mult.
- Nu te uiți în raportul de conversații, deci un răspuns greșit se repetă săptămâni întregi.
Cum te ajută 4chaty
- Răspunsuri ancorate în conținutul tău, cu sursa afișată.
- Refuz explicit când nu există un fragment relevant, în loc de improvizație.
- Reguli de refuz pe subiecte sensibile și escaladare cu istoric complet către operator.