Você pergunta uma coisa para uma IA e ela responde com toda a segurança do mundo. A resposta é bem escrita, educada, convincente. E está errada.
Isso tem nome: alucinação. Foi o tema do episódio 2 do "Papo de IA com a Beny", e vale trazer a conversa para cá, porque no atendimento ao cliente ela deixa de ser curiosidade e vira problema.
Como a IA escreve
Uma IA como a que conversa com seus clientes no WhatsApp não consulta uma enciclopédia antes de responder. Ela escreve palavra por palavra. A cada passo, escolhe a palavra que faz mais sentido depois da anterior.
Na maior parte do tempo, isso funciona muito bem. É o que faz a conversa soar natural.
O problema aparece quando ela não tem a informação. A IA não para e diz "não sei" por conta própria. Ela continua escrevendo. E completa a frase com algo que parece certo.
Onde isso dói no atendimento
Numa conversa qualquer, um erro desses passa. No atendimento, não.
Pense no cliente que pergunta:
"Quanto custa o kit grande? Chega até sexta?"
Se a IA não sabe o preço nem o prazo, ela pode inventar os dois. Um valor que parece razoável. Um prazo que parece normal. O cliente lê, confia e decide a compra em cima disso.
Depois vem a conta: o preço não bate, o pedido não chega, e alguém da equipe precisa explicar que aquilo nunca foi prometido. Só que, para o cliente, foi. Quem respondeu falava em nome da sua empresa.
Uma resposta errada dita com confiança faz mais estrago do que uma resposta que demora um pouco.
O que evita a resposta inventada
Não existe mágica. Existem duas coisas que precisam andar juntas.
A informação certa, no lugar certo. A IA só responde bem sobre o que ela conhece. Se o catálogo, os preços e as regras da sua empresa não estão com ela, ela vai preencher o vazio.
Permissão para não saber. Mesmo bem informada, vai aparecer pergunta que foge do que ela tem. Nessa hora, ela precisa de uma instrução clara: não inventar.
Como a IAT cuida disso
Na plataforma da IAT, quem organiza isso nos bastidores é a Beny, a nossa IA que cria o atendente virtual da sua empresa.
Ela entrega para o seu atendente as informações certas: catálogo, preços e regras do seu negócio. E entrega junto a instrução de não inventar.
Quando a resposta não está ali, o atendente faz o que um bom atendente humano faria. Avisa o cliente que vai confirmar, ou chama uma pessoa da equipe.
Parece simples. E é. Mas é a diferença entre um cliente que espera alguns minutos por uma resposta certa e um cliente que recebe uma promessa que ninguém vai cumprir.
Principais aprendizados
- A IA escreve palavra por palavra, escolhendo o que faz mais sentido. Quando falta informação, ela completa com algo que parece certo.
- No atendimento, isso aparece como preço, prazo ou regra inventados. E o cliente acredita.
- Para evitar, a IA precisa das informações da empresa e da instrução de não inventar.
- "Vou confirmar" ou "vou chamar alguém da equipe" é uma boa resposta. Uma resposta inventada, não.
Perguntas frequentes
O que é alucinação de IA?
É quando a IA responde algo que parece correto, mas não é. Acontece porque ela vai completando o texto com o que faz mais sentido, mesmo sem ter a informação.
Isso quer dizer que não dá para confiar em IA no atendimento?
Dá, desde que ela trabalhe com as informações da sua empresa e saiba o que fazer quando não tem a resposta.
O que o atendente virtual da IAT faz quando não sabe?
Avisa o cliente que vai confirmar ou chama uma pessoa da equipe. Ele não inventa.
Que informações a Beny organiza para o atendente?
O que ele precisa saber para responder certo: catálogo, preços e as regras do seu negócio.
IA boa não é a que sabe tudo. É a que sabe o que não sabe.
Quer um atendente virtual que responde certo e não inventa? Teste a IAT por 7 dias, sem cartão.
Começar grátis →