Quão rigoroso deve ser o seu chatbot de IA? Salvaguardas do chatbot e modos de segurança das respostas
O seu chatbot de IA deve responder apenas a partir da base de conhecimento ou pode fazer conversa de circunstância e usar conhecimento geral? Como escolher o nível de rigor certo…

Neste artigo
Um cliente pergunta ao seu chatbot algo que a base de conhecimento não cobre. Deve dizer "não sei", preencher a lacuna com conhecimento geral ou arriscar um palpite razoável? A sua resposta a esta pergunta é a mais importante de todas as salvaguardas do chatbot.
As salvaguardas são as regras que definem o que um assistente de IA pode dizer e quando tem de parar. A principal é o rigor em relação às fontes: até que ponto as respostas se têm de cingir ao seu próprio conteúdo. Em resumo: quanto mais cara for uma resposta errada, mais rigoroso deve ser o assistente. Clínicas e serviços financeiros ficam no extremo rigoroso, a maioria das lojas online fica no meio e só as marcas em que pouco está em jogo ficam perto do extremo flexível.
Pontos-chave
- O rigor é um equilíbrio entre cobertura e risco; não há uma definição certa para todos.
- Escolha em função do custo de uma resposta errada: rigoroso para temas regulados ou de saúde, moderado para o retalho, flexível só para conversas em que pouco está em jogo.
- Seja qual for o nível escolhido, dê ao assistente uma saída limpa: dizer que não sabe e passar a conversa a uma pessoa.
O que controlam as salvaguardas do chatbot
As "salvaguardas" abrangem várias definições que funcionam em conjunto:
- Rigor em relação às fontes: se as respostas têm de vir apenas da base de conhecimento ou se podem recorrer a conhecimento geral.
- Limites de temas: assuntos que o assistente deve recusar, como aconselhamento jurídico ou comparações com a concorrência.
- Níveis de confiança mínimos: o grau de certeza que o assistente precisa de ter para responder em vez de transferir a conversa.
- Condições de transferência: temas sensíveis, clientes frustrados ou um pedido direto para falar com uma pessoa.
- Tom: a forma como o assistente formula as respostas, incluindo as recusas.
Este artigo centra-se na primeira, porque condiciona todas as outras. Também é uma decisão diferente da escolha do modelo de IA. Escolher um modelo mais rápido ou mais capaz, tema que tratámos em Fast, Balanced ou Smart, afeta a velocidade e a profundidade do raciocínio; o rigor controla o que o assistente pode dizer.
O espetro do rigor: respostas de IA rigorosas vs. flexíveis
Pense no rigor como um regulador e não como um interruptor. Os nomes abaixo são ilustrativos; cada ferramenta dá nomes diferentes às suas definições.
| Nível | O que o assistente pode fazer | Principal risco | Mais indicado para |
|---|---|---|---|
| Rigoroso | Responde apenas a partir da base de conhecimento; se não encontrar nada relevante, di-lo e transfere a conversa | Mais transferências e respostas "não sei" | Clínicas, finanças, seguros, serviços jurídicos |
| Moderado | Responde a partir da base de conhecimento, pode reformular e explicar em linguagem simples, permite conversa de circunstância educada | Afirmações gerais ocasionais que não correspondem aos seus casos concretos | Lojas online, SaaS, agências |
| Flexível | Pode acrescentar conhecimento geral e conversar para lá do seu conteúdo | Respostas confiantes que contradizem as suas políticas | Hotelaria e restauração, lifestyle, marcas de comunidade |
Uma pergunta, três comportamentos
Imagine uma loja de roupa e esta mensagem: "Posso pôr esta camisola de lã na máquina?"
- Rigoroso: se os dados do produto dizem "lavar só à mão", o assistente diz exatamente isso. Se não houver informação de cuidados, responde: "Não tenho instruções de cuidados para este artigo. Quer que pergunte à equipa?"
- Moderado: responde com base na etiqueta de cuidados e pode acrescentar uma explicação simples do que significa lavar à mão.
- Flexível: sem dados de cuidados, pode dar conselhos gerais sobre como lavar lã. Parece útil, até contradizer a etiqueta de uma camisola concreta e um cliente a estragar.
A resposta flexível não está errada em geral. Está errada para o seu produto, e é esse o risco a gerir.
Como escolher o nível de rigor por setor e risco
Faça quatro perguntas:
- Quanto custa uma resposta errada? Um horário de abertura errado é um incómodo. Uma instrução de medicação ou uma promessa de reembolso errada é um problema real.
- O tema é regulado? Saúde, finanças, seguros e temas jurídicos trazem obrigações que vão além da satisfação do cliente.
- Quão completa é a sua base de conhecimento? Definições rigorosas com pouco conteúdo geram muitas transferências; isso é sinal de que falta conteúdo, não de que é preciso afrouxar o regulador.
- Quem revê as conversas? As definições flexíveis exigem alguém que leia as transcrições com regularidade.
Pontos de partida habituais:
- Clínicas e saúde: rigoroso. Responda a perguntas práticas sobre serviços, horários e preparação a partir de conteúdo aprovado e transfira tudo o que seja clínico. O nosso guia sobre chatbots para clínicas sem aconselhamento médico aprofunda este tema.
- E-commerce: moderado no geral, mas rigoroso em preços, stock, prazos de devolução e informações sobre garantias.
- SaaS: moderado, mas rigoroso em segurança, conformidade e condições contratuais.
- Hotelaria, restauração e lifestyle: moderado a flexível na conversa de circunstância, mas rigoroso em alergénios, acessibilidade e condições de reserva.
Erros comuns ao definir o rigor das respostas
- Afrouxar o rigor para reduzir as transferências. Se a base de conhecimento tiver pouco conteúdo, um assistente flexível preenche as lacunas com invenções plausíveis. Corrija antes o conteúdo.
- Optar pelo rigoroso e nunca verificar o resultado. Se metade das respostas forem "não sei", os clientes deixam de usar o chat.
- Confiar apenas no rigor para os temas sensíveis. Reclamações, perguntas de saúde e cancelamentos precisam de condições de transferência explícitas, seja qual for o nível de rigor.
- Definir uma vez e esquecer. Reveja todas as semanas uma amostra de conversas e ajuste.
Para conhecer as causas das respostas inventadas, veja o nosso artigo sobre porque é que os chatbots de IA têm alucinações.
Modos de segurança configuráveis na Conviro
A Conviro passou a oferecer modos de segurança contra alucinações configuráveis. Em vez de um comportamento fixo, escolhe o rigor com que as respostas do seu assistente se têm de cingir às suas fontes, para que uma clínica e uma marca de lifestyle possam escolher, cada uma, o nível que se adequa ao seu risco.
O modo de segurança funciona em conjunto com as salvaguardas que já define nos assistentes de IA da Conviro: tom da marca, limites das respostas, níveis de confiança mínimos e condições de transferência. Quando o assistente não consegue responder dentro desses limites, passa a conversa à sua equipa na Live Inbox partilhada, com a transcrição e os dados recolhidos em anexo.
Uma abordagem prática: comece um nível acima do rigor que acha necessário, reveja as conversas durante duas semanas e só depois afrouxe a definição nos pontos em que as transcrições mostrem que é seguro.
Perguntas frequentes
O que são as salvaguardas de um chatbot?
As salvaguardas de um chatbot são as regras que limitam o que um assistente de IA diz e faz. Incluem o rigor com que as respostas têm de seguir a base de conhecimento, os temas que o assistente tem de recusar, o grau de confiança necessário antes de responder e o momento em que passa a conversa a uma pessoa. Em conjunto, mantêm as respostas corretas e com a voz da marca.
Um chatbot de IA pode responder a perguntas fora da base de conhecimento?
Pode, se o permitir, mas é daí que vêm as respostas inventadas. Para tudo o que diga respeito ao seu negócio, como preços, políticas ou disponibilidade, as respostas devem vir do seu próprio conteúdo. A conversa de circunstância ou as explicações simples têm menos risco e podem ser permitidas em definições mais flexíveis, nas marcas em que pouco está em jogo.
Um chatbot rigoroso dá mais trabalho à minha equipa?
Ao início, pode dar, porque as perguntas que a base de conhecimento não cobre vão para pessoas em vez de receberem uma resposta adivinhada. Trate essas transferências como uma lista de tarefas: cada resposta em falta que acrescenta à base de conhecimento elimina futuras transferências sobre esse tema. À medida que o conteúdo fica completo, sobram menos lacunas para transferir.
Como sei se o meu chatbot é demasiado rigoroso?
Leia uma amostra de conversas recentes. Se o assistente diz muitas vezes que não sabe coisas que estão claramente respondidas no seu site, o problema costuma ser conteúdo em falta ou mal estruturado. Se recusa conversa de circunstância inofensiva de uma forma que parece fria, uma definição um pouco mais flexível pode adequar-se melhor à sua marca.
Por onde continuar
Escreva os três temas em que uma resposta errada mais o prejudicaria e defina o nível de rigor em função deles. Depois, reveja conversas reais e ajuste. Comece grátis com a Conviro e teste como as diferentes definições de segurança tratam as suas próprias perguntas.
Publicado por
Conviro
Partilha insights sobre suporte ao cliente com IA, automação de chatbots e estratégias de crescimento SaaS.
Ponha o guia em prática
Transforme o conhecimento de suporte em respostas mais rápidas
Explore o espaço de trabalho de suporte com IA do Conviro e comece grátis quando o fluxo se adequar à sua equipa.
Artigos relacionados
Mais publicações

AI & Chatbots
Chatbot vs IA conversacional vs agente de IA: qual é a diferença?
7 min de leitura
Ler artigo
AI & Chatbots
Alucinações em chatbots de IA: porque acontecem e como evitá-las
7 min de leitura
Ler artigo