CONVIRO
AI & Chatbots

Quão rigoroso deve ser o seu chatbot de IA? Salvaguardas do chatbot e modos de segurança das respostas

O seu chatbot de IA deve responder apenas a partir da base de conhecimento ou pode fazer conversa de circunstância e usar conhecimento geral? Como escolher o nível de rigor certo…

Conviro
19 de setembro de 20267 min de leitura
Quão rigoroso deve ser o seu chatbot de IA? Salvaguardas do chatbot e modos de segurança das respostas
Disponível em:DEITENESETFRLTNLPLPTTR
Neste artigo

Um cliente pergunta ao seu chatbot algo que a base de conhecimento não cobre. Deve dizer "não sei", preencher a lacuna com conhecimento geral ou arriscar um palpite razoável? A sua resposta a esta pergunta é a mais importante de todas as salvaguardas do chatbot.

As salvaguardas são as regras que definem o que um assistente de IA pode dizer e quando tem de parar. A principal é o rigor em relação às fontes: até que ponto as respostas se têm de cingir ao seu próprio conteúdo. Em resumo: quanto mais cara for uma resposta errada, mais rigoroso deve ser o assistente. Clínicas e serviços financeiros ficam no extremo rigoroso, a maioria das lojas online fica no meio e só as marcas em que pouco está em jogo ficam perto do extremo flexível.

Pontos-chave

  • O rigor é um equilíbrio entre cobertura e risco; não há uma definição certa para todos.
  • Escolha em função do custo de uma resposta errada: rigoroso para temas regulados ou de saúde, moderado para o retalho, flexível só para conversas em que pouco está em jogo.
  • Seja qual for o nível escolhido, dê ao assistente uma saída limpa: dizer que não sabe e passar a conversa a uma pessoa.

O que controlam as salvaguardas do chatbot

As "salvaguardas" abrangem várias definições que funcionam em conjunto:

  • Rigor em relação às fontes: se as respostas têm de vir apenas da base de conhecimento ou se podem recorrer a conhecimento geral.
  • Limites de temas: assuntos que o assistente deve recusar, como aconselhamento jurídico ou comparações com a concorrência.
  • Níveis de confiança mínimos: o grau de certeza que o assistente precisa de ter para responder em vez de transferir a conversa.
  • Condições de transferência: temas sensíveis, clientes frustrados ou um pedido direto para falar com uma pessoa.
  • Tom: a forma como o assistente formula as respostas, incluindo as recusas.

Este artigo centra-se na primeira, porque condiciona todas as outras. Também é uma decisão diferente da escolha do modelo de IA. Escolher um modelo mais rápido ou mais capaz, tema que tratámos em Fast, Balanced ou Smart, afeta a velocidade e a profundidade do raciocínio; o rigor controla o que o assistente pode dizer.

O espetro do rigor: respostas de IA rigorosas vs. flexíveis

Pense no rigor como um regulador e não como um interruptor. Os nomes abaixo são ilustrativos; cada ferramenta dá nomes diferentes às suas definições.

Nível O que o assistente pode fazer Principal risco Mais indicado para
Rigoroso Responde apenas a partir da base de conhecimento; se não encontrar nada relevante, di-lo e transfere a conversa Mais transferências e respostas "não sei" Clínicas, finanças, seguros, serviços jurídicos
Moderado Responde a partir da base de conhecimento, pode reformular e explicar em linguagem simples, permite conversa de circunstância educada Afirmações gerais ocasionais que não correspondem aos seus casos concretos Lojas online, SaaS, agências
Flexível Pode acrescentar conhecimento geral e conversar para lá do seu conteúdo Respostas confiantes que contradizem as suas políticas Hotelaria e restauração, lifestyle, marcas de comunidade

Uma pergunta, três comportamentos

Imagine uma loja de roupa e esta mensagem: "Posso pôr esta camisola de lã na máquina?"

  • Rigoroso: se os dados do produto dizem "lavar só à mão", o assistente diz exatamente isso. Se não houver informação de cuidados, responde: "Não tenho instruções de cuidados para este artigo. Quer que pergunte à equipa?"
  • Moderado: responde com base na etiqueta de cuidados e pode acrescentar uma explicação simples do que significa lavar à mão.
  • Flexível: sem dados de cuidados, pode dar conselhos gerais sobre como lavar lã. Parece útil, até contradizer a etiqueta de uma camisola concreta e um cliente a estragar.

A resposta flexível não está errada em geral. Está errada para o seu produto, e é esse o risco a gerir.

Como escolher o nível de rigor por setor e risco

Faça quatro perguntas:

  1. Quanto custa uma resposta errada? Um horário de abertura errado é um incómodo. Uma instrução de medicação ou uma promessa de reembolso errada é um problema real.
  2. O tema é regulado? Saúde, finanças, seguros e temas jurídicos trazem obrigações que vão além da satisfação do cliente.
  3. Quão completa é a sua base de conhecimento? Definições rigorosas com pouco conteúdo geram muitas transferências; isso é sinal de que falta conteúdo, não de que é preciso afrouxar o regulador.
  4. Quem revê as conversas? As definições flexíveis exigem alguém que leia as transcrições com regularidade.

Pontos de partida habituais:

  • Clínicas e saúde: rigoroso. Responda a perguntas práticas sobre serviços, horários e preparação a partir de conteúdo aprovado e transfira tudo o que seja clínico. O nosso guia sobre chatbots para clínicas sem aconselhamento médico aprofunda este tema.
  • E-commerce: moderado no geral, mas rigoroso em preços, stock, prazos de devolução e informações sobre garantias.
  • SaaS: moderado, mas rigoroso em segurança, conformidade e condições contratuais.
  • Hotelaria, restauração e lifestyle: moderado a flexível na conversa de circunstância, mas rigoroso em alergénios, acessibilidade e condições de reserva.

Erros comuns ao definir o rigor das respostas

  1. Afrouxar o rigor para reduzir as transferências. Se a base de conhecimento tiver pouco conteúdo, um assistente flexível preenche as lacunas com invenções plausíveis. Corrija antes o conteúdo.
  2. Optar pelo rigoroso e nunca verificar o resultado. Se metade das respostas forem "não sei", os clientes deixam de usar o chat.
  3. Confiar apenas no rigor para os temas sensíveis. Reclamações, perguntas de saúde e cancelamentos precisam de condições de transferência explícitas, seja qual for o nível de rigor.
  4. Definir uma vez e esquecer. Reveja todas as semanas uma amostra de conversas e ajuste.

Para conhecer as causas das respostas inventadas, veja o nosso artigo sobre porque é que os chatbots de IA têm alucinações.

Modos de segurança configuráveis na Conviro

A Conviro passou a oferecer modos de segurança contra alucinações configuráveis. Em vez de um comportamento fixo, escolhe o rigor com que as respostas do seu assistente se têm de cingir às suas fontes, para que uma clínica e uma marca de lifestyle possam escolher, cada uma, o nível que se adequa ao seu risco.

O modo de segurança funciona em conjunto com as salvaguardas que já define nos assistentes de IA da Conviro: tom da marca, limites das respostas, níveis de confiança mínimos e condições de transferência. Quando o assistente não consegue responder dentro desses limites, passa a conversa à sua equipa na Live Inbox partilhada, com a transcrição e os dados recolhidos em anexo.

Uma abordagem prática: comece um nível acima do rigor que acha necessário, reveja as conversas durante duas semanas e só depois afrouxe a definição nos pontos em que as transcrições mostrem que é seguro.

Perguntas frequentes

O que são as salvaguardas de um chatbot?

As salvaguardas de um chatbot são as regras que limitam o que um assistente de IA diz e faz. Incluem o rigor com que as respostas têm de seguir a base de conhecimento, os temas que o assistente tem de recusar, o grau de confiança necessário antes de responder e o momento em que passa a conversa a uma pessoa. Em conjunto, mantêm as respostas corretas e com a voz da marca.

Um chatbot de IA pode responder a perguntas fora da base de conhecimento?

Pode, se o permitir, mas é daí que vêm as respostas inventadas. Para tudo o que diga respeito ao seu negócio, como preços, políticas ou disponibilidade, as respostas devem vir do seu próprio conteúdo. A conversa de circunstância ou as explicações simples têm menos risco e podem ser permitidas em definições mais flexíveis, nas marcas em que pouco está em jogo.

Um chatbot rigoroso dá mais trabalho à minha equipa?

Ao início, pode dar, porque as perguntas que a base de conhecimento não cobre vão para pessoas em vez de receberem uma resposta adivinhada. Trate essas transferências como uma lista de tarefas: cada resposta em falta que acrescenta à base de conhecimento elimina futuras transferências sobre esse tema. À medida que o conteúdo fica completo, sobram menos lacunas para transferir.

Como sei se o meu chatbot é demasiado rigoroso?

Leia uma amostra de conversas recentes. Se o assistente diz muitas vezes que não sabe coisas que estão claramente respondidas no seu site, o problema costuma ser conteúdo em falta ou mal estruturado. Se recusa conversa de circunstância inofensiva de uma forma que parece fria, uma definição um pouco mais flexível pode adequar-se melhor à sua marca.

Por onde continuar

Escreva os três temas em que uma resposta errada mais o prejudicaria e defina o nível de rigor em função deles. Depois, reveja conversas reais e ajuste. Comece grátis com a Conviro e teste como as diferentes definições de segurança tratam as suas próprias perguntas.

Partilhar:

Publicado por

Conviro

Partilha insights sobre suporte ao cliente com IA, automação de chatbots e estratégias de crescimento SaaS.

Ponha o guia em prática

Transforme o conhecimento de suporte em respostas mais rápidas

Explore o espaço de trabalho de suporte com IA do Conviro e comece grátis quando o fluxo se adequar à sua equipa.

Artigos relacionados

Mais publicações