CONVIRO
AI & Chatbots

Segurança da IA no atendimento ao cliente: paragens para manter a IA fora das conversas que não deve tratar

Há mensagens de clientes que não são para a IA: sofrimento, ameaças, litígios, emergências e abusos. Veja como definir paragens de segurança, transferir a conversa sem falhas e…

Conviro
4 de novembro de 20267 min de leitura
Segurança da IA no atendimento ao cliente: paragens para manter a IA fora das conversas que não deve tratar
Disponível em:ENITFRDEESETLTNLPLPTTR
Neste artigo

"Se isto não ficar resolvido hoje, o meu advogado vai entrar em contacto."

"Já não vejo bem o sentido de nada."

Todas as empresas que falam com clientes acabam por receber mensagens como estas. Um assistente que responde "Compreendo a sua frustração! Aqui está a nossa política de devoluções" dá a pior resposta possível.

A segurança da IA no atendimento ao cliente começa com uma regra: há conversas que não cabe à IA tratar. Quando uma mensagem indica sofrimento, ameaças, um litígio, uma emergência médica ou abuso, o assistente deve deixar de responder, enviar algo curto e humano e envolver rapidamente uma pessoa. Veja que situações exigem uma paragem, como é uma boa paragem e como registá-las e revê-las.

Pontos-chave

  • Defina antecipadamente que temas param a IA: sofrimento, ameaças, litígios, emergências médicas, abuso e assédio.
  • Uma boa paragem suspende a IA, envia uma mensagem de espera curta e escrita de antemão e passa a conversa completa à pessoa certa.
  • Registe todas as paragens e reveja o registo semanalmente, para que as regras fiquem mais precisas e ninguém fique esquecido.

Segurança da IA no atendimento ao cliente: que conversas sensíveis devem parar a IA

Nem todas as mensagens zangadas exigem uma paragem. Um cliente irritado com uma encomenda atrasada faz parte do apoio normal. A linha é ultrapassada quando estão em causa a segurança pessoal, um risco jurídico ou o bem-estar de alguém.

Situação Sinais de exemplo O que deve acontecer
Sofrimento ou autolesão Desesperança, referências a magoar-se Parar, partilhar contactos de emergência, alertar uma pessoa de imediato
Ameaças de violência Ameaças a funcionários, clientes ou instalações Parar, não interagir, escalar para um responsável
Litígios Advogados, tribunal, reclamações formais, estornos contestados Parar, acusar a receção, encaminhar para quem gere as reclamações
Emergências médicas Sintomas graves, reações alérgicas, ferimentos Parar, indicar os serviços de emergência, alertar a equipa
Abuso e assédio Insultos, linguagem ofensiva, conteúdo sexual dirigido à equipa Parar ou encerrar com educação, sinalizar para revisão
Proteção de pessoas vulneráveis Sinais de que um menor ou uma pessoa vulnerável está em risco Parar e alertar uma pessoa designada

Dois princípios fazem isto funcionar. Na dúvida, pare: um falso alarme custa um minuto a alguém da equipa, enquanto um caso não detetado pode custar muito mais. E seja específico: "temas sensíveis" não é uma regra, mas "qualquer referência a uma ação judicial, a um advogado ou a um tribunal" é.

Porque é que a IA não deve tentar acalmar a situação

É tentador deixar um assistente bem afinado tratar conversas difíceis com empatia. Resista.

  • A compaixão gerada soa a vazio para quem está transtornado, e sentir que não é ouvido deixa as pessoas mais zangadas.
  • O que a IA diz fica registado. Num litígio, um assistente que improvisa sobre reembolsos ou culpas cria declarações que a empresa pode ter de assumir.
  • A IA não consegue agir. Não pode ver como alguém está, pedir ajuda nem aprovar uma exceção. Uma pessoa pode.
  • As pessoas têm direito a saber com quem estão a falar. As regras de transparência do AI Act já obrigam a informar os utilizadores de que estão a conversar com uma IA. Numa crise, devem chegar rapidamente a um humano.

As instruções no prompt, por si só, podem falhar. São precisas condições de paragem verificadas de forma consistente e um mecanismo de recurso: quando o assistente não tem confiança suficiente, transfere a conversa em vez de adivinhar.

Como é uma boa paragem de segurança

Uma paragem de segurança tem cinco partes:

  1. A IA deixa de responder nessa conversa. Sem sugestões de produtos, sem perguntas de seguimento.
  2. É enviada uma mensagem de espera curta, escrita e revista de antemão.
  3. A conversa é transferida para a equipa com a transcrição completa e os dados recolhidos.
  4. A pessoa certa é notificada de imediato, e não quando alguém voltar a olhar para a fila.
  5. O evento é registado com o motivo, a hora e quem pegou no caso.

Exemplos de mensagens de espera

Mantenha-as curtas e calmas:

  • Litígio: "Obrigado por nos informar. Passei este assunto à nossa equipa e um dos nossos colaboradores vai responder-lhe diretamente."
  • Sofrimento: "Lamento muito que se sinta assim. Uma pessoa da nossa equipa vai falar consigo dentro de momentos. Se estiver em perigo imediato, ligue para o 112 ou para o número de emergência local."
  • Emergência médica: "Isto parece urgente. Ligue agora para o 112 ou para o número de emergência local. Também já alertei a nossa equipa."
  • Abuso: "Vou pausar esta conversa. A nossa equipa vai analisá-la e voltar a contactá-lo."

Regras de escalonamento do chatbot: quem é notificado e quando

Uma paragem só é tão boa como a transferência que lhe sucede. Decida antecipadamente:

  • Quem é responsável por cada tipo de paragem. As ameaças jurídicas vão para o proprietário ou para o responsável pelas reclamações, o abuso contra a equipa para um gestor e a proteção de pessoas vulneráveis para uma pessoa designada.
  • Como são alertados. Use uma notificação que vejam de facto, não uma pasta que consultam às sextas-feiras.
  • O que acontece fora do horário. Se não houver ninguém disponível durante a noite, a mensagem de espera deve dizer quando esperar uma resposta e, em emergências, onde obter ajuda de imediato.
  • Se a IA pode retomar. Na maioria dos tipos de paragem, não. Depois de uma pessoa assumir a conversa, a IA fica de fora.

Se já tem uma matriz de escalonamento, dê às paragens de segurança uma linha própria no topo. O nosso guia para criar uma matriz de escalonamento do apoio ao cliente mostra o formato, e o artigo sobre a transferência do chatbot para um humano explica a mecânica de uma transferência sem falhas.

Registar e rever as conversas interrompidas

Cada paragem deve deixar rasto: o que a desencadeou, quando, quem respondeu e como terminou. Reveja o registo semanalmente e procure:

  • Paragens falhadas, em que uma conversa devia ter parado e não parou. Aperte a regra.
  • Falsos alarmes, em que uma reclamação normal desencadeou uma paragem. Torne a regra mais específica.
  • Respostas lentas. Se a paragem funcionou mas ninguém respondeu durante uma hora, corrija os alertas, não a IA.

Trate estas transcrições como dados sensíveis: limite quem as pode ver e conserve-as apenas durante o tempo necessário. Isto é orientação geral e não aconselhamento jurídico, por isso confirme as suas obrigações específicas com um consultor.

Como a Conviro mantém a IA fora das conversas erradas

A Conviro acrescentou as paragens de segurança nas conversas no final de agosto precisamente para estes momentos: quando uma conversa entra em terreno que o assistente não deve tratar, a IA para em vez de improvisar. Funcionam a par dos controlos que já define para cada assistente de IA, incluindo os limites das respostas, os níveis de confiança mínimos, as salvaguardas determinísticas e as condições de transferência.

As conversas transferidas chegam à Live Inbox partilhada com a transcrição, a intenção, as etiquetas e os dados recolhidos, para que quem pega no caso não peça ao cliente para repetir uma história dolorosa. As regras de notificação e de encaminhamento decidem quem é avisado, e a transferência para um humano é sempre possível em todos os canais.

Perguntas frequentes

Quando deve um chatbot passar a conversa a um humano?

Quando o cliente pede para falar com uma pessoa, quando o assistente não tem confiança na resposta e sempre que o tema envolva segurança, litígios, emergências de saúde, abuso ou pessoas vulneráveis. Nesses casos, a IA deve parar, enviar uma mensagem de espera curta e passar a conversa completa a alguém que possa agir.

Um chatbot de IA consegue perceber quando um cliente está em sofrimento?

Consegue detetar muitos sinais claros, como afirmações explícitas de desesperança ou pedidos diretos de ajuda, mas vai falhar os mais subtis. É por isso que as regras de paragem devem ser abrangentes, que as pessoas devem rever regularmente as conversas interrompidas e que os clientes devem conseguir sempre chegar a um humano, bastando pedi-lo.

O que deve um chatbot dizer a alguém em crise?

Algo curto, calmo e escrito de antemão: reconhecer a situação, dizer que vem aí uma pessoa e partilhar contactos de emergência, como o 112 na UE. Não deve tentar fazer aconselhamento psicológico, fazer perguntas intrusivas nem continuar com conteúdos de vendas ou de apoio. Uma pessoa com formação deve assumir a conversa o mais depressa possível.

Por onde começar

Faça a lista das suas categorias de paragem, escreva uma mensagem de espera para cada uma e decida quem é alertado, incluindo fora do horário. Depois, teste todas antes de confiar nelas. Comece grátis com a Conviro e configure um assistente que sabe quando se deve afastar.

Partilhar:

Publicado por

Conviro

Partilha insights sobre suporte ao cliente com IA, automação de chatbots e estratégias de crescimento SaaS.

Ponha o guia em prática

Transforme o conhecimento de suporte em respostas mais rápidas

Explore o espaço de trabalho de suporte com IA do Conviro e comece grátis quando o fluxo se adequar à sua equipa.

Artigos relacionados

Mais publicações