CONVIRO
AI & Chatbots

Fast, Balanced ou Smart? Como escolher o modelo de IA para apoio ao cliente

A maioria das perguntas de apoio é simples; algumas exigem raciocínio a sério. Veja como pesar rapidez, custo e profundidade, e a que situações correspondem os novos modos Fast,…

Conviro
26 de setembro de 20266 min de leitura
Fast, Balanced ou Smart? Como escolher o modelo de IA para apoio ao cliente
Disponível em:TRDEENESETFRITLTNLPLPT
Neste artigo

Um cliente pergunta: "A que horas fecham ao sábado?" Outro escreve três parágrafos sobre uma encomenda danificada, um reembolso que ainda não chegou e um presente que tem de ser entregue até sexta-feira. Deve a mesma IA tratar os dois exatamente da mesma forma?

Escolher um modelo de IA para apoio ao cliente é encontrar o equilíbrio entre rapidez, custo e capacidade de raciocínio. A maioria das perguntas de apoio é simples, e o modelo mais rápido é o que melhor as serve. Uma parte mais pequena envolve vários factos, condições ou emoções ao mesmo tempo, e é aí que um modelo mais forte justifica o tempo e o custo adicionais. Os modos de IA da Conviro, lançados este mês, foram pensados precisamente para esta divisão.

Pontos-chave

  • Rapidez, custo e capacidade de raciocínio puxam em sentidos opostos; nenhum modelo ganha nos três.
  • Nas configurações típicas, a maior parte do tráfego de apoio é simples o suficiente para um modelo rápido.
  • Teste um modo com as suas próprias perguntas reais antes de mudar e altere um assistente de cada vez.

Rapidez vs. qualidade das respostas da IA: os três compromissos

Rapidez. O chat funciona como uma conversa, por isso os atrasos notam-se. Um cliente que pergunta pelo horário quer a resposta antes de pousar o telemóvel.

Custo. Os modelos maiores custam mais por mensagem. Com umas dezenas de chats por mês, a diferença é pequena. Com milhares, nota-se na fatura, e isso reflete-se diretamente no seu custo por ticket.

Capacidade de raciocínio. Algumas perguntas obrigam o modelo a conjugar várias informações: uma política, uma exceção, uma data e o que o cliente já disse. Os modelos maiores lidam melhor com isto.

Há uma coisa que a escolha do modelo não resolve: o conhecimento em falta. Se a sua política de devoluções não estiver na base de conhecimento, um modelo premium continua sem ter a resposta. Fundamentar as respostas no seu próprio conteúdo importa mais do que o tamanho do modelo, como explica o nosso guia para evitar alucinações em chatbots de IA.

Fast, Balanced e Smart: os modos de IA da Conviro

Os assistentes da Conviro podem funcionar em três modos de IA:

Modo O que otimiza Indicado para Exemplos de perguntas
Fast Respostas instantâneas Perguntas factuais em grande volume "Enviam para a Bélgica?" "Onde está a minha encomenda?"
Balanced Equilíbrio entre rapidez e qualidade Perguntas que exigem algum contexto ou comparação "Qual destes dois planos é melhor para uma equipa de cinco pessoas?"
Smart Modelos premium para conversas complexas Chats com várias partes, cheios de nuances ou com muito em jogo "A minha encomenda chegou danificada, cobraram-me duas vezes e preciso de uma substituição até sexta-feira."

Os três modos respondem a partir da mesma base de conhecimento e seguem o mesmo tom, as mesmas salvaguardas e as mesmas regras de transferência que definir para o seu assistente de IA. O modo altera a quantidade de raciocínio que entra em cada resposta, não aquilo que o assistente pode dizer.

Os modos incluídos dependem do seu plano; a página de preços tem os pormenores. No plano Enterprise, também pode usar a sua própria chave de API (BYOK), se preferir recorrer à sua própria conta num fornecedor de modelos.

Escolher o modelo de IA para apoio ao cliente conversa a conversa

Quando o Fast é suficiente

O Fast é indicado para perguntas com uma resposta clara no seu conteúdo: horários, prazos de entrega, prazos de devolução, tamanhos, preços, estado da encomenda. São a maior parte das filas de apoio. Aqui, a rapidez importa mais do que a nuance, e uma resposta mais lenta e mais cara não acrescenta nada.

Quando compensa o Balanced

O Balanced adequa-se a conversas que exigem algum critério: comparar dois produtos, explicar que plano se ajusta a uma situação descrita ou dar seguimento a uma resposta anterior no mesmo chat. As conversas de pré-venda num site caem muitas vezes aqui.

Quando escolher o Smart

O Smart destina-se a conversas complexas em que uma resposta fraca tem um custo: pré-venda B2B com requisitos detalhados, resolução de problemas técnicos em vários passos ou mensagens que juntam uma reclamação, uma pergunta sobre políticas e um prazo. Se o seu assistente já passa a maior parte destas conversas para pessoas, talvez nem precise do Smart.

A regra 80/20 do tráfego de apoio

Um ponto de partida prático é encaminhar as perguntas de rotina e repetidas para o modo Fast e reservar os modos de custo mais elevado para o conjunto mais pequeno de conversas que exigem um raciocínio mais profundo. Meça a divisão no seu próprio tráfego, em vez de presumir uma percentagem universal.

Para ver a sua própria divisão, pegue num mês hipotético de 2 000 conversas e distribua uma amostra de 100 por três grupos: respostas com um único facto, respostas que exigem contexto e casos realmente complexos. Se a maioria ficar no primeiro grupo, o Fast é a sua opção por defeito, e um modo mais forte só faz sentido se o grupo dos casos complexos for grande ou valioso.

Uma regra prática: escolha o modo mais leve que responda corretamente às suas perguntas difíceis. Optar por um modelo maior por defeito traz sobretudo respostas mais lentas.

Como testar um modo antes de mudar

  1. Reúna 30 a 50 perguntas reais de chats recentes. Inclua as mais difíceis, não só as fáceis.
  2. Passe-as pelo modo atual e pelo modo candidato.
  3. Avalie cada resposta em quatro pontos: correta, completa, com a voz da marca e transferida quando devia ser.
  4. Registe a rapidez de resposta que os seus clientes teriam.
  5. Estime o custo com o seu volume real, não com o volume do teste.
  6. Mude primeiro um assistente, se tiver vários, e reveja conversas reais ao fim de uma ou duas semanas.
Verificação Modo atual Modo candidato
Respostas corretas (em 40)
Transferências corretas
Problemas de tom
Rapidez de resposta típica

Se o modo candidato não ganhar claramente nas perguntas que importam, mantenha o atual e, em vez disso, melhore a base de conhecimento.

Perguntas frequentes

Qual é o melhor LLM para um chatbot de apoio ao cliente?

Não há um único melhor modelo. A escolha certa depende do tipo de perguntas que recebe. As perguntas simples e factuais são mais bem respondidas por modelos rápidos e leves, enquanto as conversas complexas, com várias partes, beneficiam de modelos maiores. Fundamentar as respostas na sua própria base de conhecimento importa mais do que o modelo, porque nem o melhor LLM consegue responder a partir de conteúdo que não tem.

Um modelo de IA mais rápido é menos preciso?

Não nas perguntas simples. Quando a resposta é um único facto da base de conhecimento, um modelo rápido costuma ser tão preciso como um maior, e responde mais depressa. A diferença aparece em conversas longas, com várias partes ou ambíguas, em que os modelos maiores conjugam melhor a informação e acompanham melhor o contexto.

O que é o BYOK nos chatbots de IA?

BYOK significa "bring your own key", ou seja, usar a sua própria chave. Em vez de usar o acesso a modelos da plataforma, liga a sua própria chave de API de um fornecedor de modelos, e a utilização é faturada na sua conta junto desse fornecedor. É indicado para equipas que já têm acordos com fornecedores ou que querem controlar diretamente os gastos com modelos. Na Conviro, o BYOK é uma funcionalidade do plano Enterprise.

Primeiros passos

Distribua uma amostra das suas conversas por complexidade, comece com o modo mais leve que trate as suas perguntas difíceis e teste antes de mudar. Reveja a escolha à medida que o tipo de perguntas for mudando. Comece grátis com a Conviro e veja como se saem as suas próprias perguntas.

Partilhar:

Publicado por

Conviro

Partilha insights sobre suporte ao cliente com IA, automação de chatbots e estratégias de crescimento SaaS.

Planeie com números atuais

Compare os planos com o seu volume real de suporte

Use a página de preços atual como referência e simule a automação com a sua própria combinação de tickets e taxa de escalonamento.

Artigos relacionados

Mais publicações