CONVIRO
AI & Chatbots

Blokady bezpieczeństwa rozmowy: jak trzymać AI z dala od rozmów, których nie powinno prowadzić

Niektóre wiadomości klientów nie są dla AI: kryzys psychiczny, groźby, spory prawne, nagłe przypadki medyczne i obelgi. Zobacz, jak zdefiniować blokady, sprawnie przekazać…

Conviro
4 listopada 20267 min czytania
Blokady bezpieczeństwa rozmowy: jak trzymać AI z dala od rozmów, których nie powinno prowadzić
W tym artykule

„Jeśli to nie zostanie dziś naprawione, odezwie się do was mój prawnik”.

„Już naprawdę nie widzę w niczym sensu”.

Każda firma, która rozmawia z klientami, prędzej czy później dostaje takie wiadomości. Asystent, który odpowiada „Rozumiem twoją frustrację! Oto nasza polityka zwrotów”, daje najgorszą możliwą odpowiedź.

Bezpieczeństwo AI w obsłudze klienta zaczyna się od jednej zasady: niektórych rozmów AI nie powinno prowadzić. Gdy wiadomość sygnalizuje kryzys psychiczny, groźby, spór prawny, nagły przypadek medyczny albo obelgi, asystent powinien przestać odpowiadać, wysłać krótką, ludzką wiadomość i szybko zaangażować człowieka. Poniżej wyjaśniamy, które sytuacje wymagają blokady, jak wygląda dobra blokada oraz jak ją rejestrować i analizować.

Najważniejsze wnioski

  • Z góry określ, które tematy zatrzymują AI: kryzys psychiczny, groźby, spory prawne, nagłe przypadki medyczne, obelgi i nękanie.
  • Dobra blokada wstrzymuje AI, wysyła krótki, wcześniej przygotowany komunikat i przekazuje całą rozmowę właściwej osobie.
  • Rejestruj każdą blokadę i co tydzień przeglądaj rejestr, żeby twoje zasady stawały się coraz precyzyjniejsze, a nikt nie został bez pomocy.

Które drażliwe rozmowy powinny zatrzymać AI

Nie każda gniewna wiadomość wymaga blokady. Klient zirytowany spóźnioną paczką to zwykła obsługa. Granica zostaje przekroczona, gdy w grę wchodzi bezpieczeństwo osobiste, ryzyko prawne albo czyjeś dobrostan.

Sytuacja Przykładowe sygnały Co powinno się stać
Kryzys psychiczny lub samookaleczenie Poczucie beznadziei, wzmianki o zrobieniu sobie krzywdy Blokada, podanie numerów alarmowych, natychmiastowe powiadomienie człowieka
Groźby przemocy Groźby wobec pracowników, klientów lub lokalu Blokada, brak dalszej rozmowy, eskalacja do kierownika
Spory prawne Prawnicy, sąd, formalne reklamacje, kwestionowane obciążenia zwrotne (chargeback) Blokada, potwierdzenie przyjęcia, przekazanie osobie odpowiedzialnej za reklamacje
Nagłe przypadki medyczne Poważne objawy, reakcje alergiczne, urazy Blokada, wskazanie służb ratunkowych, powiadomienie personelu
Obelgi i nękanie Wyzwiska, obraźliwe określenia, treści seksualne kierowane do pracowników Blokada lub uprzejme zakończenie, oznaczenie do przeglądu
Ochrona osób zagrożonych Sygnały, że małoletni lub osoba szczególnie wrażliwa jest w niebezpieczeństwie Blokada i powiadomienie wyznaczonej osoby

Dwie zasady sprawiają, że to działa. W razie wątpliwości zatrzymuj: fałszywy alarm kosztuje pracownika minutę, a przeoczony sygnał może kosztować znacznie więcej. I bądź konkretny: „drażliwe tematy” to nie jest zasada, ale „każda wzmianka o krokach prawnych, prawniku lub sądzie” już tak.

Dlaczego AI nie powinno samo próbować łagodzić sytuacji

Kusi, żeby dobrze dostrojony asystent sam prowadził trudne rozmowy z empatią. Nie ulegaj tej pokusie.

  • Wygenerowane współczucie brzmi pusto dla kogoś, kto jest zdenerwowany, a poczucie, że nikt nas nie słucha, tylko zwiększa złość.
  • To, co mówi AI, staje się zapisem. W sporze prawnym asystent improwizujący na temat zwrotów pieniędzy czy winy tworzy wypowiedzi, za którymi twoja firma może musieć potem stanąć.
  • AI nie może działać. Nie sprawdzi, czy ktoś jest bezpieczny, nie wezwie pomocy, nie zatwierdzi wyjątku. Człowiek może.
  • Ludzie mają prawo wiedzieć, z kim rozmawiają. Przepisy AI Act dotyczące przejrzystości już wymagają informowania użytkowników, że czatują z AI. W sytuacji kryzysowej powinni szybko trafić do człowieka.

Same instrukcje w prompcie mogą zawieść. Potrzebujesz warunków blokady sprawdzanych w spójny sposób oraz rozwiązania awaryjnego: gdy asystent nie jest pewny odpowiedzi, przekazuje rozmowę, zamiast zgadywać.

Jak wygląda dobra blokada bezpieczeństwa

Blokada bezpieczeństwa składa się z pięciu elementów:

  1. AI przestaje odpowiadać w tej rozmowie. Żadnych propozycji produktów, żadnych pytań uzupełniających.
  2. Wysyłany jest krótki komunikat przejściowy, napisany i sprawdzony wcześniej.
  3. Rozmowa zostaje przekazana zespołowi wraz z pełnym zapisem i wszystkimi zebranymi danymi.
  4. Właściwa osoba dostaje powiadomienie od razu, a nie wtedy, gdy ktoś następnym razem zajrzy do kolejki.
  5. Zdarzenie zostaje zarejestrowane z powodem, godziną i informacją, kto je przejął.

Przykładowe komunikaty przejściowe

Niech będą krótkie i spokojne:

  • Spór prawny: „Dziękujemy za informację. Przekazałem sprawę naszemu zespołowi, a jeden z pracowników odpowie bezpośrednio”.
  • Kryzys psychiczny: „Bardzo mi przykro, że tak się czujesz. Za chwilę odezwie się ktoś z naszego zespołu. Jeśli grozi ci bezpośrednie niebezpieczeństwo, zadzwoń pod 112 lub lokalny numer alarmowy”.
  • Nagły przypadek medyczny: „To brzmi poważnie. Zadzwoń teraz pod 112 lub lokalny numer alarmowy. Powiadomiłem też nasz zespół”.
  • Obelgi: „Wstrzymuję tę rozmowę. Nasz zespół ją przejrzy i odezwie się do ciebie”.

Zasady eskalacji w chatbocie: kto dostaje powiadomienie i kiedy

Blokada jest tylko tak dobra, jak przekazanie rozmowy, które za nią stoi. Z góry ustal:

  • Kto odpowiada za każdy rodzaj blokady. Groźby prawne trafiają do właściciela lub osoby odpowiedzialnej za reklamacje, obelgi wobec pracowników do kierownika, a sprawy dotyczące ochrony osób zagrożonych do wyznaczonej osoby.
  • Jak te osoby są powiadamiane. Używaj powiadomień, które naprawdę zobaczą, a nie folderu, do którego zaglądają w piątki.
  • Co dzieje się poza godzinami pracy. Jeśli w nocy nikt nie jest dostępny, komunikat przejściowy powinien mówić, kiedy można spodziewać się odpowiedzi, a w nagłych przypadkach, gdzie szukać pomocy od razu.
  • Czy AI może wrócić do rozmowy. W przypadku większości rodzajów blokad nie. Gdy rozmowę przejął człowiek, AI się nie wtrąca.

Jeśli masz już macierz eskalacji, daj blokadom bezpieczeństwa osobny wiersz na samej górze. Nasz przewodnik po budowaniu macierzy eskalacji w obsłudze klienta pokazuje format, a artykuł o przekazywaniu rozmowy z chatbota do człowieka opisuje, jak sprawnie przeprowadzić to przekazanie.

Rejestrowanie i przeglądanie zatrzymanych rozmów

Każda blokada powinna zostawić ślad: co ją uruchomiło, kiedy, kto zareagował i jak sprawa się zakończyła. Przeglądaj rejestr co tydzień i szukaj:

  • Przeoczonych blokad, czyli rozmów, które powinny zostać zatrzymane, a nie zostały. Zaostrz zasadę.
  • Fałszywych alarmów, czyli zwykłych reklamacji, które uruchomiły blokadę. Doprecyzuj zasadę.
  • Powolnych reakcji. Jeśli blokada zadziałała, ale nikt nie odpowiedział przez godzinę, popraw powiadomienia, a nie AI.

Traktuj te zapisy rozmów jako dane wrażliwe: ogranicz grono osób z dostępem i przechowuj je tylko tak długo, jak to konieczne. To ogólne wskazówki, a nie porada prawna, więc swoje konkretne obowiązki sprawdź z doradcą.

Jak Conviro trzyma AI z dala od niewłaściwych rozmów

Conviro dodało blokady bezpieczeństwa rozmowy pod koniec sierpnia właśnie na takie sytuacje: gdy rozmowa wchodzi na teren, którego asystent nie powinien obsługiwać, AI się zatrzymuje, zamiast improwizować. Blokady działają obok ustawień, które już konfigurujesz dla każdego asystenta AI, w tym granic odpowiedzi, progów pewności, deterministycznych zabezpieczeń i warunków przekazania rozmowy.

Przekazane rozmowy trafiają do wspólnej skrzynki Live Inbox z zapisem rozmowy, intencją, tagami i zebranymi danymi, więc osoba, która je przejmie, nie prosi klienta o powtarzanie bolesnej historii. Zasady powiadomień i kierowania rozmów decydują, kto się o niej dowie, a przekazanie rozmowy człowiekowi jest zawsze możliwe w każdym kanale.

Najczęściej zadawane pytania

Kiedy chatbot powinien przekazać rozmowę człowiekowi?

Gdy klient prosi o kontakt z człowiekiem, gdy asystent nie jest pewny swojej odpowiedzi i zawsze wtedy, gdy temat dotyczy bezpieczeństwa, sporów prawnych, nagłych przypadków medycznych, obelg lub osób szczególnie wrażliwych. W takich sytuacjach AI powinno się zatrzymać, wysłać krótki komunikat przejściowy i przekazać całą rozmowę komuś, kto może działać.

Czy chatbot AI potrafi rozpoznać, że klient jest w kryzysie?

Wychwyci wiele wyraźnych sygnałów, takich jak otwarte wyrażenie beznadziei czy bezpośrednia prośba o pomoc, ale subtelne sygnały przeoczy. Dlatego zasady blokad powinny być szerokie, ludzie powinni regularnie przeglądać zatrzymane rozmowy, a klienci zawsze powinni móc dotrzeć do człowieka, po prostu o to prosząc.

Co chatbot powinien napisać osobie w kryzysie?

Coś krótkiego, spokojnego i przygotowanego wcześniej: okazać zrozumienie, poinformować, że zaraz odezwie się człowiek, i podać numery alarmowe, np. 112 w UE. Nie powinien próbować udzielać wsparcia psychologicznego, zadawać dociekliwych pytań ani kontynuować treści sprzedażowych czy obsługowych. Przeszkolona osoba powinna przejąć rozmowę jak najszybciej.

Od czego zacząć

Spisz kategorie blokad, przygotuj komunikat przejściowy dla każdej z nich i ustal, kto dostaje powiadomienia, także poza godzinami pracy. Potem przetestuj każdą z nich, zanim zaczniesz na niej polegać. Zacznij za darmo z Conviro i skonfiguruj asystenta, który wie, kiedy się wycofać.

Udostępnij:

Opublikowane przez

Conviro

Dzieli się wiedzą o obsłudze klienta opartej na AI, automatyzacji chatbotów i strategiach wzrostu SaaS.

Zastosuj wskazówki w praktyce

Zamień wiedzę zespołu wsparcia w szybsze odpowiedzi

Poznaj przestrzeń roboczą Conviro do obsługi klienta z AI i zacznij za darmo, gdy przepływ pracy będzie pasował do Twojego zespołu.

Powiązane artykuły

Więcej wpisów