Zabezpieczenia chatbota: jak restrykcyjny powinien być twój asystent AI?
Czy chatbot AI powinien odpowiadać wyłącznie na podstawie bazy wiedzy, czy może prowadzić luźną rozmowę i korzystać z wiedzy ogólnej? Jak dobrać poziom restrykcyjności do branży…

W tym artykule
Klient zadaje chatbotowi pytanie, na które twoja baza wiedzy nie ma odpowiedzi. Czy bot powinien powiedzieć „nie wiem”, uzupełnić lukę wiedzą ogólną, czy rozsądnie zgadywać? Twoja odpowiedź na to pytanie to najważniejszy element zabezpieczeń chatbota (guardrails).
Zabezpieczenia chatbota to zasady, które określają, co asystent AI może powiedzieć i kiedy musi się zatrzymać. Kluczowa jest restrykcyjność wobec źródeł, czyli to, jak ściśle odpowiedzi muszą trzymać się twoich własnych treści. W skrócie: im wyższy koszt błędnej odpowiedzi, tym bardziej restrykcyjny powinien być asystent. Kliniki i usługi finansowe należą do restrykcyjnego końca skali, większość sklepów internetowych do środka, a do elastycznego końca zbliżają się tylko marki, dla których stawka jest niska.
Najważniejsze wnioski
- Restrykcyjność to kompromis między zakresem odpowiedzi a ryzykiem. Nie ma ustawienia, które zawsze byłoby właściwe.
- Wybieraj według kosztu błędnej odpowiedzi: tryb restrykcyjny dla tematów regulowanych lub zdrowotnych, umiarkowany dla handlu, elastyczny tylko dla rozmów o niskiej stawce.
- Niezależnie od wybranego poziomu daj asystentowi czyste wyjście: niech powie, że nie wie, i przekaże rozmowę człowiekowi.
Co kontrolują zabezpieczenia chatbota
Pod pojęciem „zabezpieczeń” kryje się kilka współdziałających ustawień:
- Restrykcyjność wobec źródeł: czy odpowiedzi muszą pochodzić wyłącznie z twojej bazy wiedzy, czy mogą korzystać z wiedzy ogólnej.
- Granice tematyczne: tematy, których asystent powinien unikać, np. porady prawne czy porównania z konkurencją.
- Progi pewności: jak pewny musi być asystent, zanim odpowie, zamiast przekazać rozmowę dalej.
- Warunki przekazania rozmowy: drażliwe tematy, sfrustrowani klienci albo bezpośrednia prośba o kontakt z człowiekiem.
- Ton: sposób formułowania odpowiedzi, w tym odmów.
Ten artykuł skupia się na pierwszym z nich, bo kształtuje wszystkie pozostałe. To także coś innego niż wybór modelu AI. Wybór szybszego lub bardziej zaawansowanego modelu, o którym pisaliśmy w artykule Fast, Balanced czy Smart, wpływa na szybkość i głębię rozumowania, a restrykcyjność określa, co asystent może powiedzieć.
Skala restrykcyjności: restrykcyjne i elastyczne odpowiedzi AI
Traktuj restrykcyjność jak pokrętło, a nie przełącznik. Poniższe nazwy są poglądowe, bo różne narzędzia różnie nazywają swoje ustawienia.
| Poziom | Co może asystent | Główne ryzyko | Typowe zastosowanie |
|---|---|---|---|
| Restrykcyjny | Odpowiada wyłącznie na podstawie twojej bazy wiedzy, a jeśli nie znajdzie nic istotnego, mówi o tym i przekazuje rozmowę | Więcej przekazań rozmów i odpowiedzi „nie wiem” | Kliniki, finanse, ubezpieczenia, usługi prawne |
| Umiarkowany | Odpowiada na podstawie twojej bazy wiedzy, może przeformułować i wyjaśnić prostym językiem, dopuszcza uprzejmą pogawędkę | Sporadyczne ogólne stwierdzenia, które nie pasują do twojej specyfiki | Sklepy internetowe, SaaS, agencje |
| Elastyczny | Może dodawać wiedzę ogólną i rozmawiać poza zakresem twoich treści | Pewne siebie odpowiedzi sprzeczne z twoimi zasadami | Hotelarstwo i gastronomia, lifestyle, marki społecznościowe |
Jedno pytanie, trzy zachowania
Wyobraź sobie sklep odzieżowy i taką wiadomość: „Czy mogę wyprać ten wełniany sweter w pralce?”
- Restrykcyjny: Jeśli dane produktu mówią „tylko pranie ręczne”, asystent mówi dokładnie to. Jeśli nie ma informacji o pielęgnacji, odpowiada: „Nie mam instrukcji pielęgnacji tego produktu. Zapytać zespół?”
- Umiarkowany: Odpowiada na podstawie metki z instrukcją pielęgnacji i może dodać proste wyjaśnienie, na czym polega pranie ręczne.
- Elastyczny: Bez danych o pielęgnacji może podać ogólne porady dotyczące prania wełny. Brzmi to pomocnie, dopóki nie okaże się sprzeczne z metką konkretnego swetra, a klient go nie zniszczy.
Elastyczna odpowiedź nie jest błędna ogólnie. Jest błędna w odniesieniu do twojego produktu i właśnie tym ryzykiem trzeba zarządzać.
Jak dobrać restrykcyjność do branży i ryzyka
Zadaj sobie cztery pytania:
- Ile kosztuje błędna odpowiedź? Błędna godzina otwarcia to drobna niedogodność. Błędna instrukcja dotycząca leku albo obietnica zwrotu pieniędzy to prawdziwy problem.
- Czy temat jest regulowany? Zdrowie, finanse, ubezpieczenia i kwestie prawne wiążą się z obowiązkami, które wykraczają poza zadowolenie klienta.
- Jak kompletna jest twoja baza wiedzy? Restrykcyjne ustawienia przy ubogich treściach oznaczają mnóstwo przekazań rozmów. To sygnał, żeby dodać treści, a nie poluzować pokrętło.
- Kto przegląda rozmowy? Elastyczne ustawienia wymagają kogoś, kto regularnie czyta transkrypcje.
Typowe punkty wyjścia:
- Kliniki i ochrona zdrowia: tryb restrykcyjny. Odpowiadaj na praktyczne pytania o usługi, godziny otwarcia i przygotowanie na podstawie zatwierdzonych treści, a wszystko, co dotyczy kwestii klinicznych, przekazuj dalej. Szczegółowo omawia to nasz przewodnik o chatbotach dla placówek medycznych bez porad medycznych.
- E-commerce: ogólnie tryb umiarkowany, ale restrykcyjny w kwestii cen, stanów magazynowych, terminów zwrotów i informacji o gwarancji.
- SaaS: tryb umiarkowany, restrykcyjny w kwestii bezpieczeństwa, zgodności z przepisami i warunków umów.
- Hotelarstwo, gastronomia i lifestyle: od umiarkowanego do elastycznego przy luźnej rozmowie, ale restrykcyjny w kwestii alergenów, dostępności dla osób z niepełnosprawnościami i warunków rezerwacji.
Najczęstsze błędy przy ustawianiu restrykcyjności odpowiedzi
- Luzowanie restrykcyjności, żeby ograniczyć przekazania rozmów. Jeśli baza wiedzy jest uboga, elastyczny asystent wypełnia luki wiarygodnie brzmiącymi wymysłami. Zamiast tego popraw treści.
- Wybór trybu restrykcyjnego bez sprawdzania efektów. Jeśli połowa odpowiedzi to „nie wiem”, klienci przestają korzystać z czatu.
- Poleganie wyłącznie na restrykcyjności przy drażliwych tematach. Reklamacje, pytania o zdrowie i rezygnacje wymagają jasno określonych warunków przekazania rozmowy, niezależnie od poziomu restrykcyjności.
- Ustawienie raz na zawsze. Co tydzień przeglądaj próbkę rozmów i wprowadzaj poprawki.
O tym, skąd biorą się zmyślone odpowiedzi, przeczytasz w naszym artykule dlaczego chatboty AI halucynują.
Konfigurowalne tryby bezpieczeństwa w Conviro
Conviro oferuje teraz konfigurowalne tryby bezpieczeństwa chroniące przed halucynacjami. Zamiast jednego stałego zachowania wybierasz, jak ściśle odpowiedzi asystenta muszą trzymać się twoich źródeł, dzięki czemu zarówno klinika, jak i marka lifestyle'owa mogą wybrać poziom dopasowany do swojego ryzyka.
Tryb bezpieczeństwa działa razem z zabezpieczeniami, które już ustawiasz dla asystentów AI Conviro: tonem marki, granicami odpowiedzi, progami pewności i warunkami przekazania rozmowy. Gdy asystent nie może odpowiedzieć w tych granicach, przekazuje rozmowę twojemu zespołowi we wspólnej skrzynce Live Inbox razem z transkrypcją i zebranymi danymi.
Praktyczne podejście: zacznij o jeden stopień bardziej restrykcyjnie, niż ci się wydaje, że potrzebujesz, przez dwa tygodnie przeglądaj rozmowy, a potem luzuj ustawienie tylko tam, gdzie transkrypcje pokazują, że jest to bezpieczne.
Najczęściej zadawane pytania
Czym są zabezpieczenia chatbota?
Zabezpieczenia chatbota to zasady ograniczające to, co asystent AI mówi i robi. Obejmują to, jak ściśle odpowiedzi muszą opierać się na twojej bazie wiedzy, jakich tematów asystent musi unikać, jak pewny musi być przed udzieleniem odpowiedzi i kiedy przekazuje rozmowę człowiekowi. Razem sprawiają, że odpowiedzi są trafne i zgodne z marką.
Czy chatbot AI może odpowiadać na pytania spoza bazy wiedzy?
Może, jeśli mu na to pozwolisz, ale właśnie stąd biorą się zmyślone odpowiedzi. We wszystkim, co dotyczy twojej firmy, np. cen, zasad czy dostępności, odpowiedzi powinny pochodzić z twoich własnych treści. Luźna pogawędka czy proste wyjaśnienia niosą mniejsze ryzyko i można je dopuścić w bardziej elastycznych ustawieniach u marek, dla których stawka jest niska.
Czy restrykcyjny chatbot to więcej pracy dla mojego zespołu?
Na początku może tak być, bo pytania, których baza wiedzy nie obejmuje, trafiają do ludzi, zamiast dostać zgadywaną odpowiedź. Traktuj te przekazania jak listę zadań: każda brakująca odpowiedź dodana do bazy wiedzy eliminuje przyszłe przekazania w tym temacie. W miarę uzupełniania treści zostaje coraz mniej luk do przekazania.
Skąd mam wiedzieć, czy mój chatbot jest zbyt restrykcyjny?
Przeczytaj próbkę ostatnich rozmów. Jeśli asystent często mówi, że nie wie czegoś, co jest jasno opisane na twojej stronie, problemem są zwykle brakujące lub źle uporządkowane treści. Jeśli odmawia niewinnej pogawędki w sposób, który wydaje się chłodny, nieco bardziej elastyczne ustawienie może lepiej pasować do twojej marki.
Co dalej
Zapisz trzy tematy, w których błędna odpowiedź zaszkodziłaby ci najbardziej, i wokół nich ustaw poziom restrykcyjności. Potem przeglądaj prawdziwe rozmowy i wprowadzaj poprawki. Zacznij za darmo z Conviro i sprawdź, jak różne ustawienia bezpieczeństwa radzą sobie z twoimi własnymi pytaniami.
Opublikowane przez
Conviro
Dzieli się wiedzą o obsłudze klienta opartej na AI, automatyzacji chatbotów i strategiach wzrostu SaaS.
Zastosuj wskazówki w praktyce
Zamień wiedzę zespołu wsparcia w szybsze odpowiedzi
Poznaj przestrzeń roboczą Conviro do obsługi klienta z AI i zacznij za darmo, gdy przepływ pracy będzie pasował do Twojego zespołu.
Powiązane artykuły
Więcej wpisów
AI & Chatbots
Blokady bezpieczeństwa rozmowy: jak trzymać AI z dala od rozmów, których nie powinno prowadzić
7 min czytania
Czytaj artykuł
AI & Chatbots
Chatbot a konwersacyjna AI i agent AI: na czym polega różnica?
7 min czytania
Czytaj artykuł
AI & Chatbots
Halucynacje chatbota AI: skąd się biorą i jak im zapobiegać
7 min czytania
Czytaj artykuł