Vestluse turvapeatused: kuidas hoida AI eemal vestlustest, mida see käsitlema ei peaks
Mõned kliendisõnumid ei ole AI jaoks: ahastus, ähvardused, õigusvaidlused, hädaolukorrad ja solvamine. Siit loed, kuidas määrata turvapeatused, anda vestlus korrektselt üle ja…

Selles artiklis
„Kui seda täna korda ei tehta, võtab minu advokaat teiega ühendust.“
„Ma ei näe enam millelgi mõtet.“
Iga ettevõte, mis klientidega suhtleb, saab varem või hiljem selliseid sõnumeid. Assistent, mis vastab „Saan sinu pettumusest aru! Siin on meie tagastuspoliitika“, annab halvima võimaliku vastuse.
AI turvalisus klienditeeninduses algab ühest reeglist: mõned vestlused ei ole AI käsitleda. Kui sõnum viitab ahastusele, ähvardustele, õigusvaidlusele, meditsiinilisele hädaolukorrale või solvamisele, peaks assistent vastamise lõpetama, saatma midagi lühikest ja inimlikku ning kaasama kiiresti inimese. Siit loed, millised olukorrad vajavad peatust, milline näeb välja hea peatus ning kuidas peatusi logida ja üle vaadata.
Peamised järeldused
- Määra eelnevalt kindlaks, millised teemad AI peatavad: ahastus, ähvardused, õigusvaidlused, meditsiinilised hädaolukorrad, solvamine ja ahistamine.
- Hea peatus peatab AI, saadab lühikese eelnevalt kirjutatud ootesõnumi ja annab kogu vestluse üle õigele inimesele.
- Logi iga peatus ja vaata logi iga nädal üle, et sinu reeglid muutuksid täpsemaks ja keegi ei jääks tähelepanuta.
AI turvalisus klienditeeninduses: millised tundlikud vestlused peaksid AI peatama
Mitte iga vihane sõnum ei vaja peatust. Klient, kes on hilinenud paki pärast pahane, on tavaline klienditoe juhtum. Piir ületatakse siis, kui kaalul on isiklik turvalisus, õiguslik risk või kellegi heaolu.
| Olukord | Näitlikud märgid | Mis peaks juhtuma |
|---|---|---|
| Ahastus või enesevigastamine | Lootusetus, mainimine, et ta tahab endale haiget teha | Peata, jaga hädaabikontakte, teavita kohe inimest |
| Vägivallaga ähvardamine | Ähvardused töötajate, klientide või ruumide suunas | Peata, ära lasku vestlusse, eskaleeri juhile |
| Õigusvaidlused | Advokaadid, kohus, ametlikud kaebused, vaidlustatud tagasinõuded | Peata, kinnita kättesaamist, suuna kaebuste eest vastutajale |
| Meditsiinilised hädaolukorrad | Rasked sümptomid, allergilised reaktsioonid, vigastused | Peata, juhata hädaabiteenistuste juurde, teavita töötajaid |
| Solvamine ja ahistamine | Solvangud, halvustavad sõimusõnad, töötajatele suunatud seksuaalse sisuga sõnumid | Peata või lõpeta viisakalt, märgista ülevaatuseks |
| Haavatavate isikute kaitse | Märgid, et alaealine või haavatav inimene on ohus | Peata ja teavita selleks määratud inimest |
Kaks põhimõtet panevad selle toimima. Kahtluse korral peata: valehäire maksab meeskonnaliikmele minuti, märkamata jäänud juhtum võib aga maksta palju rohkem. Ja ole konkreetne: „tundlikud teemad“ ei ole reegel, kuid „iga viide kohtuasjale, advokaadile või kohtule“ on.
Miks AI ei peaks püüdma olukorda rahustada
Kiusatus lasta hästi häälestatud assistendil keerulisi vestlusi empaatiaga lahendada on suur. Pane sellele vastu.
- Genereeritud kaastunne kõlab õõnsalt inimesele, kes on endast väljas, ja tunne, et teda ei kuulata, teeb inimesed veel vihasemaks.
- See, mida AI ütleb, jääb kirja. Õigusvaidluses tekitab assistent, kes improviseerib tagasimaksete või süü teemal, väiteid, mille eest sinu ettevõte võib pidada vastutama.
- AI ei saa tegutseda. See ei saa kellegi järele vaadata, abi kutsuda ega erandit kinnitada. Inimene saab.
- Inimestel on õigus teada, kellega nad räägivad. ELi tehisintellekti määruse läbipaistvusreeglid nõuavad juba praegu, et kasutajatele öeldaks, et nad suhtlevad AI-ga. Kriisis peaksid nad jõudma kiiresti inimeseni.
Ainult viibas antud juhised võivad vahel alt vedada. Sul on vaja peatamistingimusi, mida kontrollitakse järjepidevalt, ja lisaks varulahendust: kui assistent pole kindel, annab see vestluse üle, selle asemel et arvata.
Milline näeb välja hea turvapeatus
Turvapeatusel on viis osa:
- AI lõpetab vastamise selles vestluses. Ei mingeid tootesoovitusi ega täpsustavaid küsimusi.
- Saadetakse lühike ootesõnum, mis on eelnevalt kirjutatud ja üle vaadatud.
- Vestlus antakse üle sinu meeskonnale koos kogu ärakirja ja kogutud andmetega.
- Õiget inimest teavitatakse kohe, mitte siis, kui keegi järgmine kord järjekorda vaatab.
- Sündmus logitakse koos põhjuse, aja ja selle inimesega, kes juhtumi üle võttis.
Ootesõnumite näited
Hoia need lühikesed ja rahulikud:
- Õigusvaidlus: „Aitäh, et sellest teada andsid. Edastasin selle meie meeskonnale ja meie töötaja vastab sulle otse.“
- Ahastus: „Mul on väga kahju, et sa end nii tunned. Meie meeskonna liige on kohe sinuga. Kui oled otseses ohus, helista palun 112 või oma kohalikule hädaabinumbrile.“
- Meditsiiniline hädaolukord: „See kõlab kiireloomuliselt. Palun helista kohe 112 või oma kohalikule hädaabinumbrile. Teavitasin ka meie meeskonda.“
- Solvamine: „Peatan selle vestluse. Meie meeskond vaatab selle üle ja võtab sinuga ühendust.“
Vestlusroboti eskaleerimisreeglid: keda ja millal teavitada
Peatus on täpselt nii hea kui selle taga olev üleandmine. Otsusta eelnevalt:
- Kes vastutab iga peatuse tüübi eest. Õiguslikud ähvardused lähevad omanikule või kaebuste eest vastutajale, töötajate solvamine juhile, haavatavate isikute kaitse selleks määratud inimesele.
- Kuidas neid teavitatakse. Kasuta teavitust, mida nad päriselt näevad, mitte kausta, mida nad reedeti kontrollivad.
- Mis juhtub väljaspool tööaega. Kui öösel pole kedagi saadaval, peaks ootesõnum ütlema, millal vastust oodata, ja hädaolukordade puhul, kust saab kohe abi.
- Kas AI võib jätkata. Enamiku peatuse tüüpide puhul mitte. Kui inimene on vestluse üle võtnud, jääb AI kõrvale.
Kui sul on juba eskaleerimismaatriks, anna turvapeatustele selle tipus oma rida. Meie juhend klienditoe eskaleerimismaatriksi koostamisest näitab vormingut ja artikkel vestlusrobotilt inimesele üleandmisest käsitleb korrektse üleandmise tehnilist poolt.
Peatatud vestluste logimine ja ülevaatamine
Iga peatus peaks jätma jälje: mis selle käivitas, millal, kes reageeris ja kuidas see lõppes. Vaata logi iga nädal üle ja otsi:
- Märkamata jäänud peatusi, kus vestlus oleks pidanud peatuma, kuid ei peatunud. Karmista reeglit.
- Valehäireid, kus tavaline kaebus käivitas peatuse. Muuda reegel konkreetsemaks.
- Aeglast reageerimist. Kui peatus toimis, aga tund aega keegi ei reageerinud, paranda teavitamist, mitte AI-d.
Käsitle neid ärakirju tundlike andmetena: piira, kes neid näeb, ja hoia neid ainult nii kaua, kui vaja. See on üldine juhend, mitte õigusnõuanne, seega kontrolli oma konkreetseid kohustusi nõustajaga.
Kuidas Conviro hoiab AI valedest vestlustest eemal
Conviro lisas augusti lõpus vestluse turvapeatused just selliste hetkede jaoks: kui vestlus liigub alale, mida assistent käsitlema ei peaks, AI peatub, selle asemel et improviseerida. Need töötavad koos juhtelementidega, mida sa juba iga AI-assistendi jaoks seadistad, sealhulgas vastuste piirid, kindluse lävendid, deterministlikud turvapiirded ja üleandmise tingimused.
Üle antud vestlused jõuavad ühisesse Live Inboxi koos ärakirja, kavatsuse, siltide ja kogutud andmetega, nii et see, kes vestluse üle võtab, ei palu kliendil valusat lugu uuesti rääkida. Teavitus- ja suunamisreeglid määravad, kes sellest teada saab, ning üleandmine inimesele on alati võimalik igas kanalis.
Korduma kippuvad küsimused
Millal peaks vestlusrobot vestluse inimesele üle andma?
Kui klient palub inimest, kui assistent pole oma vastuses kindel, ja alati, kui teema puudutab turvalisust, õigusvaidlusi, tervisega seotud hädaolukordi, solvamist või haavatavaid inimesi. Neil juhtudel peaks AI peatuma, saatma lühikese ootesõnumi ja andma kogu vestluse üle kellelegi, kes saab tegutseda.
Kas AI-vestlusrobot suudab ära tunda, et klient on ahastuses?
See suudab tabada paljusid selgeid märke, näiteks otseseid lootusetuse väljendusi või otseseid abipalveid, kuid peenemad märgid jäävad tal kahe silma vahele. Seepärast peaksid peatamisreeglid olema laiad, inimesed peaksid peatatud vestlusi regulaarselt üle vaatama ja klient peaks alati jõudma inimeseni lihtsalt seda paludes.
Mida peaks vestlusrobot ütlema kriisis olevale inimesele?
Midagi lühikest, rahulikku ja eelnevalt kirjutatut: näita, et oled teda kuulnud, ütle, et inimene on tulemas, ja jaga hädaabikontakte, näiteks ELis numbrit 112. See ei tohiks püüda nõustada, esitada uurivaid küsimusi ega jätkata müügi- või toesisuga. Väljaõppinud inimene peaks vestluse üle võtma nii kiiresti kui võimalik.
Kust alustada
Pane kirja oma peatamiskategooriad, kirjuta igaühe jaoks ootesõnum ja otsusta, keda teavitatakse, ka väljaspool tööaega. Seejärel testi igaüht enne, kui sellele loodad. Alusta Conviroga tasuta ja seadista assistent, kes teab, millal tagasi astuda.
Avaldanud
Conviro
Jagame teadmisi AI-põhise klienditoe, vestlusrobotite automatiseerimise ja SaaS-i kasvustrateegiate kohta.
Vii juhend ellu
Muuda oma klienditoe teadmised kiiremateks vastusteks
Tutvu Conviro AI-põhise klienditoe tööruumiga ja alusta tasuta, kui töövoog sinu meeskonnale sobib.
Seotud artiklid
Veel postitusi

AI & Chatbots
AI hallutsinatsioonid vestlusrobotites: miks need tekivad ja kuidas neid vältida
7 min lugemist
Loe artiklit
AI & Chatbots
Vestlusroboti turvalisus: 12 küsimust, mida igalt pakkujalt küsida
7 min lugemist
Loe artiklit