CONVIRO
AI & Chatbots

أمان الذكاء الاصطناعي في خدمة العملاء: آليات الإيقاف الآمن للمحادثات الحساسة

بعض رسائل العملاء ليست للذكاء الاصطناعي: الضيق النفسي، والتهديدات، والنزاعات القانونية، والطوارئ، والإساءة. إليك كيف تحدد آليات الإيقاف الآمن، وتحوّل المحادثة بسلاسة، وتحتفظ بسجل.

كونفيرو
4 نوفمبر 20267 دقيقة قراءة
أمان الذكاء الاصطناعي في خدمة العملاء: آليات الإيقاف الآمن للمحادثات الحساسة
متوفر في:FRARESENLTNLPTTRPLITETDE
في هذه المقالة

"إذا لم تُحل المشكلة اليوم، فسيتواصل معكم محاميّ."

"لم أعد أرى جدوى من أي شيء."

كل نشاط تجاري يتحدث مع عملائه يتلقى في النهاية رسائل كهذه. والمساعد الذي يرد بعبارة "أتفهم انزعاجك! إليك سياسة الإرجاع لدينا" يقدم أسوأ رد ممكن.

يبدأ أمان الذكاء الاصطناعي في خدمة العملاء بقاعدة واحدة: بعض المحادثات ليست من شأن الذكاء الاصطناعي. فعندما تشير رسالة إلى ضيق نفسي، أو تهديدات، أو نزاع قانوني، أو حالة طوارئ طبية، أو إساءة، يجب أن يتوقف المساعد عن الإجابة، ويرسل شيئًا قصيرًا وإنسانيًا، ويُشرك شخصًا بسرعة. إليك المواقف التي تتطلب الإيقاف، وكيف يبدو الإيقاف الجيد، وكيف تسجّله وتراجعه.

أهم النقاط

  • حدّد مسبقًا الموضوعات التي توقف الذكاء الاصطناعي: الضيق النفسي، والتهديدات، والنزاعات القانونية، والطوارئ الطبية، والإساءة والتحرش.
  • الإيقاف الجيد يوقف الذكاء الاصطناعي مؤقتًا، ويرسل رسالة انتظار قصيرة مكتوبة مسبقًا، ويحوّل المحادثة كاملة إلى الشخص المناسب.
  • سجّل كل حالة إيقاف وراجع السجل أسبوعيًا، حتى تصبح قواعدك أدق ولا يضيع أحد بين الشقوق.

المحادثات الحساسة التي يجب أن توقف الذكاء الاصطناعي

ليست كل رسالة غاضبة بحاجة إلى إيقاف. فالعميل المنزعج من طرد متأخر حالة دعم عادية. ويُتجاوز الخط عندما تكون السلامة الشخصية، أو المخاطر القانونية، أو سلامة شخص ما على المحك.

الموقف أمثلة على الإشارات ما يجب أن يحدث
الضيق النفسي أو إيذاء النفس اليأس، أو الحديث عن إيذاء النفس الإيقاف، ومشاركة أرقام الطوارئ، وتنبيه شخص فورًا
التهديد بالعنف تهديدات ضد الموظفين أو العملاء أو المقر الإيقاف، وعدم التفاعل، والتصعيد إلى مدير
النزاعات القانونية المحامون، أو المحاكم، أو الشكاوى الرسمية، أو الاعتراض على المدفوعات عبر البنك (chargeback) الإيقاف، والإقرار بالرسالة، والتوجيه إلى المسؤول عن الشكاوى
الطوارئ الطبية أعراض شديدة، أو ردود فعل تحسسية، أو إصابات الإيقاف، والإحالة إلى خدمات الطوارئ، وتنبيه الموظفين
الإساءة والتحرش الشتائم، أو الألفاظ المهينة، أو المحتوى الجنسي الموجّه إلى الموظفين الإيقاف أو الإنهاء بلباقة، والإشارة إلى المحادثة للمراجعة
حماية الفئات المستضعفة (safeguarding) علامات على أن قاصرًا أو شخصًا مستضعفًا في خطر الإيقاف وتنبيه شخص معيّن لهذه المهمة

مبدآن يجعلان ذلك ناجحًا. مِل إلى الإيقاف عند الشك: الإنذار الكاذب يكلّف أحد أفراد الفريق دقيقة، أما الحالة الفائتة فقد تكلّف أكثر بكثير. وكن محددًا: "الموضوعات الحساسة" ليست قاعدة، أما "أي ذكر لإجراء قانوني أو محامٍ أو محكمة" فهو قاعدة.

لماذا لا ينبغي للذكاء الاصطناعي أن يحاول تهدئة الموقف

من المغري أن تترك مساعدًا مضبوطًا جيدًا يتعامل مع المحادثات الصعبة بتعاطف. قاوم هذا الإغراء.

  • التعاطف المولَّد آليًا يبدو أجوف لشخص منزعج، والشعور بعدم الإصغاء يزيد الناس غضبًا.
  • ما يقوله الذكاء الاصطناعي يصبح سجلًا. ففي النزاع القانوني، المساعد الذي يرتجل الكلام عن استرداد المبالغ أو المسؤولية يُنشئ تصريحات قد يضطر نشاطك التجاري إلى الالتزام بها.
  • الذكاء الاصطناعي لا يستطيع التصرف. لا يستطيع الاطمئنان على شخص، أو طلب المساعدة، أو الموافقة على استثناء. أما الشخص فيستطيع.
  • من حق الناس أن يعرفوا مع من يتحدثون. فـقواعد الشفافية في قانون الذكاء الاصطناعي الأوروبي تشترط بالفعل إبلاغ المستخدمين بأنهم يتحدثون مع ذكاء اصطناعي. وفي الأزمات، يجب أن يصلوا إلى إنسان بسرعة.

التعليمات المكتوبة في الأوامر وحدها قد تفلت. ما تحتاجه هو شروط إيقاف يُتحقق منها بثبات، إضافة إلى خطة احتياطية: عندما لا يكون المساعد واثقًا، يحوّل المحادثة بدلًا من التخمين.

كيف يبدو الإيقاف الآمن الجيد

يتكون الإيقاف الآمن من خمسة أجزاء:

  1. يتوقف الذكاء الاصطناعي عن الرد في تلك المحادثة. لا اقتراحات منتجات، ولا أسئلة متابعة.
  2. تُرسَل رسالة انتظار قصيرة مكتوبة ومُراجَعة مسبقًا.
  3. تُحوَّل المحادثة إلى فريقك مع نصها الكامل وأي بيانات جُمعت.
  4. يُبلَّغ الشخص المناسب فورًا، لا عندما يتفقد أحدهم قائمة الانتظار في المرة القادمة.
  5. يُسجَّل الحدث مع السبب والوقت ومن تولى المحادثة.

أمثلة على رسائل الانتظار

اجعلها قصيرة وهادئة:

  • نزاع قانوني: "شكرًا لإبلاغنا. لقد حوّلت الأمر إلى فريقنا، وسيرد عليك أحد الموظفين مباشرة."
  • ضيق نفسي: "يؤسفني حقًا أنك تشعر بهذا. سيكون أحد أفراد فريقنا معك قريبًا. إذا كنت في خطر مباشر، فاتصل من فضلك بالرقم 112 أو برقم الطوارئ المحلي لديك."
  • طوارئ طبية: "يبدو أن الأمر عاجل. اتصل من فضلك الآن بالرقم 112 أو برقم الطوارئ المحلي لديك. وقد نبّهت فريقنا أيضًا."
  • إساءة: "سأوقف هذه المحادثة مؤقتًا. سيراجعها فريقنا ويعود إليك."

قواعد التصعيد في الشات بوت: من يُبلَّغ ومتى

الإيقاف لا يكون جيدًا إلا بقدر جودة التحويل الذي يليه. قرّر مسبقًا:

  • من المسؤول عن كل نوع من الإيقاف. التهديدات القانونية تذهب إلى المالك أو مسؤول الشكاوى، والإساءة إلى الموظفين تذهب إلى مدير، وحماية الفئات المستضعفة إلى شخص معيّن لهذه المهمة.
  • كيف يُنبَّهون. استخدم إشعارًا سيرونه فعلًا، لا مجلدًا يتفقدونه أيام الجمعة.
  • ما الذي يحدث خارج ساعات العمل. إذا لم يكن أحد متاحًا ليلًا، فيجب أن توضح رسالة الانتظار متى يُتوقَّع الرد، وفي حالات الطوارئ، أين يمكن الحصول على المساعدة الآن.
  • هل يمكن للذكاء الاصطناعي أن يستأنف. في معظم أنواع الإيقاف، لا. فبمجرد أن يتولى شخص المحادثة، يبقى الذكاء الاصطناعي خارجها.

إذا كانت لديك مصفوفة تصعيد بالفعل، فخصص لآليات الإيقاف الآمن صفًا خاصًا بها في أعلاها. يوضح دليلنا عن بناء مصفوفة التصعيد في الدعم الصيغة، ويشرح مقال تحويل الشات بوت إلى موظف بشري آليات النقل النظيف.

تسجيل المحادثات المتوقفة ومراجعتها

يجب أن يترك كل إيقاف أثرًا: ما الذي تسبب فيه، ومتى، ومن استجاب، وكيف انتهى. راجع السجل أسبوعيًا وابحث عن:

  • حالات إيقاف فائتة، حيث كان يجب أن تتوقف المحادثة ولم تتوقف. شدّد القاعدة.
  • إنذارات كاذبة، حيث تسببت شكوى عادية في الإيقاف. اجعل القاعدة أكثر تحديدًا.
  • تأخر في التولي. إذا نجح الإيقاف لكن لم يستجب أحد لمدة ساعة، فأصلح نظام التنبيه، لا الذكاء الاصطناعي.

تعامل مع نصوص هذه المحادثات كبيانات حساسة: قيّد من يمكنه الاطلاع عليها، ولا تحتفظ بها إلا للمدة التي تحتاجها. هذه إرشادات عامة وليست استشارة قانونية، لذا تحقق من التزاماتك الخاصة مع مستشار.

كيف يُبقي Conviro الذكاء الاصطناعي بعيدًا عن المحادثات الخاطئة

أضاف Conviro آليات الإيقاف الآمن للمحادثات في نهاية أغسطس لهذه اللحظات تحديدًا: عندما تنتقل المحادثة إلى منطقة لا ينبغي للمساعد التعامل معها، يتوقف الذكاء الاصطناعي بدلًا من الارتجال. وتعمل إلى جانب الضوابط التي تضبطها بالفعل لكل مساعد ذكاء اصطناعي، بما في ذلك حدود الإجابات، وحدود الثقة، وضوابط الحماية المحددة مسبقًا، وشروط التحويل.

تصل المحادثات المحوّلة إلى صندوق الوارد المشترك Live Inbox مع نص المحادثة والنية والوسوم والبيانات التي جُمعت، فلا يطلب من يتولاها من العميل أن يعيد سرد قصة مؤلمة. وتحدد قواعد الإشعارات والتوجيه من يعلم بالأمر، والتحويل إلى موظف بشري ممكن دائمًا على كل قناة.

الأسئلة الشائعة

متى يجب أن يحوّل الشات بوت المحادثة إلى إنسان؟

عندما يطلب العميل التحدث إلى شخص، وعندما لا يكون المساعد واثقًا من إجابته، وكلما تعلق الموضوع بالسلامة، أو النزاعات القانونية، أو الطوارئ الصحية، أو الإساءة، أو الأشخاص المستضعفين. وفي هذه الحالات يجب أن يتوقف الذكاء الاصطناعي، ويرسل رسالة انتظار قصيرة، ويحوّل المحادثة كاملة إلى شخص قادر على التصرف.

هل يستطيع روبوت الدردشة بالذكاء الاصطناعي التعرف على العميل الذي يمر بضيق نفسي؟

يستطيع التقاط كثير من الإشارات الواضحة، مثل التصريحات الصريحة باليأس أو طلبات المساعدة المباشرة، لكنه سيفوّت الإشارات الخفية. ولهذا يجب أن تكون قواعد الإيقاف واسعة، وأن يراجع أشخاص المحادثات المتوقفة بانتظام، وأن يتمكن العملاء دائمًا من الوصول إلى إنسان بمجرد الطلب.

ماذا يقول الشات بوت لشخص يمر بأزمة؟

شيئًا قصيرًا وهادئًا ومكتوبًا مسبقًا: يُقرّ بما قاله، ويخبره بأن شخصًا قادم، ويشارك أرقام الطوارئ مثل 112 في الاتحاد الأوروبي. ولا ينبغي أن يحاول تقديم إرشاد نفسي، أو طرح أسئلة استقصائية، أو مواصلة محتوى المبيعات أو الدعم. ويجب أن يتولى شخص مدرَّب المحادثة في أسرع وقت ممكن.

من أين تبدأ

ضع قائمة بفئات الإيقاف لديك، واكتب رسالة انتظار لكل فئة، وقرر من يتلقى التنبيه، بما في ذلك خارج ساعات العمل. ثم اختبر كل واحدة قبل أن تعتمد عليها. ابدأ مجانًا مع Conviro وأعدّ مساعدًا يعرف متى يتنحى جانبًا.

شارك:

نشرت من قبل

كونفيرو

مشاركة الرؤى حول دعم العملاء المدعوم بالذكاء الاصطناعي وأتمتة روبوتات الدردشة واستراتيجيات نمو SaaS.

ضع كتاب اللعب موضع التنفيذ

حوّل معرفتك بالدعم إلى إجابات أسرع

استكشف مساحة عمل دعم الذكاء الاصطناعي في Conviro، ثم ابدأ مجانًا عندما يناسب سير العمل فريقك.

مقالات ذات صلة

المزيد من المشاركات