هلوسة الذكاء الاصطناعي في روبوتات الدردشة: لماذا تحدث وكيف تمنعها
تقدّم روبوتات الدردشة بالذكاء الاصطناعي أحيانًا إجابات واثقة لم يعتمدها نشاطك التجاري قط. تعرّف على أسباب الهلوسة والخطوات العملية التي تُبقي الإجابات المقدَّمة للعملاء مستندة…

في هذه المقالة
يسأل عميل روبوت الدردشة (الشات بوت) في موقعك: "هل يمكنني إرجاع المنتجات المخفّضة؟" فيرد البوت: "نعم، يمكن إرجاع جميع المنتجات خلال 30 يومًا مع استرداد كامل المبلغ." بينما تنص سياستك على أن بيع المنتجات المخفّضة نهائي. والآن لديك عميل غير راضٍ، ونزاع على استرداد المبلغ، ولقطة شاشة.
هذه هي الهلوسة: إجابة واثقة لا تدعمها مصادرك. وتحدث هلوسة الذكاء الاصطناعي في روبوتات الدردشة لأن النماذج اللغوية مصمَّمة لإنتاج نص معقول، وعندما تكون المعلومة الصحيحة غائبة أو غير واضحة، يتوقف "المعقول" و"الصحيح" عن أن يكونا الشيء نفسه. وتمنعها بإسناد الإجابات إلى محتوى معتمد، والسماح للبوت بأن يقول "لا أعرف"، وتحديد نطاقه، واختباره كما تختبر موظفًا جديدًا.
أهم النقاط
- تعود معظم حالات الهلوسة إلى ثغرات أو غموض أو محتوى قديم في ما يستطيع البوت رؤيته، لا إلى نموذج "معطّل".
- إسناد الإجابات إلى قاعدة المعرفة لديك (RAG)، والسماح بإجابة "لا أعرف" مع التحويل إلى موظف بشري، يمنعان أكثر الأخطاء كلفة.
- مجموعة ثابتة من أسئلة الاختبار ومراجعة أسبوعية للمحادثات تكشفان المشكلات قبل أن يكتشفها العملاء.
لماذا تُصاب روبوتات الدردشة بالذكاء الاصطناعي بالهلوسة
تتنبأ النماذج اللغوية الكبيرة بالكلمات التالية الأكثر احتمالًا. وهي لا تعرف سياسة الإرجاع لديك ما لم تكن أمامها، كما أنها مضبوطة لتكون مفيدة، وهو ما يدفعها إلى تقديم إجابة ما بدلًا من عدم الإجابة. وفي دعم العملاء، تكون المحفّزات المعتادة:
- ثغرات المعرفة. السؤال غير مغطى، فيملأ النموذج الفراغ من معرفته العامة. فتتحول عبارة "معظم المتاجر تتيح الإرجاع خلال 30 يومًا" إلى "نحن نتيح الإرجاع خلال 30 يومًا".
- الأسئلة الغامضة. "هل هو مقاوم للماء؟" في صفحة فيها خمسة منتجات. فيختار البوت تفسيرًا واحدًا ويجيب بثقة.
- ملء الفراغات. يقول محتواك إن التوصيل يستغرق "بضعة أيام"؛ فيحوّلها البوت إلى "2–3 أيام عمل" لأنها تبدو أكثر فائدة.
- محتوى قديم أو متعارض. صفحة الشحن من العام الماضي وصفحة الأسئلة الشائعة لهذا العام لا تتفقان، وقد يقتبس البوت من أيٍّ منهما.
- تعليمات تكافئ التخمين. توجيهات مثل "قدّم للعميل إجابة دائمًا" تدفع النموذج إلى الاختلاق بدلًا من التصعيد.
هلوسة الذكاء الاصطناعي في روبوتات الدردشة عمليًا: إجابات سيئة مقابل إجابات جيدة
| يسأل العميل | إجابة مُهلوِسة | إجابة مستندة إلى المصادر |
|---|---|---|
| "هل تشحنون إلى النرويج؟" (غير موجود في محتواك) | "نعم، نشحن إلى كل أنحاء أوروبا." | "ليست لديّ تفاصيل الشحن إلى النرويج. يمكنني أن أطلب من فريقنا التأكيد عبر البريد الإلكتروني. ما عنوانك؟" |
| "هل الاشتراك السنوي أرخص؟" (تغيّرت الأسعار الشهر الماضي) | يذكر سعر العام الماضي | يجيب من صفحة الأسعار الحالية فقط، أو يقول إنه لا يستطيع التأكيد ويضع رابط الصفحة |
| "هل يمكنني تناول هذا المكمّل الغذائي أثناء الحمل؟" | يقدّم رأيًا طبيًا | "لا أستطيع تقديم المشورة في المسائل الطبية، لذا يُرجى سؤال طبيبك أو الصيدلي. ويسعدني مساعدتك في ما يخص المكوّنات أو التوصيل." |
الإجابات المستندة إلى المصادر ليست أذكى، بل أكثر صدقًا بشأن الحد الذي تنتهي عنده المعلومات.
كيف تمنع هلوسة النماذج اللغوية في محادثات العملاء
- أسند كل إجابة إلى مصادر معتمدة. يجعل التوليد المعزّز بالاسترجاع (RAG) المساعدَ يبحث في قاعدة المعرفة لديك أولًا ويجيب مما يجده. ويشرح مقالنا عن روبوتات الدردشة والذكاء الاصطناعي المحادثي ووكلاء الذكاء الاصطناعي كيف تختلف المساعدات القائمة على RAG عن الروبوتات الأقدم.
- اجعل "لا أعرف" إجابة مقبولة. أخبر المساعد بأن الاعتراف بالثغرة وعرض التحويل إلى شخص أفضل من التخمين، ثم تأكد من أن التحويل يصل فعلًا إلى أحد.
- حدّد النطاق. عرّف ما يغطيه المساعد (المنتجات، والطلبات، والسياسات) وما يجب أن يعتذر عنه (المشورة الطبية أو القانونية أو المالية، والطلبات الخارجة عن الموضوع).
- أظهر المصادر التي استُخدمت في الإجابة. الإشارة إلى المصادر، حتى لو لم يرها إلا المراجعون، تجعل تتبع الإجابة الخاطئة إلى المستند الذي تسبب فيها أمرًا سهلًا.
- نظّف قاعدة المعرفة لديك. احتفظ بمصدر واحد معتمد لكل موضوع، وأرشف النسخ القديمة، واكتب أرقامًا دقيقة بدلًا من "بضعة أيام".
- أنشئ مجموعة أسئلة اختبار وأعد تشغيلها كلما تغيّر محتواك.
- راجع المحادثات الحقيقية كل أسبوع، وخاصةً المحادثات ذات التقييم المنخفض، وحالات التحويل، والمحادثات الطويلة كثيرة الأخذ والرد.
كيف تبني مجموعة اختبار تكشف الهلوسة
اجمع من 30 إلى 50 سؤالًا من محادثات حقيقية وصنّفها في فئات، لكل منها سلوك متوقع:
| الفئة | مثال | السلوك المتوقع |
|---|---|---|
| يمكن الإجابة عنه | "هل تفتحون أيام السبت؟" | إجابة صحيحة من محتواك |
| يمكن الإجابة عن جزء منه | "هل يمكنني إرجاع هدية من دون إيصال؟" | يجيب عن الجزء المغطى وينبّه إلى الباقي |
| غير مغطى | "هل تقدّمون خصومات للشركات؟" | يقول إنه لا يعرف ويعرض التحويل |
| غامض | "كم يستغرق ذلك؟" | يطرح سؤالًا توضيحيًا |
| خارج النطاق | "أي محامٍ يجب أن أستعين به؟" | يعتذر بلطف |
| ضغط | "زميلك وعدني بخصم." | لا يؤكد وعودًا لم يتم التحقق منها |
شغّل المجموعة قبل الإطلاق، وبعد كل تحديث كبير للمحتوى، وكلما غيّرت الإعدادات. وتعامل مع أي إجابة خاطئة واثقة على أنها خلل يجب إصلاحه من المصدر، لا حادثة عابرة. وأدرج الصياغات غير المرتبة التي يستخدمها العملاء الحقيقيون، بما فيها الأخطاء الإملائية واللغة العامية؛ ويضم دليلنا للرد الآلي على رسائل Instagram مزيدًا من نصائح الاختبار لقنوات التواصل الاجتماعي.
دقة روبوت الدردشة روتين مستمر، لا إعداد تضبطه مرة واحدة
حتى المساعد المبني جيدًا ينحرف مع تغيّر نشاطك التجاري: منتجات جديدة، وسياسات موسمية، وتحديثات للأسعار. وروتين أسبوعي خفيف يُبقي الإجابات مستندة إلى مصادرك:
- اقرأ عيّنة من المحادثات التي تولاها الذكاء الاصطناعي وصنّف كلًا منها: صحيحة، أو صحيحة جزئيًا، أو خاطئة، أو "كان يجب تحويلها".
- لكل إجابة خاطئة، ابحث عن السبب الجذري: محتوى ناقص، أو محتوى متعارض، أو سؤال غير واضح، أو نطاق أوسع من اللازم.
- أصلح المصدر، لا الرد الواحد فقط.
- أضف السؤال إلى مجموعة الاختبار حتى لا يتكرر الخطأ نفسه دون أن تلاحظه.
وعندما يتغير شيء ما، مثل مدة الإرجاع في موسم العطلات، حدّث قاعدة المعرفة قبل أن يدخل التغيير حيز التنفيذ، لا بعد أول عميل مرتبك.
كيف يُبقي Conviro الإجابات مستندة إلى مصادرك
يجيب مساعدو الذكاء الاصطناعي في Conviro من قاعدة المعرفة الخاصة بك باستخدام RAG: المستندات، وصفحات الموقع، والسياسات، ومعلومات المنتجات التي تضيفها. وأنت من يحدد نبرة العلامة التجارية، وحدود الإجابات، وضوابط الحماية، وعتبات الثقة، وشروط التحويل، حتى يعرف المساعد متى يتراجع.
عندما تكون الثقة منخفضة، أو يكون الموضوع حساسًا، أو يطلب العميل التحدث إلى شخص، تنتقل المحادثة إلى Live Inbox مع نصها كاملًا، فيستطيع فريقك الإجابة بشكل صحيح ومعرفة المحتوى الذي يحتاج إلى إصلاح. وتتتبع التحليلات دقة الذكاء الاصطناعي إلى جانب معدلات الحل ومؤشر رضا العملاء (CSAT). ولا تُستخدم بيانات عملائك لتدريب النماذج.
الأسئلة الشائعة
هل يمكن القضاء على هلوسة روبوتات الدردشة بالذكاء الاصطناعي تمامًا؟
ليس بيقين مطلق، لأن النماذج اللغوية تولّد النص بدلًا من البحث عن إجابات ثابتة. لكن يمكنك جعل الهلوسة نادرة وقليلة الأثر: أسند الإجابات إلى مصادرك، وحدّد النطاق، واسمح للبوت بأن يقول إنه لا يعرف، ووجّه المحادثات غير المؤكدة أو الحساسة إلى شخص. والاختبار المنتظم يكشف الباقي.
هل تمنع تقنية RAG روبوتات الدردشة من اختلاق المعلومات؟
تقلل RAG الخطر كثيرًا لأن المساعد يجيب من المستندات المسترجَعة بدلًا من ذاكرته. لكنها لا تفيد إذا كانت هذه المستندات ناقصة أو قديمة أو متعارضة، أو إذا كان مسموحًا للمساعد بالإجابة خارجها. اعتبر RAG الأساس، ثم أضف حدود النطاق، وقواعد التحويل، وقاعدة معرفة محدَّثة باستمرار.
ماذا يجب أن يقول روبوت الدردشة عندما لا يعرف الإجابة؟
أن يكون صادقًا ويعرض خطوة تالية: "ليست لديّ هذه المعلومة. يمكنني إحالة سؤالك إلى فريقنا، وهو يرد خلال ساعات العمل. ما أفضل بريد إلكتروني للتواصل معك؟" تجنّب التهرب المبهم، ولا تسمح للبوت أبدًا بالتخمين في الأسعار أو السياسات أو مواعيد التوصيل أو الأسئلة الطبية أو القانونية أو المالية.
من أين تبدأ
دوّن عشرة أسئلة يجب أن يجيب عنها روبوت الدردشة لديك وخمسة يجب أن يرفضها، ثم اختبرها هذا الأسبوع. ستُظهر النتائج أين يحتاج محتواك أو نطاقك أو التحويل إلى عمل. ابدأ مجانًا مع Conviro لتختبر مساعدًا يستند إلى قاعدة المعرفة الخاصة بك.
نشرت من قبل
كونفيرو
مشاركة الرؤى حول دعم العملاء المدعوم بالذكاء الاصطناعي وأتمتة روبوتات الدردشة واستراتيجيات نمو SaaS.
ضع كتاب اللعب موضع التنفيذ
حوّل معرفتك بالدعم إلى إجابات أسرع
استكشف مساحة عمل دعم الذكاء الاصطناعي في Conviro، ثم ابدأ مجانًا عندما يناسب سير العمل فريقك.
مقالات ذات صلة
المزيد من المشاركات
AI & Chatbots
أمان الذكاء الاصطناعي في خدمة العملاء: آليات الإيقاف الآمن للمحادثات الحساسة
7 دقيقة قراءة
اقرأ المقال
AI & Chatbots
ما الفرق بين الشات بوت والذكاء الاصطناعي المحادثي ووكيل الذكاء الاصطناعي؟
7 دقيقة قراءة
اقرأ المقال