Konuşma Güvenlik Durdurmaları: Yapay Zekâyı Yönetmemesi Gereken Konuşmalardan Uzak Tutun
Bazı müşteri mesajları yapay zekâya göre değildir: ruhsal sıkıntı, tehditler, hukuki anlaşmazlıklar, acil durumlar ve taciz. Güvenlik durdurmalarını nasıl tanımlayacağınızı,…

Bu yazıda
"Bu sorun bugün çözülmezse avukatım sizinle iletişime geçecek."
"Artık hiçbir şeyin bir anlamı yokmuş gibi geliyor."
Müşterileriyle yazışan her işletme er ya da geç bu tür mesajlar alır. "Yaşadığınız hayal kırıklığını anlıyorum! İşte iade politikamız" diye yanıt veren bir asistan, verilebilecek en kötü yanıttır.
Müşteri hizmetlerinde yapay zekâ güvenliği tek bir kuralla başlar: Bazı konuşmalar yapay zekânın yöneteceği konuşmalar değildir. Bir mesaj ruhsal sıkıntıya, tehdide, hukuki bir anlaşmazlığa, tıbbi bir acil duruma veya tacize işaret ettiğinde asistan yanıt vermeyi bırakmalı, kısa ve insani bir mesaj göndermeli ve hızla bir insanı devreye sokmalıdır. Hangi durumların durdurma gerektirdiğini, iyi bir durdurmanın neye benzediğini ve bunları nasıl kaydedip inceleyeceğinizi anlatıyoruz.
Öne çıkanlar
- Yapay zekâyı hangi konuların durduracağını önceden tanımlayın: ruhsal sıkıntı, tehditler, hukuki anlaşmazlıklar, tıbbi acil durumlar, hakaret ve taciz.
- İyi bir durdurma yapay zekâyı duraklatır, önceden yazılmış kısa bir bekletme mesajı gönderir ve konuşmanın tamamını doğru kişiye devreder.
- Her durdurmayı kaydedin ve kayıtları her hafta inceleyin; böylece kurallarınız netleşir ve kimse gözden kaçmaz.
Hangi hassas konuşmalar yapay zekâyı durdurmalı?
Her öfkeli mesaj durdurma gerektirmez. Geciken bir koli yüzünden canı sıkılan bir müşteri olağan bir destek konusudur. Sınır, kişisel güvenlik, hukuki risk veya birinin iyiliği söz konusu olduğunda aşılır.
| Durum | Örnek işaretler | Ne olmalı? |
|---|---|---|
| Ruhsal sıkıntı veya kendine zarar verme | Umutsuzluk, kendine zarar vermekten söz etme | Durdurun, acil durum iletişim bilgilerini paylaşın, hemen bir insanı uyarın |
| Şiddet tehditleri | Personele, müşterilere veya işyerine yönelik tehditler | Durdurun, etkileşime girmeyin, bir yöneticiye aktarın |
| Hukuki anlaşmazlıklar | Avukat, mahkeme, resmi şikâyetler, itiraz edilen ters ibrazlar (chargeback) | Durdurun, mesajı aldığınızı belirtin, şikâyetlerden sorumlu kişiye yönlendirin |
| Tıbbi acil durumlar | Ağır belirtiler, alerjik reaksiyonlar, yaralanmalar | Durdurun, acil servislere yönlendirin, personeli uyarın |
| Hakaret ve taciz | Personeli hedef alan aşağılamalar, nefret söylemi, cinsel içerik | Durdurun veya kibarca kapatın, inceleme için işaretleyin |
| Koruma gerektiren durumlar | Reşit olmayan veya kırılgan bir kişinin risk altında olduğuna dair işaretler | Durdurun ve bu konuda görevlendirilmiş kişiyi uyarın |
Bunun işlemesini iki ilke sağlar. Şüpheye düştüğünüzde durdurun: Yanlış bir alarm bir ekip üyesine bir dakikaya mal olur, gözden kaçan bir durum ise çok daha pahalıya patlayabilir. Ve net olun: "Hassas konular" bir kural değildir, ancak "hukuki işlemden, avukattan veya mahkemeden söz edilen her mesaj" bir kuraldır.
Yapay zekâ neden durumu yatıştırmaya çalışmamalı?
İyi ayarlanmış bir asistanın zor konuşmaları empatiyle yönetmesine izin vermek cazip gelebilir. Bu cazibeye direnin.
- Üretilmiş bir anlayış, üzgün biri için içi boş görünür ve duyulmadığını hissetmek insanları daha da öfkelendirir.
- Yapay zekânın söyledikleri kayda geçer. Hukuki bir anlaşmazlıkta iadeler veya kusur hakkında doğaçlama yapan bir asistan, işletmenizin arkasında durmak zorunda kalabileceği beyanlar oluşturur.
- Yapay zekâ harekete geçemez. Birinin durumunu kontrol edemez, yardım çağıramaz veya bir istisnayı onaylayamaz. Bir insan bunları yapabilir.
- İnsanlar kiminle konuştuklarını bilmeyi hak eder. AB Yapay Zekâ Yasası'nın şeffaflık kuralları, kullanıcılara bir yapay zekâyla yazıştıklarının söylenmesini zaten zorunlu kılıyor. Kriz anında ise hızla bir insana ulaşabilmeleri gerekir.
Yalnızca istem talimatları her zaman tutmayabilir. İhtiyacınız olan, tutarlı şekilde kontrol edilen durdurma koşulları ve bir yedek mekanizmadır: Asistan emin olmadığında tahmin yürütmek yerine konuşmayı devreder.
İyi bir güvenlik durdurması neye benzer?
Bir güvenlik durdurmasının beş parçası vardır:
- Yapay zekâ o konuşmada yanıt vermeyi bırakır. Ürün önerisi yok, ek soru yok.
- Kısa bir bekletme mesajı gönderilir; bu mesaj önceden yazılmış ve gözden geçirilmiştir.
- Konuşma ekibinize devredilir; konuşma dökümünün tamamı ve toplanan bilgilerle birlikte.
- Doğru kişi hemen bilgilendirilir; birinin kuyruğa bir sonraki bakışını beklemeden.
- Olay kaydedilir; gerekçe, saat ve konuşmayı kimin devraldığı bilgisiyle.
Örnek bekletme mesajları
Mesajları kısa ve sakin tutun:
- Hukuki anlaşmazlık: "Bize bildirdiğiniz için teşekkür ederiz. Konuyu ekibimize ilettim; bir çalışanımız size doğrudan dönüş yapacak."
- Ruhsal sıkıntı: "Böyle hissettiğiniz için gerçekten çok üzgünüm. Ekibimizden biri kısa süre içinde sizinle olacak. Hemen bir tehlike altındaysanız lütfen 112'yi veya bulunduğunuz yerdeki acil yardım numarasını arayın."
- Tıbbi acil durum: "Bu acil bir durum gibi görünüyor. Lütfen hemen 112'yi veya bulunduğunuz yerdeki acil yardım numarasını arayın. Ekibimizi de uyardım."
- Hakaret: "Bu konuşmayı duraklatıyorum. Ekibimiz konuşmayı inceleyip size geri dönecek."
Chatbot eskalasyon kuralları: Kim, ne zaman bilgilendirilir?
Bir durdurma, ancak arkasındaki devir kadar iyidir. Şunlara önceden karar verin:
- Her durdurma türünden kimin sorumlu olduğu. Hukuki tehditler işletme sahibine veya şikâyet sorumlusuna, personele yönelik hakaretler bir yöneticiye, koruma gerektiren durumlar ise bu konuda görevlendirilmiş kişiye gider.
- Nasıl uyarılacakları. Cuma günleri kontrol edilen bir klasör değil, gerçekten görecekleri bir bildirim kullanın.
- Mesai dışında ne olacağı. Gece kimse müsait değilse bekletme mesajı ne zaman yanıt bekleneceğini ve acil durumlar için şu anda nereden yardım alınabileceğini söylemelidir.
- Yapay zekânın konuşmaya geri dönüp dönemeyeceği. Çoğu durdurma türü için hayır. Bir insan konuşmayı devraldıktan sonra yapay zekâ dışarıda kalır.
Halihazırda bir eskalasyon matrisiniz varsa güvenlik durdurmalarına en üstte ayrı bir satır açın. Destek eskalasyon matrisi oluşturma rehberimiz biçimi gösteriyor; chatbot'tan insana devir yazımız ise temiz bir aktarımın nasıl işlediğini ele alıyor.
Durdurulan konuşmaları kaydetmek ve incelemek
Her durdurma bir iz bırakmalıdır: Neyin tetiklediği, ne zaman olduğu, kimin yanıt verdiği ve nasıl sonuçlandığı. Kayıtları her hafta inceleyin ve şunlara bakın:
- Kaçırılan durdurmalar: Durması gerekirken durmayan konuşmalar. Kuralı sıkılaştırın.
- Yanlış alarmlar: Sıradan bir şikâyetin durdurmayı tetiklediği durumlar. Kuralı daha belirgin hale getirin.
- Geç devralmalar. Durdurma çalıştı ama bir saat boyunca kimse yanıt vermediyse yapay zekâyı değil, uyarı düzenini düzeltin.
Bu konuşma dökümlerini hassas veri olarak ele alın: Bunları kimlerin görebileceğini sınırlayın ve yalnızca ihtiyaç duyduğunuz süre boyunca saklayın. Bu yazı hukuki tavsiye değil, genel bir rehberdir; kendi yükümlülüklerinizi bir danışmanla kontrol edin.
Conviro, yapay zekâyı yanlış konuşmalardan nasıl uzak tutar?
Conviro, tam da bu anlar için ağustos sonunda konuşma güvenlik durdurmalarını ekledi: Bir konuşma asistanın yönetmemesi gereken bir alana kaydığında yapay zekâ doğaçlama yapmak yerine durur. Bu durdurmalar, her yapay zekâ asistanı için zaten belirlediğiniz yanıt sınırları, güven eşikleri, kural tabanlı güvenlik sınırları (guardrails) ve devir koşulları gibi kontrollerle birlikte çalışır.
Devredilen konuşmalar konuşma dökümü, niyet, etiketler ve toplanan bilgilerle birlikte ortak Live Inbox'a düşer; böylece konuşmayı devralan kişi müşteriden acı verici bir hikâyeyi yeniden anlatmasını istemez. Bildirim ve yönlendirme kuralları kimin haberdar edileceğini belirler; insan temsilciye devir ise her kanalda her zaman mümkündür.
Sıkça Sorulan Sorular
Chatbot bir konuşmayı ne zaman insana devretmeli?
Müşteri bir insanla görüşmek istediğinde, asistan yanıtından emin olmadığında ve konu güvenlik, hukuki anlaşmazlıklar, sağlıkla ilgili acil durumlar, taciz veya kırılgan kişilerle ilgili olduğunda. Bu durumlarda yapay zekâ durmalı, kısa bir bekletme mesajı göndermeli ve konuşmanın tamamını harekete geçebilecek birine iletmelidir.
Yapay zekâ chatbot'u müşterinin ruhsal sıkıntı içinde olduğunu anlayabilir mi?
Açıkça umutsuzluk ifade eden cümleler veya doğrudan yardım talepleri gibi belirgin işaretlerin çoğunu yakalayabilir, ancak ince işaretleri kaçıracaktır. Bu yüzden durdurma kuralları geniş tutulmalı, durdurulan konuşmalar düzenli olarak insanlar tarafından incelenmeli ve müşteriler yalnızca isteyerek her zaman bir insana ulaşabilmelidir.
Chatbot kriz yaşayan birine ne söylemeli?
Kısa, sakin ve önceden yazılmış bir şey: Kişiyi duyduğunu belirtmeli, bir insanın geleceğini söylemeli ve AB'de 112 gibi acil durum iletişim bilgilerini paylaşmalıdır. Danışmanlık yapmaya çalışmamalı, kurcalayıcı sorular sormamalı veya satış ya da destek içeriğine devam etmemelidir. Eğitimli bir kişi konuşmayı olabildiğince hızlı devralmalıdır.
Nereden başlamalı?
Durdurma kategorilerinizi listeleyin, her biri için bir bekletme mesajı yazın ve mesai dışı dahil kimin uyarılacağına karar verin. Ardından her birine güvenmeden önce hepsini test edin. Conviro ile ücretsiz başlayın ve ne zaman geri çekileceğini bilen bir asistan kurun.
Yayınlayan
Conviro
Yapay zekâ destekli müşteri desteği, chatbot otomasyonu ve SaaS büyüme stratejileri hakkında içgörüler paylaşıyoruz.
Rehberi uygulamaya geçirin
Destek bilginizi daha hızlı yanıtlara dönüştürün
Conviro'nun yapay zekâlı müşteri desteği çalışma alanını keşfedin; iş akışı ekibinize uyduğunda ücretsiz başlayın.
İlgili yazılar
Daha Fazla Yazı
AI & Chatbots
Chatbot ve Konuşma Tabanlı Yapay Zekâ Farkı: Yapay Zekâ Ajanı Nerede Duruyor?
7 dk okuma
Yazıyı oku
AI & Chatbots
Yapay Zekâ Halüsinasyonları: Chatbot'lar Neden Uydurur ve Nasıl Önlenir?
7 dk okuma
Yazıyı oku