Chatbot Analitiği: KPI, Dashboard ve Metrik Rehberi

Patryk Lasek
Yayımlandı Güncellendi 14 dk okuma
Eksiksiz Chatbot Analitiği Rehberi: KPI’lar, Dashboard’lar ve Deflection Rate Açıklaması için küçük görsel

Chatbot analitiği, müşterilerin yararlı yardım alıp almadığını, insanlara ne kadar iş kaldığını ve bu hizmetin ne kadara mal olduğunu göstermelidir. Görüşme hacmiyle başlayın, onaylanmış çözümleri çözüldüğü varsayılanlardan ayırın, insana aktarımları ve yanıtsız aktarımları izleyin, geri bildirimleri yanıt sayısıyla birlikte sunun. Ölçmek için gerekli kayıtlarınız olduğunda doğrulanmış görev tamamlamayı ve tekrar başvuruları ekleyin.

İnsana aktarım yapılmadan biten bir görüşme, sorunun çözüldüğünü kanıtlamaz. Benzer şekilde AI tarafından oluşturulan sonuç etiketi, olumlu değerlendirme ve tamamlanmış para iadesi farklı kanıt türleridir. Her metriğin yanında incelenen topluluğu, payı, paydayı ve gözlem aralığını tanımlayın.

Sentetik chatbot analitiği çalışma sayfasını indirin. Dosya, 20 kurgusal görüşme ile sonuç incelemesi, aktarımlar, geri bildirim, tekrar başvurular ve dağıtılmış maliyetler için düzenlenebilir alanlar içerir. Hesaplamalar aşağıdaki örnekte açıklanmıştır. Bunlar eğitim verileridir; müşteri sonuçları, ürün testi veya Quickchat AI dışa aktarma biçimi değildir.

SoruNereden başlamalı?Görünür tutulması gerekenler
Chatbot’a ne kadar talep ulaştı?Görüşmeler ve mesajlarDönem, kanal, dil ve hariç tutulan test trafiği
Sistem neleri çözülmüş olarak sınıflandırdı?Onaylanmış ve çözüldüğü varsayılan görüşme sayılarıÇözülmemiş durumlar, gündelik sohbetler ve sınıflandırmanın sınırları
Self servis gerçekten işe yaradı mı?İncelenmiş görev tamamlama ve tekrar başvurularİnceleme ölçütleri, bilinmeyen sonuçlar ve gözlem aralığı
Destek ekibine ne ulaştı?Onaylanmış aktarımlar ve insan yanıtlarıYanıtsız aktarımlar ve yanıtlanan aktarım oranı
Müşteriler deneyimi nasıl değerlendirdi?Soruya ve toplama noktasına göre geri bildirimYanıt sayısı ve eksik geri bildirim
Yararlı hizmetin maliyeti neydi?Dağıtılmış işletim maliyetinin tanımlı sonuçlara bölünmesiDahil edilen maliyet kalemleri ve çözümün kesin tanımı

Finansal model için müşteri desteği maliyetlerini azaltma rehberine ve chatbot ROI hesaplayıcısına bakın. Çalışanların başka işler için serbest kalan zamanı, yalnızca harcamalar gerçekten düştüğünde veya aksi halde gerekli olacak bir gider önlendiğinde nakit tasarrufuna dönüşür.

İsteğe bağlı örnek kontrolleri

Giriş: Chatbot analitiği neden önemlidir?

Chatbot analitiği nedir?

Chatbot analitiği; görüşme kayıtlarını, sistem olaylarını, müşteri geri bildirimlerini ve varsa iş sonuçlarını bir araya getirir. Pratik amacı, düzeltilmeye değer bir sorunu belirlemek ve değişikliğin işe yarayıp yaramadığını kontrol etmektir.

Üç kanıt katmanını ayrı tutun: sistemin kaydettiği, müşterinin bildirdiği ve sizin bağımsız olarak doğruladığınız şeyler. Duygu, çıkarımla belirlenen bir etikettir. Anket, yanıt verenlerin geri bildirimidir. Başarılı sipariş iptali, sipariş sisteminden kanıt gerektirir. Hiçbiri diğerinin yerini otomatik olarak almaz.

Tek bir destek kuyruğu ve sabit bir dönemle başlayın. Saat dilimini, hangi görüşmelerin kapsama girdiğini, tekrar kayıtların nasıl işlendiğini ve takibin ne zaman bittiğini belirtin. Değişiklikten önceki ve sonraki benzer trafiği karşılaştırın; farkı açıklayabilecek ürün lansmanlarını, kesintileri veya kanal dağılımındaki değişiklikleri kaydedin.

Kategorilere göre temel chatbot metrikleri

Küçük bir raporlama seti seçmek için bu kategorileri kullanın. Bunlar ölçüm seçeneklerini açıklar; kullanılabilirlik platformunuza, entegrasyonlarınıza ve veri toplama düzeninize bağlıdır.

Temel kullanıcı metrikleri

Görüşme sayısı kişi sayısı değildir. Bir kişi farklı oturum veya cihazlardan dönebilir; anonim ziyaretçiler her zaman güvenilir biçimde eşleştirilemez.

MetrikÇalışma tanımı ve sınırlama
Toplam ziyaretçiSeçilen dönemdeki benzersiz ziyaretçi tanımlayıcıları; kimlik belirleme kuralını belgeleyin
Aktif ziyaretçiEn az bir mesaj gönderen veya tanımlı bir etkileşimi tamamlayan, kimliği belirlenmiş benzersiz ziyaretçiler
Etkileşimli görüşmelerEsaslı bir soru içermek gibi belirtilen kurala uyan görüşmeler; ek mesajlar tek başına değer göstermez
Yeni ziyaretçilerKimlik belirleme ve saklama sınırları dahilinde, dönem içinde ilk kez gözlenen tanımlayıcılar
DuyguGörüşme tonunun otomatik yorumu; konuşma kaydıyla kontrol edilmelidir ve müşteri geri bildirimiyle uyuşmayabilir

Toplam görüşme sayısını benzersiz kullanıcı olarak yeniden adlandırmayın. Kanallar arası kimlik eşleştirmesi yoksa kanal bazında sayıları ve bu sınırlamayı raporlayın.

Görüşme metrikleri

Süre ve mesaj hacmi, sonuçlarla birlikte kullanıldığında anlam kazanır. Kısa bir görüşme başarıyla veya terk edilerek bitebilir; uzun bir görüşme karmaşıklığı ya da tekrar eden başarısız yanıtları yansıtabilir.

MetrikÖlçüm kuralı
Görüşme süresiBaşlangıç ve bitiş olaylarını, hareketsizlik sınırını ve hâlâ açık görüşmelerin nasıl ele alınacağını tanımlayın
Etkileşim veya tamamlamaİstenen formun gönderilmesi gibi belirli bir eylemi uygun görüşmelere göre sayın
Erken ayrılmalarHareketsizlik veya çıkış kuralını belirtin; ayrılmak, neden ayrılındığını göstermez
İnsan çalışma süresiPersonelin çalışma süresini müşterinin geçen bekleme süresinden ayrı ölçün
Fallback mesajlarıFallback yanıtı alan uygun ziyaretçi mesajları; her ziyaretçi mesajı en fazla bir kez sayılır. Hangi yanıtların fallback sayıldığını tanımlayın

İş akışı açısından önemliyse AI yanıt gecikmesini ayrı ölçün. Saatin ilk tokende mi yoksa ilk yararlı yanıtta mı duracağını tanımlayın. Bunların hiçbiri aktarım sonrası bir insanı beklemekle aynı değildir.

Sonuç metrikleri

Yüzdeleri karşılaştırmadan önce paydayı yazın. Mesaj düzeyindeki başarısızlık oranı ile görüşme düzeyindeki çözüm oranı farklı soruları yanıtlar.

MetrikKaydedilmesi gereken tanım
Hedef tamamlamaBelirli bir görevin doğrulanmış tamamlanmasının uygun girişimlere bölünmesi
Self servis başarısıİnsan yardımı olmadan başarı ölçütlerinizi karşılayan sorunların tanımlı destek kohortuna bölünmesi
Müşteri memnuniyetiAdı belirtilmiş anket sorusu ve ölçek; yanıt sayısı ve toplama noktasıyla raporlanır
İnsana aktarım oranıOnaylanmış aktarımı olan görüşmelerin seçilen topluluktaki görüşmelere bölünmesi
Fallback oranıFallback yanıtı alan uygun ziyaretçi mesajlarının, her biri en fazla bir kez sayılarak, tüm uygun ziyaretçi mesajlarına bölünüp 100 ile çarpılması
Raporlanan çözüm oranıPlatformun belgelenmiş sonuç hesabı; dahil edilen ve dışarıda bırakılan kategorilerle birlikte

Çalışma sayfasında fallback_messages, fallback yanıtı alan uygun ziyaretçi mesajlarını, her ziyaretçi mesajını en fazla bir kez sayarak ölçer. Burada 80 uygun ziyaretçi mesajının 10’u fallback yanıtı almıştır; sonuç 12.5% olur. Bu sayıyı toplamdan çıkarmak, fallback almayan mesajların payını hesaplar. Sonunda başarıya ulaşan bir görüşmenin içinde de fallback olabilir.

Aktarım da doğru sonuç olabilir; örneğin müşteri bir insan istediğinde veya gereken yetkilendirme personel incelemesini zorunlu kıldığında. Bu yolu Human Handoff iş akışı ile değerlendirin.

LLM botları için AI’ya özgü metrikler

Model davranışını tedarikçinizin faturalandırdığı birimden ayırın.

MetrikNasıl yorumlanmalı?
Token veya yanıt kredisiTokenlar modelin giriş ve çıkış birimlerini tanımlar. Quickchat AI kredileri, seçilen modelin oranıyla her AI yanıtı için tüketilir; görüşme sayısı değildir
Yanıt kalitesiYazılı bir değerlendirme ölçütüne göre olgusal doğruluğu, ilgililiği, kaynaklara dayanmayı ve görev tamamlamayı inceleyin
Niyet sınıflandırma doğruluğuTahmin edilen niyetleri bağımsız etiketlenmiş örneklerle karşılaştırın; yalnızca konu sayısı doğruluğu ölçmez

Temel kavramı token açıklamamız ele alır. AI kredisi belgeleri, test sırasında üretilen yanıtlar dahil platformun birimini açıklar. Varsa değerlendirme ve harici hizmet ücretlerini ayrı izleyin.

Çözüm, çözüm başına maliyet ve duygu

Kanıtları ve kapsadıkları topluluklar açık olduğunda bu ölçüler birlikte yararlıdır. Müşteri başarısının birbirinin yerine geçen göstergeleri değildir.

AI çözüm oranı

Quickchat AI’ın Analytics belgeleri, soru içeren görüşmeler için üç sonuç tanımlar:

  • Onaylanmış Çözüm: ziyaretçi sorunun çözüldüğünü açıkça belirtmiştir.
  • Çözüldüğü Varsayılan: açık onay olmadan çözüm çıkarımı yapılmıştır.
  • Çözülmemiş: soru tatmin edici biçimde yanıtlanmamıştır.

Gösterilen hesaplama şöyledir:

Reported resolution rate =
(Confirmed Resolution + Assumed Resolution)
/ (Confirmed Resolution + Assumed Resolution + Unresolved) × 100

Gündelik Sohbet, çözülecek esaslı bir soru içermediği için hariç tutulur. Yalnızca gündelik sohbet içeren bir dönemin çözüm oranı yoktur. Hariç tutulan sayıyı görünür bırakın.

Bunlar raporlanan sınıflandırmalardır; her görevin bağımsız denetimi veya kimsenin daha sonra dönmediğinin kanıtı değildir. Aktarım ayrı bir boyuttur; aktarılan her görüşmeyi birbirini dışlayan bir sonuç grubuna zorlamayın. Görünüşte başarılı olanlar dahil tüm kategorilerden örnekler inceleyin.

Çözüm başına maliyet

Aynı raporlama kapsamından maliyetleri ve sonuçları kullanın. Platform ve kullanım ücretlerini, bağlı hizmetleri, inceleme ve bakım işini, seçtiğiniz hizmet sınırına dahil insan desteğini hesaba katın. Platform fiyatı zaten model ücretini içeriyorsa aynı ücreti yeniden eklemeyin.

Cost per defined resolution = Allocated operating cost / Count of defined resolutions

Sentetik çalışma sayfasında 20 satırın her birine örnek olarak $6, toplamda $120 atanmıştır. Bu, sınıflandırılmış çözüm başına $10 ($120 / 12) veya doğrulanmış self servis başarısı başına $15 ($120 / 8) demektir. Aynı maliyetin farklı paydaları vardır. Bu kurgusal dağıtımlar tedarikçi fiyatı veya sektör karşılaştırma ölçütü değildir.

Kendi raporunuzda ortak maliyetleri ve iş gücünü nasıl dağıttığınızı belgeleyin. Değeri hesaplanmış personel saatlerini içeren maliyet ekonomik maliyettir; mutlaka ortadan kaldırabileceğiniz bir nakit gider değildir. Uygun çözüm yoksa maliyeti ve sıfır sonucu raporlayın; oran tanımsızdır. Sonuçlara daha geniş bir bakış LLM’lerle konuşmak artık ucuz değil yazısında ele alınır.

Görüşme duygusunun dağılımı

Quickchat AI’ın Advanced görünümü, zaman içinde Olumlu, Nötr ve Olumsuz görüşme sayılarını gösterir. Bunları incelenecek görüşmeleri seçmek için kullanın. Olumsuz etiketi bir anket yanıtı olarak yorumlamayın veya her mesajın ayrı duygu puanı aldığını varsaymayın.

Tekrarlayan sorunları bulmak için görüşme kaydı incelemesini konu örüntüleriyle birleştirin. Otomatik keşfedilen konuları ekibinizin tanımladığı özel kategorilerden ayırın. Topics tanıtımı, bu kategorileri düzenlemeye yönelik temel bilgileri sunar.

Deflection rate ayrıntıları: Formül, kanıtlar ve iyileştirme yolları

Ekipler “deflection” sözcüğünü farklı anlamlarda kullanır. İnsana aktarım yapılmamasını mı, doğrulanmış self servis başarısını mı, yoksa gelen destek taleplerinde ölçülen azalmayı mı kastettiğinizi belirtin. Bunlar farklı kanıtlar gerektirir.

Deflection rate nedir?

Operasyonel raporlama için containment kavramını, belirtilen chatbot kohortunda aktarım yapılmayan görüşmelerin payı olarak tanımlayın. Bu, birinin yardım almadan ayrıldığı görüşmeler dahil yönlendirmeyi ölçer.

No-handoff containment = Conversations without a handoff / All cohort conversations × 100
Verified self-service share = Verified self-service successes / Eligible support conversations × 100

Önlenmiş destek talebi daha güçlü bir iddiadır: chatbot olmasaydı ne olacağını sorar. Yalnızca aktarım yapılmayan görüşme sayısı bu karşı olgusal durumu ortaya koyamaz. Destek talebi ihtiyacındaki azalmayı chatbot’a atfetmeden önce uygun bir karşılaştırma veya deney kullanın.

Neden önemlidir: Maliyet ve müşteri deneyimi

Yararlı otomasyon, personelin tekrar eden işlerini azaltabilir veya müşterinin yanıta ulaşmasını kısaltabilir. Genel bir tasarruf yüzdesi atamak yerine her iki yönü de kontrol edin.

Aktarım sonrasında kalan insan işini, tekrar başvuruların iş yükünü ve inceleme çabasını izleyin. Daha hızlı bir AI yanıtı, politikayı yanlış açıklıyorsa yine de ek iş yaratabilir. Buna karşılık uygun bir aktarım, containment oranını düşürse bile müşteriyi koruyabilir.

ROI iddiasında bulunmadan önce operasyonel değişiklikleri gerçek faturalarla, fazla mesaiyle, personel ihtiyacıyla veya belgelenmiş kapasiteyle ilişkilendirin.

Evrensel bir ölçüt yerine sentetik çalışma sayfası

Bu değerleri bir elektronik tabloda yeniden üretmek için indirilebilir CSV’yi kullanın. Her satır kurgusaldır. Kohort, 1 Ekim 2026’da başlayan 20 görüşme içerir: 18 ayrı sorun hakkında 18 ilk destek görüşmesi ve 2 gündelik sohbet. Daha sonraki tekrar başvurular, ek kohort satırları değil, ilk sorunlara bağlanmış işaretlerdir. Tekrar başvurular her ilk görüşmenin başlamasından sonraki 7 gün içinde sayılır. Kurgusal inceleme tarihi 9 Ekim’dir; dolayısıyla tüm takip aralıkları tamamlanmıştır.

Çalışma sayfasındaki ölçüHesaplamaSonuç
Raporlanan çözüm(6 onaylanmış + 6 çözüldüğü varsayılan) / 18 soru66.7%
Aktarım payı5 / 20 görüşme25%
Aktarımsız containment15 / 20 görüşme75%
Doğrulanmış self servis payı8 / 18 destek görüşmesi44.4%
İnsan yanıtı kapsamı4 yanıtlanmış / 5 aktarım80%
İnsan yanıt süreleri120, 300, 600 ve 1800 saniyeOrtalama 705 saniye; medyan 450 saniye
Yanıtsız aktarımlar1 / 5 aktarım20%
Aktarım sonrası CSAT5, 4 ve 2 puanları3 değerlendirmeden ortalama 3.67 / 5
AI’ın yararlılığına ilişkin geri bildirim8 “evet” / 10 yanıt80%; 10 görüşmede yanıt kaydı yok
Fallback payı10 / 80 ziyaretçi mesajı12.5%
Dağıtılmış maliyet20 × $6$120

CSV’nin alanları çalışma sayfası sütunlarıdır; Quickchat AI dışa aktarma alanları değildir. Dosyayı virgül ayırıcı ve UTC zaman damgalarıyla bir elektronik tabloya aktarın. Hesaplamaları diller arasında paylaşıyorsanız sütun tanımlayıcılarını değiştirmeyin.

Uyarlamak için:

  1. Kurgusal satırları, tanımlı kohortunuzdaki her ilk görüşme için bir satırla değiştirin. Görüşme kimliklerini sorun kimliklerinden ayrı tutun: birden fazla görüşme aynı sorunla ilgili olabilir ve tek bir görüşme birkaç sorun içerebilir. Tekrar başvuruları yeniden ilk satır olarak eklemek yerine özgün sorunlarına bağlayın. İnceleme kesim tarihini ve takip aralığını kaydedin.
  2. resolution_label alanını raporlanan kategoriyle doldurun. Small Talk değerini destek paydasının dışında bırakın. Aktarım ve insan yanıtı zaman damgalarını ayrı kaydedin. human_reply_status içinde answered, unanswered, unknown ve not_applicable değerlerini ayırın. Eksik yanıt zaman damgası hiçbir zaman sıfır saniye değildir; erişilemeyen kayıtlar aktarımın yanıtsız kaldığını kanıtlamaz.
  3. reviewed_ai_task_success içinde görev başarısını bağımsız olarak inceleyin. same_issue_recontact_7d için güvenilir biçimde tanımlayabildiğiniz kanallardaki sonraki başvuruları birleştirin. Kanıt yoksa veya gözlem aralığı tamamlanmadıysa unknown, gündelik sohbet için not_applicable kullanın.
  4. Doğrulanmış self servisi yalnızca görev başarısı yes, tekrar başvuru no olduğunda ve aktarım yapılmadığında sayın. Tüm uygun destek görüşmelerine bölün. Burada 3 görev incelemesi ve 4 tekrar başvuru kontrolü bilinmiyor. Paydada kalırlar, ancak başarısızlık olarak etiketlenmezler. 8 / 18 sonucu temkinli bir doğrulanmış paydır; otomatik olarak İlk Temasta Çözüm değildir.
  5. Düzenledikten sonra sayıları ve oranları yeniden hesaplayın. Yanıtlanmış aktarımları filtreleyin, zaman damgalarının farkını saniye cinsinden alın ve yanıtlanmış / toplam aktarım oranının yanında ortalama ile medyanı hesaplayın. Yalnızca kaydedilmiş CSAT değerlerinin ortalamasını alın. Yararlılık sorusundaki “evet” yanıtlarını bu soruya kaydedilmiş tüm yanıtlara bölün. Maliyet sütununu bir kez toplayın, sonra seçtiğiniz sonuç sayısına bölün.

Bu örnekte tüm gözlem aralıkları tamamlanmış olsa da 4 destek görüşmesinin tekrar başvurusuna ilişkin güvenilir kanıt hâlâ yoktur. Takibi bilinen 14 görüşmenin 5’inde aynı soruna ilişkin tekrar başvuru vardır. Gözlenen tekrar başvuru bulunmaması, memnuniyeti kanıtlamaz veya izlenmeyen bir kanaldan iletişim kurulmasını dışlamaz.

Sabit kohort bir eğitim aracıdır. Gerçek dashboard kartları, kayıtları farklı olay tarihlerine göre gruplayabilir; dışa aktarımları karşılaştırmadan veya bir grafiği yeniden oluşturmadan önce tarih kurallarını eşitleyin. $6 maliyet dağıtımını kendi belgelenmiş maliyet yönteminizle değiştirin. Payda sıfırsa yüzdeyi kullanılamaz bırakın.

“İyi” ve “kötü” deflection

Müşterilerin doğru yardım alıp almadığını ve gerektiğinde bir insana ulaşıp ulaşamadığını değerlendirin. Tekrar başvurular, şikâyetler veya yanıtsız aktarımlarla birlikte görülen yüksek containment incelenmelidir.

Ankete yanıt verenler sessiz kullanıcılardan farklı olabilir. Yalnızca görünür başarısızlıkları incelemek yerine, puan verilmemiş görüşmelerin ve çözülmüş sınıflandırılanların bir bölümünü de kontrol edin. Manuel kalite puanının yanında örneklem büyüklüğünü ve seçim kurallarını raporlayın.

AI Discord destek talebi botu, önce bilgi tabanından yanıt vermeyi ve gerektiğinde talep açmayı örnekler. Talep oluşturma olayı eskalasyonu gösterir; nihai çözümü göstermez.

Başarısızlıkları gizlemeden self servisi geliştirmek için dokuz yöntem

  1. Tekrarlayan yanlış yanıtların arkasındaki kaynak makaleyi düzeltin.
  2. Eksik politika koşullarını ve istisnaları Knowledge Base içine ekleyin.
  3. Belirsiz, çok dilli ve eksik soruları test edin.
  4. Açık bir soruyla isteğe bağlı geri bildirim toplayın.
  5. İnsan yardımı isteklerinin tamamlanmasını kolaylaştırın.
  6. Başarı ilan etmeden önce sipariş, rezervasyon veya hesap Actions sonuçlarını doğrulayın.
  7. Yardım içeriğinin gezinme ve arama yoluyla bulunmasını sağlayın.
  8. Prompt veya bilgi değişikliğinden sonra temsil edici vakaları yeniden test edin.
  9. Raporlanan çözümle birlikte tekrar başvuruları ve yanıtsız aktarımları inceleyin.

Bir değişikliğin önceliğini sıklığına, müşteri etkisine ve inceleme kanıtına göre belirleyin. Bu eylemlerin hiçbiri belirli bir çözüm veya tasarruf oranını garanti etmez.

AI destek dashboard’ları: Veriyi eyleme dönüştürmek

Yararlı bir dashboard, değişen bir sayıyı birinin inceleyebileceği kayıtlarla ilişkilendirir. Yerleşik ürün raporlamasını, birleştirilmiş veri veya manuel inceleme gerektiren metriklerden ayrı tutun.

Modern bir AI destek dashboard’unun yapısı

Quickchat AI, özet grafikleri, ayrıntılı eğilimleri ve görüşme incelemesini ayırır:

GörünümNe için kullanılmalı?
AnalyticsGörüşme ve mesaj etkinliği, insana aktarım payı, çözüm dağılımı, kanal ve dil dağılımları
AdvancedSonuç ve duygu eğilimleri, AI’ın saptadığı ve özel konular, bağlantı takibi, aktarım sonrası CSAT ve insan yanıt süreleri
AI InsightsMarket Insights, Alerts, Flagged ve All filtreleriyle tek tek görüşmeleri inceleme
Conversation RatingEtkinleştirildiğinde sohbet içinde deneyim ve AI’ın yararlılığı hakkında geri bildirim

Advanced belgeleri grafiklerin yerlerini açıklar. İlk Temasta Çözüm, bağımsız doğrulanmış self servis, kanallar arası tekrar başvurular ve toplam işletim maliyeti ek kanıt gerektirir; bu tablo bunların yerleşik dashboard kartları olduğunu vadetmez.

İzlenmesi gereken metrikler ve anlattıkları

Advanced içindeki Time to First Response, onaylanmış aktarımdan ilk insan yanıtına kadar beklenen süreyi ölçer. Gece beklemeleri dahil geçen zamanı kullanır. Yalnızca AI’ın yürüttüğü görüşmeler ve yanıtsız aktarımlar, yanıt süresine değer eklemez. Yanıt süresi tanımını okuyun ve zaman istatistiklerinin yanında yanıtlanan aktarım oranını gösterin.

Advanced içindeki CSAT Ratings, aktarım sonrasında bağlı helpdesk sistemlerinden alınan geri bildirimi kullanır. Etkinleştirildiğinde sohbet içinde deneyim ve yararlılık geri bildirimi toplayan Conversation Rating ile aynı değildir. Boş veri, ilgili değerlendirmelerin kaydedilmediği anlamına gelir; sıfır puan demek değildir. Üç değerlendirme, çalışma sayfasındaki 20 görüşmenin tamamını temsil edemez.

Çözülmemiş konular ve olumsuz duygu, neyin araştırılacağını seçmeye yardımcı olur. Bir neden atamadan önce konuşma kaydını okuyun: eksik bilgi, başarısız entegrasyon, yetkilendirme sınırı ve müşterinin bir insanla konuşma tercihi farklı yanıtlar gerektirir.

İçgörüden sonraki iyileştirmeye

Kısa bir haftalık inceleme yapın:

  1. Dönemi, topluluğu ve eksik kayıtları kontrol edin.
  2. Sonuçları, aktarımları, geri bildirimleri ve mevcutsa tekrar başvuruları karşılaştırın.
  3. Çözülmüş, çözülmemiş, değerlendirilmemiş ve aktarılmış görüşmelerden bir karışım okuyun.
  4. Kanıtlanmış bir neden ve sınırları belirli bir değişiklik seçin.
  5. Etkilenen senaryoları test edin ve değişiklik tarihini kaydedin.
  6. Olumsuz sonuçlar dahil karşılaştırılabilir trafiği yeniden kontrol edin.
graph TD
    A[Kapsamı ve eksik verileri kontrol edin] --> B[Metrikleri ve görüşmeleri inceleyin];
    B --> C[Kanıta dayalı bir değişiklik seçin];
    C --> D[Etkilenen senaryoları test edin];
    D --> E[Sonuçları ve sınırlamaları karşılaştırın];
    E --> A;

Öncesi ve sonrası arasındaki iyileşme bir gözlemdir. Trafik değişiklikleri, başka sürümler ve küçük örneklemler nedensel bir sonuca varmayı engelleyebilir.

Önerilen araçlar ve kurulum seçenekleri

Karar için gerekli bilgilerle başlayın. Daha büyük bir raporlama sistemi, ancak belirli bir boşluğu dolduruyorsa yararlıdır.

Araç türüPratik kullanımGerekli girdi
Yerleşik analitikGünlük etkinlik ve sonuç incelemesiPlatform kayıtları ve belgelenmiş tanımlar
Elektronik tablo çalışma sayfasıŞeffaf hesaplamalar ve küçük bir inceleme örneklemiKapsamı bilinen, dışa aktarılmış veya elle kaydedilmiş alanlar
Helpdesk veya CRM raporlamasıİnsan işi, destek talepleri, görev sonuçları ve tekrar başvurularGüvenilir eşleştirmeler ve üzerinde anlaşılmış sorun kimlikleri
BI veya veri ambarıKaynakları birleştirme ve kohortları zaman içinde izlemeGüncel tutulan olay tanımları, izinler ve veri kalitesi kontrolleri

CSV ve mevcut ürün görünümleriyle başlayın. Çalışma sayfasını sürdürmek tekrar eden bir kısıt haline geldiğinde otomatik veri eşleştirmeleri ekleyin.

Adım adım çerçeve: Chatbot analitiği altyapısı kurmak

Daha fazla grafik eklemeden önce tanımları ve sorumluluğu belirleyin.

İş hedeflerini KPI’larla eşleştirin

Destek iş yükü için yararlı bir hedef, insan yardımına erişimi korurken belirli bir görevde doğrulanmış tamamlamayı iyileştirmektir. Bunu çözülmemiş sayıları, tekrar başvurular, geri bildirim ve işletim maliyetiyle birlikte izleyin.

Potansiyel müşteri kazanımı için nitelikli bir lead tanımlayın ve doğru CRM kaydına ulaştığını doğrulayın. Form gönderimi veya bağlantı tıklaması daha önceki bir olaydır; otomatik olarak gelir değildir. Shopify chatbot gelir takibi, agent’ın oluşturduğu sepetlerden gelen siparişleri ilgili görüşmelere bağlamayı açıklar; ilişkilendirme yine de satın almayı sohbetin sağladığını kanıtlamaz.

Hedeflerinizi başlangıç düzeyini belirledikten sonra seçin. Genel bir sektör yüzdesi almak yerine sorumluyu, amaçlanan değişikliği ve değerlendirme için gerekli kanıtı kaydedin.

Botunuz ve veri ambarınız için veri toplama kurun

Ek ölçüme ihtiyacınız varsa görüşme başladı, aktarım onaylandı, insan yanıtı gönderildi ve görev tamamlandı gibi olaylar tanımlayın. Bunlar önerilen olay kavramlarıdır; vaat edilen Quickchat AI dışa aktarma sütunları değildir.

Zaman damgalarını, görüşme ve sorun tanımlayıcılarını, kaynak kanalı ve değerlendirilen yapılandırmanın sürümünü saklayın. Saat dilimini ve geç gelen veri kurallarını belgeleyin. Birden fazla sistemi birleştirmeden önce sayıların birbirini doğruladığını kontrol edin.

Mevcut inceleme ve dışa aktarma iş akışları için Inbox belgelerini kullanın. Paylaşılan analizlerde kişisel veriyi en aza indirin, erişimi sınırlayın ve saklama ile silme prosedürlerini tanımlayın. Chatbot gizlilik rehberimiz daha geniş veri akışı konularını açıklar. Adları kimliklerle değiştirmek veri kümesini otomatik olarak anonim hale getirmez.

AI destek dashboard görünümünüzü tasarlayın

Hacmi, raporlanan sonuçları ve aktarımları ilk sıraya koyun. Yanlarında incelenen örneklem büyüklüğünü, bilinmeyen sonuçları ve geri bildirim sayılarını gösterin. İnsan yanıt sürelerini yanıtsız aktarımların yanında sunun.

Özetin altında çözülmemiş sorunları sabit bir konu sınıflandırmasıyla gruplandırın ve temsil edici kayıtlara bağlantı verin. Maliyet dağıtımı varsayımlarını ve takip aralıklarını başka bir rapora gömmek yerine görünür tutun.

İnceleme eşiklerini başlangıç düzeyinize ve bir sorunun kaçırılmasının sonuçlarına göre seçin. Quickchat AI’daki Manage Alerts eşleşen tekil görüşmeleri belirler. İsteğe bağlı herhangi bir toplu KPI eşiği için yerleşik uyarı motoru olarak sunulmamalıdır; bunlar için uygun yapılandırılmış bir raporlama aracı kullanın.

Geri bildirim döngüleri oluşturun

Kuyruğu inceleyecek birini ve ilgili bilgi veya entegrasyonu sürdürecek birini atayın. Daha sonraki bir değişim araştırılabilsin diye yapılan değişiklikleri kaydedin.

Tekrarlanabilir senaryolar için Testing kullanın; hem otomatik puanları hem insan incelemesini kontrol edin. Simülasyon puanları, üretimdeki çözüm oranlarını değil, o test vakalarını anlatır. Test çalıştırmak kaynak tüketir; yukarıdaki isteğe bağlı bütçe aracı yalnızca girilen yanıt kredisi varsayımlarını tahmin eder.

Bilgiyi güncellemek, prompt düzenlemek ve modele ince ayar yapmak farklı işlemlerdir. Her chatbot’un aylık model yeniden eğitimine ihtiyacı olduğunu iddia etmek yerine incelemeleri ürün değişiklikleri ve gözlenen başarısızlıklar çevresinde planlayın.

Sık görülen hatalar ve bunlardan kaçınma

Raporlama sorunlarının çoğu belirsiz tanımlar veya eksik kanıtlarla başlar.

Gösterişli metrikler tuzağı

Daha fazla mesaj, artan talebi veya tekrar eden kafa karışıklığını yansıtabilir. Etkinliği, tamamlanan görevler ve müşterinin harcadığı çabayla birlikte gösterin. Bir değişiklik görüşmeleri uzatıyorsa ek etkileşimi başarı saymadan önce nedenini inceleyin.

Containment’ı bağımsız doğrulanmış çözüm, raporlanan çözümü de önlenmiş ücretli destek talebi olarak görmeyin.

“Kur ve unut” yaklaşımı

Politika değişikliği, daha önce doğru olan bir yanıtı geçersiz kılabilir. Kaynak içerikten sorumlu kişileri belirli tutun ve güncellemelerden sonra önemli iş akışlarını test edin.

Yanıt kalitesindeki düşüşün yanı sıra trafik bileşimindeki değişiklikleri de izleyin. Yeni bir kanal veya daha zor sorular, mevcut görevlerdeki performans değişmese bile toplam oranı değiştirebilir.

LLM yanıtlarında önyargı ve halüsinasyonlar

Otomatik değerlendirici yanlış bir yanıtla aynı fikirde olabilir. Politika istisnaları ve hesap işlemleri dahil önemli iddialar için kaynağa dayalı ölçütler ve insan incelemesi kullanın.

Zor vakaları ve ilgili dilleri örnekleme dahil edin. Model etiketleri ile inceleyenler arasındaki uyuşmazlıkları ortalama içinde gizlemek yerine kaydedin. Özenle yönetilen bir bilgi kaynağı, yanıtların kaynaklara dayanmasını iyileştirebilir ancak doğruluğu garanti etmez. Halüsinasyon açıklamamız bu sınırlamayı ele alır.

Entegrasyon darboğazları

Bağlı sistemin istenen işlemi gerçekten tamamlayıp tamamlamadığını kontrol edin. Başarılı istek, oluşturulmuş destek talebi ve çözülmüş müşteri sorunu ayrı olaylardır.

Erişim izinlerini, tanımlayıcıları, yanıt verilerini ve hata davranışını doğrulayın. İşlem başarısızsa doğru bir açıklama ve kullanılabilir bir eskalasyon yolu sağlayın. İşin doğru ekibe ulaşması için bu başarısızlıkları bilgi boşluklarından ayırın.

Chatbot analitiğini bağlantılı kanıtlarla genişletmek

Temel raporlama güvenilir hale geldiğinde destek sonuçlarını tekrar başvurular, ürün olayları veya tamamlanmış işlemlerle birleştirmeyi düşünün. Her eşleştirme, belirtilmiş bir kimlik kuralı ve kapsam kontrolü gerektirir.

Görüşmelerdeki sorular, herkese açık yardım içeriklerine yönelik iyileştirmeler de önerebilir. Tekrarlayan önemli boşlukları önceliklendirin ve ortaya çıkan makaleyi doğrulayın. Chatbot duygusu, containment veya dashboard kullanımı, Google’ın ya da bir AI arama sisteminin sayfayı sıralayacağını veya kaynak göstereceğini kanıtlamaz.

Sonuç: Her şeyi bir araya getirmek

Sayılarını açıklayabildiğiniz küçük bir raporlama setiyle başlayın. Sınıflandırılmış sonuçları, müşteri geri bildirimlerini, doğrulanmış görev başarısını ve insan işini ayrı tutun; sonra değişiklik seçmek için birlikte kullanın.

İlk ay için pratik bir sıra:

  1. 1. hafta: tanımlarda anlaşın ve çalışma sayfasının hesaplarını yeniden üretin.
  2. 2. ve 3. haftalar: kullanım izniniz olan gerçek bir örneklemi inceleyin, eksik kayıtları belirleyin ve başlangıç düzeyini oluşturun.
  3. 4. hafta: bir içerik veya iş akışı düzeltmesini test edin; takip aralığının bitmesini bekleyerek etkilenen sonuçları karşılaştırın.

Belgelenmiş görüşme görünümleri için Quickchat AI kullanın ve işletmenizin ihtiyaç duyduğu ek kanıtları saklayın. Amaç, varsayımlarını ve kalan belirsizliği görünür kılan bir inceleme sürecidir.

Sık sorulan sorular

Bu yanıtlar, yukarıdaki çalışma sayfası ve ürün eşlemesiyle aynı tanımları kullanır.

Chatbot analitiği nedir ve web analitiğinden farkı nedir?

Chatbot analitiği görüşmelerdeki talebi, yanıtları, sonuçları, aktarımları ve geri bildirimi inceler. Web analitiği site ziyaretlerini ve etkileşimlerini inceler. Bunları birleştirmek bir yolculuğu açıklamaya yardımcı olabilir, ancak sayfa görüntüleme, görüşme, kişi ve çözülmüş sorun farklı sayım birimleridir.

Destek talebi sistemimde deflection rate’i nasıl hesaplarım?

Önce deflection’ı tanımlayın. Aktarımsız containment için aktarım yapılmayan görüşmeleri belirtilen chatbot kohortuna bölün. Doğrulanmış self servis için insan yardımı olmadan tamamlama ve takip ölçütlerini karşılayan sorunları uygun destek sorunlarına bölün. Çözülmemiş ve bilinmeyen vakaları görünür tutun. Chatbot’un neden olduğu destek talebi azalması ek karşılaştırmalı kanıt gerektirir.

SaaS destek ekipleri için “iyi” deflection rate nedir?

Karşılaştırılabilir görev kapsamı, trafik ve tanımlar olmadan yararlı bir evrensel yüzde yoktur. Tekrar başvuruları, geri bildirimleri ve insan yardımına erişimi kontrol ederek kendi başlangıç düzeyinizle karşılaştırın. SaaS destek rehberi, sonuçları için farklı başarı ölçütleri gereken iş akışlarını örnekler.

AI destek dashboard’unda hangi metrikler önce görünmelidir?

Görüşme hacmi, ayrı raporlanan çözüm kategorileri, aktarımlar, yanıtsız aktarımlar ve müşteri geri bildirim sayılarıyla başlayın. Kanıtınız varsa bağımsız incelenmiş başarıyı, tekrar başvuruları ve işletim maliyetini ekleyin. Her yüzdenin yanında topluluğu ve gözlem aralığını tutun.

LLM tabanlı chatbot’umu ne sıklıkla yeniden eğitmeliyim?

Önemli ürün, politika, bilgi veya yapılandırma değişikliklerinden sonra ve başarısızlıklar görüldüğünde inceleyin. İlgili kaynağı veya prompt’u güncelleyin, ardından yeniden test edin. Bilgi yenilemeleri ve prompt düzenlemeleri temel modele ince ayar yapmaz. Evrensel bir aylık yeniden eğitim gerekliliği yoktur.

Chatbot analitiğini iyileştirmek SEO sıralamalarını gerçekten yükseltebilir mi?

Herkese açık içerikte yanıtlanmaya değer soruları ortaya çıkarabilir. Google’ın yararlı içerik rehberi, yararlı ve güvenilir bilgiyi vurgular. Daha iyi chatbot metrikleri tek başına daha yüksek sıralama veya AI kaynak göstermesi anlamına gelmez. Bir içerik iyileştirmesi yayımladıktan sonra arama performansını ayrı ölçün.

Yanıt kalitesini düşürmeden token tüketimini nasıl azaltırım?

Prompt uzunluğu, getirilen bağlam, yanıt uzunluğu veya model seçiminde odaklı bir değişikliği temsil edici vakalarla test edin. Benimsemeden önce olgusal doğruluğu ve görev tamamlamayı kontrol edin. Quickchat AI’da yanıt kredileri seçilen modele ve AI yanıt sayısına bağlıdır; bu nedenle bir yanıtta daha az token olması otomatik olarak daha az faturalandırılan kredi demek değildir.

CRM’imi AI destek dashboard’una bağlamanın en kolay yolu nedir?

Gerekli alanları ve olayları belirlemekle başlayın, ardından desteklenen yerleşik entegrasyonu veya API’yi kontrol edin. Kimlik eşleştirmesini, izinleri ve veri akış yönünü doğrulayın. Chatbot bağlantısı, kendiliğinden eksiksiz bir analitik eşleştirme veya güvenilir bir kanallar arası tekrar başvuru metriği oluşturmaz.

Chatbot analitiğine başlamak için veri bilimcisine ihtiyacım var mı?

Hayır. Küçük bir çalışma sayfası ve görüşme kaydı incelemesi, yararlı tanımlar oluşturabilir ve eksik kanıtları ortaya çıkarabilir. Daha ileri kohort analizi veya nedensel ölçüm uzman desteği gerektirebilir. Hangi aracı kullanırsanız kullanın, örneklem büyüklüklerini ve bilinmeyen değerleri gösterin.

Chatbot’umun robot gibi konuşmasını nasıl önlerim?

Talimatlarında açık bir ton belirleyin, tekrar eden ifadeleri çıkarın ve gerçekçi görüşmeleri test edin. Açıklığı, empatiyi ve doğruluğu kullanıcı geri bildirimiyle birlikte inceleyin. Daha sıcak bir ton, yanlış yanıtı veya engellenmiş insan aktarımını telafi edemez.

Quickchat AI Quickchat AI Ask Quickchat AI a question