מדדי KPI לצ׳אטבוט: מה למדוד ואיך לעקוב

Jakub Swistak
פורסם זמן קריאה: 6 דקות
Dashboard המציג מדדי ביצועים של צ׳אטבוט ותרשימי KPI

פריסת צ׳אטבוט היא החלק הקל. כדי לדעת אם הוא באמת עובד, צריך למדוד. רוב פריסות הצ׳אטבוטים נכשלות לא משום שהטכנולוגיה גרועה, אלא משום שאף אחד לא הגדיר מה פירוש “עובד” או עקב אחר המדדים הנכונים כדי לגלות זאת.

המדריך הזה מכסה את מדדי ה-KPI החשובים לביצועי צ׳אטבוטים, כיצד לחשב אותם, לאילו בנצ׳מרקים לשאוף, וכיצד להשתמש בנתונים כדי לשפר את הבוט לאורך זמן.

מדדי ה-KPI המרכזיים

יש עשרות מדדים שאפשר לעקוב אחריהם. המדדים שלהלן הם המעשיים ביותר. הם מתחלקים לשתי קטגוריות: מדדים תפעוליים (האם הבוט עושה את עבודתו?) ומדדי איכות (האם הבוט עושה את עבודתו היטב?).

מדדים תפעוליים

KPIמה הוא מודדנוסחהבנצ׳מרק טוב
שיעור הכלהאחוז השיחות שטופלו במלואן על ידי הבוט ללא העברה לאדם(bot-only conversations / total conversations) * 10060-80%
שיעור הסטהאחוז כרטיסי התמיכה הפוטנציאליים שנמנעו בזכות הבוט(conversations resolved by bot / (bot resolutions + tickets created)) * 10040-60%
שיעור העברה לאדםאחוז השיחות שהוסלמו לנציג אנושי(escalated conversations / total conversations) * 10020-40%
זמן פתרון ממוצעהזמן מההודעה הראשונה של המשתמש עד פתרון הבעיהממוצע או חציון של (resolution timestamp - first message timestamp)מתחת ל-2 דקות לשאילתות פשוטות
זמן תגובה ראשונההזמן מההודעה הראשונה של המשתמש עד התשובה הראשונה של הבוטממוצע של (first bot reply timestamp - first user message timestamp)מתחת ל-5 שניות
שיחות ליום/שבוענפח האינטראקציות עם הבוט לאורך זמןספירת שיחות לכל פרק זמןתלוי בפריסה
שיעור fallbackאחוז ההודעות שבהן הבוט לא הבין את המשתמש ונתן תגובה כללית(fallback responses / total bot responses) * 100מתחת ל-15%

מדדי איכות

KPIמה הוא מודדנוסחהבנצ׳מרק טוב
CSAT (Customer Satisfaction)שביעות רצון המשתמש מהאינטראקציה עם הבוט(positive ratings / total ratings) * 100מעל 80%
שיעור השלמת יעדאחוז השיחות שבהן המשתמש השיג את מה שלשמו הגיע(conversations with goal completed / total conversations) * 100מעל 70%
דירוג שיחההדירוג הממוצע שמשתמשים נותנים לאינטראקציה שלהם עם הבוטממוצע של כל דירוגי המשתמשים (סולם 1-5)מעל 4.0
ציון סנטימנטהסנטימנט הכולל של הודעות המשתמש במהלך השיחהסיווג חיובי/שלילי/ניטרלי או ציון רציףרוב חיובי או ניטרלי
דיוק נושאהאם הבוט זיהה נכון את כוונת המשתמשבדיקה ידנית או בדיקת סיווג אוטומטיתמעל 90%

שיעור הכלה: המדד החשוב ביותר

שיעור הכלה מודד אם הבוט יכול לטפל בשיחה מתחילתה ועד סופה בלי שאדם יתערב. זהו המדד התפעולי החשוב ביותר, משום שהוא נמצא במתאם ישיר עם חיסכון בעלויות.

אם לבוט שלכם יש שיעור הכלה של 70%, פירוש הדבר ש-7 מתוך 10 שיחות הן אוטומטיות לחלוטין. 3 השיחות הנותרות מועברות לנציגים אנושיים. כל שיפור של נקודת אחוז אחת בשיעור ההכלה מתורגם ישירות לפחות שעות נציגים נדרשות.

כיצד לחשב אותו

שיעור הכלה = (שיחות שנפתרו על ידי הבוט בלבד / סך כל השיחות) * 100

שיחה “שנפתרה” פירושה שהמשתמש קיבל את התשובה שלו או השלים את המשימה שלו. שיחה שמסתיימת בכך שהמשתמש עוזב מתסכול אינה נחשבת פתורה, גם אם אף אדם לא השתלט עליה. ההבחנה הזו חשובה. יש בוטים שמדווחים על שיעורי הכלה גבוהים פשוט משום שמשתמשים התייאשו, וזה אינו זהה לפתרון.

מה משפיע על שיעור ההכלה

  • כיסוי Knowledge Base: אם לבוט אין מידע על נושא מסוים, הוא אינו יכול לענות על שאלות לגביו. פערים ב-Knowledge Base הם הגורם הנפוץ ביותר לשיעור הכלה נמוך.
  • דיוק זיהוי כוונה: אם הבוט אינו מבין נכון מה המשתמש שואל, הוא נותן תשובה שגויה (משתמש לא מרוצה) או מסלים שלא לצורך (הכלה נמוכה יותר).
  • עיצוב שיחה: האופן שבו הבוט מטפל בעמימות, בשאלות המשך ובשיחות מרובות סבבים משפיע על יכולתו לפתור פנייה במלואה.
  • יכולות פעולה: אם הבוט יכול לבדוק סטטוס הזמנה, ליצור כרטיסים או לבצע פעולות אחרות, הוא יכול לפתור יותר סוגי בקשות ללא עזרה אנושית.

שיעור הסטה לעומת שיעור הכלה

שני המדדים האלה קשורים זה לזה, אך מודדים דברים שונים.

שיעור הכלה מודד כמה שיחות הבוט פותר בעצמו מתוך כלל השיחות שהוא מטפל בהן.

שיעור הסטה מודד כמה כרטיסי תמיכה פוטנציאליים הבוט מונע מלהיווצר. זה כולל את שני המקרים הבאים:

  • שיחות שהבוט פותר (אחרת המשתמש היה יוצר כרטיס)
  • שיחות שבהן הבוט מספק מספיק מידע כך שהמשתמש אינו צריך לבצע המשך טיפול

קשה יותר למדוד שיעור הסטה במדויק, משום שהוא דורש להעריך מה היה קורה ללא הבוט. גישה נפוצה היא להשוות את נפח הכרטיסים לפני ואחרי פריסת הבוט, תוך בקרה על שינויים בתעבורה.

CSAT: מדידת איכות, לא רק תפוקה

בוט שפותר 90% מהשיחות אבל משאיר משתמשים מתוסכלים אינו הצלחה. ציון Customer Satisfaction (CSAT) מודד את הצד האיכותי.

שיטות איסוף

שיטהיתרונותחסרונות
סקר לאחר שיחה (אגודל למעלה/למטה או 1-5 כוכבים)פשוט, שיעור השלמה גבוהנתונים בינאריים, ללא הקשר
בקשת דירוג בתוך השיחהאפשר לשאול ברגעים ספציפייםעלול להפריע לזרימה
סקר המשך באימיילמאפשר משוב מפורט יותרשיעור תגובה נמוך (5-15%)
ניתוח סנטימנט של הודעותלא דורש פעולה מהמשתמש, מכסה את כל השיחותפחות מדויק ממשוב מפורש

הגישה הנפוצה ביותר היא בקשת אגודל למעלה/למטה בסוף השיחה. היא נותנת אות שביעות רצון בינארי עם חיכוך מינימלי. Quickchat AI כוללת דירוג שיחות כפיצ׳ר מובנה, כך שאפשר לעקוב אחריו בלי לבנות לוגיקת סקרים מותאמת אישית.

בנצ׳מרקים של CSAT

בנצ׳מרקים בתעשייה ל-CSAT של צ׳אטבוטים משתנים לפי שימוש:

שימושבנצ׳מרק CSAT
FAQ פשוט / מידע85-95%
סטטוס הזמנה / חיפוש חשבון75-85%
פתרון תקלות טכניות60-75%
מכירות / הסמכת לידים70-80%
תמיכת לקוחות כללית75-85%

אם ה-CSAT שלכם נמוך מהטווחים האלה, הבעיה היא בדרך כלל אחת מאלה: תשובות שגויות (בעיה ב-Knowledge Base), תגובות לא מועילות (בעיה בהנדסת פרומפטים), או היעדר העברה לאדם כשצריך (בעיה בלוגיקת הסלמה).

מעקב אחר התפלגות נושאים

לדעת על מה משתמשים שואלים חשוב כמו לדעת עד כמה הבוט עונה היטב. סיווג נושאים מקבץ שיחות לפי תחום, ועוזר לכם:

  1. לזהות פערי ידע (נושא שכיח עם שיעור פתרון נמוך = תוכן חסר)
  2. לתעדף יצירת תוכן (לנושאים הנפוצים ביותר צריך להיות הכיסוי הטוב ביותר)
  3. לזהות בעיות מתפתחות (זינוק פתאומי בנושא = בעיית מוצר פוטנציאלית)
  4. להקצות משאבי נציגים אנושיים (נושאים שהבוט מטפל בהם בצורה חלשה צריכים כיסוי אנושי רב יותר)

רוב פלטפורמות הצ׳אטבוטים מבוססי ה-AI מסווגות נושאים אוטומטית באמצעות תוכן השיחה. Quickchat AI משתמשת בסיווג נושאים מבוסס AI שמקטלג שיחות בלי לדרוש כללי תיוג ידניים.

דוגמה לדוח נושאים

נושאשיחותשיעור הכלהCSAT ממוצע
שאלות תמחור34282%4.2
בעיות גישה לחשבון21845%3.1
שאלות על פיצ׳רים במוצר18978%4.0
מחלוקות חיוב8722%2.8
הגדרת אינטגרציה6461%3.7

הטבלה הזו מראה מיד ש”בעיות גישה לחשבון” ו”מחלוקות חיוב” דורשות תשומת לב. שיעור הכלה נמוך ו-CSAT נמוך בתחומים האלה מצביעים על יכולות חסרות של הבוט או על פערי תוכן.

ניתוח סנטימנט

ניתוח סנטימנט מסווג את הטון הרגשי של הודעות המשתמש כחיובי, שלילי או ניטרלי. הוא שונה מ-CSAT משום שהוא מודד סנטימנט לאורך השיחה, ולא רק את התוצאה.

שיחה יכולה להסתיים בדירוג CSAT חיובי, אבל ניתוח סנטימנט עשוי לחשוף שהמשתמש היה מתוסכל בשלוש ההחלפות הראשונות לפני שהבוט הבין לבסוף את שאלתו. החיכוך הזה באמצע השיחה הוא מידע חשוב לשיפור הבוט.

מעקב סנטימנט מועיל ביותר כשהוא מצטבר לאורך זמן. מגמת עלייה בסנטימנט שלילי בכלל השיחות עשויה להצביע על בעיית מוצר (משתמשים שמגיעים כבר מתוסכלים) ולא על בעיית בוט.

מעקב אחר תוצאות

מעקב אחר תוצאות הולך מעבר להכלה כדי למדוד אם השיחה השיגה יעד עסקי מסוים. תוצאות נפוצות למעקב:

תוצאהכיצד למדודדוגמה
ליד נאסףהבוט אסף פרטי קשר או הסמיך לידהמשתמש סיפק אימייל וגודל חברה
כרטיס נוצרהבוט יצר כרטיס תמיכה באמצעות פעולה/אינטגרציהכרטיס HubSpot נוצר עם פרטי הבעיה
מכירה קיבלה סיועהבוט סייע למשתמש להתקדם להחלטת רכישההמשתמש לחץ והמשיך לתמחור או לתשלום
בעיה נפתרההבעיה של המשתמש נפתרה ללא הסלמההמשתמש אישר פתרון או נתן CSAT חיובי
העברה לאדם הושלמההבוט העביר בהצלחה לנציג אנושיהנציג קיבל את השיחה

ב-Quickchat AI, מעקב אחר תוצאות זמין בתוכנית Professional ומעלה. ה-AI מסווג תוצאות שיחה אוטומטית, ואפשר להגדיר קטגוריות תוצאה מותאמות אישית שתואמות את הלוגיקה העסקית שלכם.

הגדרת Dashboard למדדי KPI

Dashboard למדדי KPI צריך לענות על שלוש שאלות במבט מהיר:

  1. האם הבוט עובד? (שיעור הכלה, שיעור fallback, זמן תגובה ראשונה)
  2. האם המשתמשים מרוצים? (CSAT, מגמת סנטימנט)
  3. מה צריך שיפור? (פירוט נושאים עם שיעור הכלה ו-CSAT לכל נושא)

Dashboard מינימלי שימושי

אם אתם רק מתחילים, עקבו אחר חמשת המדדים האלה:

  1. שיעור הכלה (יומי)
  2. סך כל השיחות (יומי)
  3. ציון CSAT (ממוצע שבועי)
  4. 5 הנושאים המובילים לפי נפח (שבועי)
  5. שיעור fallback (יומי)

חמשת המדדים האלה נותנים מספיק אות כדי לזהות בעיות ולתעדף שיפורים.

מקורות נתונים

נקודת נתוניםמקור
לוגים של שיחותפלטפורמת הצ׳אטבוט שלכם (Quickchat AI dashboard, Intercom וכו׳)
דירוגי CSATפיצ׳ר דירוג מובנה או כלי סקר לאחר צ׳אט
סיווג נושאיםמסווג מובנה של הפלטפורמה או צינור NLP נפרד
נפח כרטיסיםמערכת ה-helpdesk שלכם (HubSpot, Zendesk, Freshdesk)
זמן טיפול נציגכלי helpdesk או כלי ניהול כוח אדם

שימוש במדדי KPI לשיפור הבוט

איסוף מדדים חסר טעם אם לא פועלים לפיהם. הנה גישה שיטתית:

מחזור סקירה שבועי

  1. בדקו את מגמת שיעור ההכלה: האם היא עולה, יורדת או שטוחה? אם היא יורדת, בדקו את שיעור ה-fallback ואת התפלגות הנושאים כדי למצוא את הסיבה.
  2. סקרו שיחות עם CSAT נמוך: קראו תמלילי שיחות אמיתיים שבהן משתמשים דירגו את החוויה כגרועה. חפשו דפוסים: תשובות שגויות, ניסוח מסורבל, הסלמה מוקדמת מדי או היעדר הסלמה.
  3. זהו נושאים בנפח גבוה/הכלה נמוכה: אלה יעדי השיפור בעלי ההשפעה הגבוהה ביותר. הוסיפו מאמרי Knowledge Base, שפרו מאמרים קיימים או הוסיפו AI Actions כדי לטפל בהם.
  4. בדקו מגמות סנטימנט: מעבר לסנטימנט שלילי ללא ירידה מקבילה ב-CSAT עשוי להצביע על תסכול מצטבר שעדיין לא הופיע בדירוגים.
  5. השוו שבוע לשבוע: עקבו אם השינויים שביצעתם בשבוע שעבר השפיעו כמצופה.

פעולות שיפור נפוצות

בעיהאות KPIתיקון
הבוט אינו יודע את התשובהשיעור fallback גבוה לנושאהוספת תוכן ל-Knowledge Base
הבוט נותן תשובות שגויותCSAT נמוך לנושא עם שיעור הכלה גבוהסקירה ותיקון של מאמרי Knowledge Base
הבוט מסלים מהר מדישיעור הכלה נמוך מאוד, שיעור העברה גבוההתאמת ספי הסלמה, שיפור הפרומפט
הבוט אינו מסלים כשצריךCSAT נמוך, משתמשים מתלוננים על לופים עם הבוטהוספת טריגרים להסלמה עבור כוונות ספציפיות
משתמשים שואלים על דברים שהבוט אינו יכול לעשותשיעור fallback גבוה לבקשות הקשורות לפעולותהוספת AI Actions (לדוגמה, חיפוש הזמנה, יצירת כרטיס)

עלות לשיחה

מדד ה-KPI התפעולי הסופי קושר הכול בחזרה לכסף. עלות לשיחה מודדת כמה עולה לכם כל אינטראקציה עם הבוט.

עלות לשיחת בוט = (עלות פלטפורמה חודשית + עלויות API) / סך כל השיחות

עבור תוכנית Quickchat AI Essential בעלות $99 לחודש, חלקו את עלות התוכנית החודשית במספר השיחות שה-AI מטפל בהן כדי לחשב עלות לשיחה.

השוו זאת לעלות של נציג אנושי המטפל באותה שיחה. אם נציג מטפל ב-4 שיחות בשעה בעלות מלאה של $20 לשעה, מדובר ב-$5 לשיחה. הבוט זול ביותר מפי 100 לכל אינטראקציה, עוד לפני שמביאים בחשבון את זמן הנציג שמתפנה למקרים מורכבים.

החישוב נעשה מורכב יותר עם תמחור מבוסס שימוש או אם אתם מריצים מודלים משלכם, אך פער סדר הגודל בין עלות בוט לבין עלות אדם לשיחה נשמר כמעט בכל תרחיש. כדי לבצע את החישוב הזה על נפח הכרטיסים שלכם, השתמשו ב-מחשבון ROI לצ׳אטבוט האינטראקטיבי. למידע נוסף על עלויות צ׳אטבוטים, ראו את מדריך העלויות המפורט שלנו.

קריאה נוספת