AI בעסק: איך שומרים על שליטה אנושית?

החשש הנפוץ מאוטומציה הוא לא רק שהמערכת תטעה, אלא שאף אחד לא ישים לב לטעות בזמן. לכן תהליך טוב מתחיל מהחלטה על גבולות: מה המערכת רשאית לעשות בעצמה, מתי היא שואלת שאלה נוספת, מתי היא עוצרת ואיך אדם יכול לראות ולתקן את התוצאה. שליטה אינה כפתור אחד; היא חלק מהתכנון היומיומי.

מגדירים רמות פעולה

אפשר לחשוב על שלוש רמות. הראשונה היא הצעה: המערכת מכינה טיוטת תשובה, ואדם מאשר. השנייה היא פעולה מוגבלת: המערכת עונה על שאלה עם תשובה מאושרת מראש או אוספת פרטים. השלישית היא העברה: במקרה חריג היא לא ממשיכה לבד אלא שולחת את כל ההקשר לאדם. כל עסק יכול לבחור רמה אחרת לכל סוג משימה.

דוגמה מעשית: לקוח כועס מבקש החזר

הודעה כזו אינה דומה לשאלה על שעות פתיחה. בדוגמה אפשרית, המערכת מזהה שמדובר בבקשת החזר, מבקשת מספר הזמנה אם הוא חסר ומעבירה את המקרה לנציג עם ההודעה המקורית. היא לא מבטיחה החזר ולא קובעת מי צודק. הצוות יכול להגיב לפי המדיניות והמידע המלא. כך האוטומציה עוזרת לסדר את הטיפול בלי לקבל החלטה רגישה בעצמה.

מה צריך לראות כדי לסמוך על התהליך?

אדם שמקבל משימה צריך לדעת מאיפה הגיעה הפנייה, מה נאמר ללקוח, אילו פרטים נאספו ומה עדיין לא ברור. כדאי להגדיר מי בודק מקרים חריגים, איך מדווחים על תשובה לא טובה ואיך משנים את הכללים. אם המערכת מסתירה את הדרך שבה הגיעה לתוצאה או אינה מאפשרת לתקן אותה, קשה להרחיב את השימוש בה בביטחון.

בודקים גם מה קורה כשמשהו משתבש

בדיקות לא צריכות לכלול רק מקרה מושלם. נסו מידע חסר, ניסוח לא צפוי, לקוח שמשנה נושא ושאלה שאין לה תשובה. בדקו האם המערכת עוצרת ומעבירה לאדם בזמן. המדד אינו רק כמה פניות טופלו, אלא האם הטיפול נשאר ברור וניתן לתיקון.

אם אתם רוצים להיעזר ב־AI אבל חשוב לכם לדעת מה נשאר בידי הצוות, שתפו את BOT4U במשימה אחת ובגבולות שחשובים לכם. אפשר לתכנן את המסלול סביבם.