כשבעל עסק מכריז על הגעתן של מצלמות חכמות, הצוותים שלו כמעט אף פעם לא שואלים שאלה טכנית. הם שואלים דבר אחר: "האם זה הולך לעקוב אחריי?". השאלה לגיטימית, ועלון שיווקי לא עונה עליה. כדי להבין מה בינה מלאכותית של ראייה ממוחשבת מנתחת באמת בחנות, הדרך הפשוטה ביותר היא ללכת בעקבות מסלולה של תמונה, מהמצלמה ועד להתראה, ולציין בדרך את כל מה שהמודל מתעלם ממנו.
אגב, ניתוח וידאו עדיין אינו נפוץ במסחר. בסקר של ECR Retail Loss על ניתוח וידאו במסחר, שנערך ב-2024 בקרב 70 קמעונאים, רובם אירופיים וצפון אמריקאים, שיעור השימוש הממוצע באפליקציות הניתוח שנסקרו לא עלה על 10%, וירד ל-4% בשטח המכירה. מאחר שאין בענף הסכמה רחבה, אותו דוח מציע הגדרת עבודה לניתוח וידאו: מערכת שמפרשת תמונות באופן אוטומטי כדי להפיק תוצאות מוגדרות בבירור וניתנות לפעולה. כל מה שיבוא בהמשך נשען על שתי המילים האלה.
מה משמעות ה"ראייה" עבור בינה מלאכותית של ראייה ממוחשבת
מצלמה מעבירה רצף של תמונות. המודל, מצדו, לא "מבין" סצנה כפי שהיה מבין עובד מחלקה: הוא משווה מיקומי ידיים, חפצים ותנועות לקטגוריות שלמד. כשמה שהוא רואה תואם מספיק לאחת מהן, הוא מפיק אירוע: סוג של מחווה, אזור, שעה וקטע וידאו קצר. לא יותר מזה.
הכול תלוי אז בחדות התמונה. בזרם ברזולוציה נמוכה, היד שמחליקה סכין גילוח לכיס מעיל הופכת לכמה פיקסלים מטושטשים, ולכן יש יתרון לניתוח וידאו על הזרם הראשי ברזולוציה גבוהה. ב-Oxania הזרם הראשי הזה מעובד על GPU ייעודי המותקן בחנות: הזיהוי מתבצע מקומית, זרם המצלמות אינו עוזב את האתר, ורק קטעים הקשורים להתראה נשמרים, על שרתים הממוקמים קרוב ככל האפשר למדינת הלקוח.
אוצר מילים סגור של מחוות, לא מבט על אנשים
כשמיישמים אותו על מניעת הפסדים, מודל לזיהוי מחוות עובד עם רשימה סופית של קטגוריות. בתחום הגניבה, בדרך כלל מוצאים:
- הסתרת מוצר בכיס, מתחת לבגד או בתיק אישי;
- הכנסת מוצר לתיק גב, לתיק יד או לתיק שאופיו לא ברור;
- פתיחת אריזה לפני המעבר בקופה;
- צריכה במקום, שתייה או אכילה של מוצר שלא שולם;
- אלמנטים של הקשר כמו עגלת קניות, עגלת תינוק או שקית קניות, שעוזרים לקרוא את הסצנה.
מערכות מסוימות מוסיפות התראת נפילה, שימושית לבטיחות הלקוחות והצוותים יותר מאשר לסחורה. אף אחת מהקטגוריות האלה לא אומרת מי נמצא בתמונה. זיהוי מחוות בסיכון מתייחס לפעולה, ברגע נתון, באזור נתון.
מה הבינה המלאכותית לא עושה
רשימת מה שאינו נעשה חשובה לא פחות מרשימת מה שמזוהה, ולעיתים קרובות דווקא היא מרגיעה את הצוותים. בינה מלאכותית לניתוח מחוות שתוכננה במסגרת זו:
- אינה מזהה אף אחד: אין זיהוי פנים, אין שמות, אין מאגר של אנשים;
- אינה עוקבת אחרי אדם ממחלקה למחלקה, וגם לא מביקור אחד לביקור הבא;
- אינה בונה פרופיל: לא גיל, לא מוצא ולא לבוש "מסוכן". הסטטיסטיקות נקראות לפי אזור ולפי משבצת זמן, לא לפי אדם;
- אינה מייחסת כוונה: מחווה בסיכון איננה עבירה, אלא רק מצב שראוי למבט אנושי;
- אינה מודדת את עבודת העובדים: אין קטגוריה שעוסקת בפרודוקטיביות, בהפסקות או בעמידה בנהלים.
עם היקף כה מצומצם, קל להסביר את השימוש בכלי. אפשר לומר במשפט אחד, למוכרת כמו ללקוח, מה מפעיל התראה, ודווקא זה מה שהופך אותו למקובל.
ההתראה אינה פסק דין: ההחלטה נשארת בידי אדם
מודל טועה לפעמים. קחו לקוח שמכניס את משקפיו לכיס מיד אחרי שהרים חבילת קפה: עבור המכונה, הסצנה דומה להסתרה. לכן יש להתייחס להתראה כאל שאלה שנשאלת לצוות, לעולם לא כאל מסקנה.
הרגולציה האירופית בנושא בינה מלאכותית, בסעיף 14 שלה על פיקוח אנושי, מזכירה את המלכודת במפורש: הטיית אוטומציה, הנטייה לסמוך באופן אוטומטי או מופרז על תוצאות המכונה. היא דורשת שלאנשים האחראים על הפיקוח תהיה האפשרות להתעלם מתוצאת המערכת, להחליף אותה או להפוך אותה. הטקסט מתייחס למערכות בסיכון גבוה, אך דבר אינו מונע מלהחיל את אותה משמעת על כל כלי לזיהוי מחוות בסיכון.
בשטח, מי שמקבל את ההתראה צופה בקטע, ואז בוחר: לא לעשות דבר, לעבור במחלקה, להציע עזרה ללקוח או, כשהמצב מאושר, לפנות לרשויות. אנשי הביטחון והבינה המלאכותית עובדים יחד לפי כלל פשוט: הטכנולוגיה מזהה, האדם מחליט.
שקיפות כלפי הלקוחות והעובדים
העקרונות של ה-OECD בנושא בינה מלאכותית, שאומצו ב-2019 ועודכנו במאי 2024, מונים את השקיפות, ההסברתיות והאחריותיות בין חמשת העקרונות של בינה מלאכותית ראויה לאמון. בחנות, הדבר בא לידי ביטוי בכמה הרגלים מעשיים:
- להסביר לפני ההתקנה. להראות לצוותים מה מזוהה, מה לא מזוהה ומי מקבל את ההתראות. לשתף את נציגי העובדים כשהדבר קבוע.
- לכתוב כלל שימוש. הכלי נועד להפחית הפסדים ולהגן על אנשים, לא להעריך את הצוות: כדאי לכתוב זאת שחור על גבי לבן.
- ליידע את הלקוחות. השילוט בכניסה באחריות המפעיל, כמו במערך המצלמות הקיים שלו. שלט קריא והודעה קצרה ונגישה מספיקים לעיתים קרובות כדי להפיג חששות.
- להכשיר לקריאת ההתראות. לבדוק את הקטע, לשמור על נימוס, ולעולם לא לפנות למישהו רק על סמך הודעה.
- לבצע בדיקת מצב באופן קבוע. לחזור על ההתראות שנדחו, להתאים את האזורים המכוסים, ולשתף את הצוות במה שלומדים.
כשהיא מיושמת היטב, בינה מלאכותית של ראייה ממוחשבת דומה פחות לעין שופטת ויותר לעמית עם אוצר מילים מוגבל מאוד: היא מסמנת מחוות ומשאירה את ההמשך למי שמכיר את החנות. כדאי להציג את המסגרת כבר בפגישת ההשקה, עוד לפני התקנת הציוד. צוות שיודע מה הכלי רואה ומה הוא לא רואה, משתמש בו באמת, ובאותו רגע הוא מתחיל להפחית את ההפסדים הבלתי מוסברים של המלאי.
