Når en butikkeier kunngjør at det kommer intelligente kameraer, stiller de ansatte sjelden et teknisk spørsmål. De spør heller: «Kommer det til å se på meg?». Spørsmålet er berettiget, og en salgsbrosjyre gir ikke svaret. Den enkleste måten å forstå hva visjons-AI-en egentlig analyserer i butikk, er å følge et bilde fra kameraet til varselet, og underveis notere alt modellen ignorerer.

Videoanalyse er for øvrig fortsatt lite utbredt i varehandelen. I undersøkelsen fra ECR Retail Loss om videoanalyse i varehandelen, gjennomført i 2024 blant 70 detaljister, for det meste europeiske og nordamerikanske, var gjennomsnittlig bruksgrad for de kartlagte analysene ikke høyere enn 10 %, og den falt til 4 % på salgsflaten. Siden det ikke finnes enighet i bransjen, foreslår den samme rapporten en arbeidsdefinisjon av videoanalyse: et system som automatisk tolker bilder for å gi resultater som er klart definerte og brukbare. Alt det som følger, ligger i disse to ordene.

Hva det vil si å «se» for en visjons-AI

Et kamera sender en rekke bilder. Modellen «forstår» ikke en scene slik en avdelingsmedarbeider ville gjort: den sammenligner håndposisjoner, objekter og bevegelser med kategorier den har lært. Når det den observerer samsvarer godt nok med en av dem, produserer den en hendelse: en type gest, en sone, et tidspunkt, et kort videoutdrag. Ikke noe mer.

Alt avhenger da av hvor skarpt bildet er. I en strøm med lav oppløsning blir hånden som sklir en barberhøvel ned i en jakkelomme, redusert til noen få uskarpe piksler, og det er derfor videoanalyse på hovedstrømmen i høy oppløsning er verdifull. Hos Oxania behandles denne hovedstrømmen på en dedikert GPU installert i butikken: deteksjonen skjer lokalt, kameraenes videostrøm forlater ikke stedet, og bare utdragene knyttet til et varsel lagres, på servere som ligger så nær kundens land som mulig.

Et lukket vokabular av gester, ikke et blikk på folk

Brukt i forebygging av svinn jobber en modell for gjenkjenning av bevegelser med en begrenset liste over kategorier. På tyveri-siden finner man vanligvis:

  • skjuling av en vare i en lomme, under et plagg eller i en privat veske;
  • at et produkt legges i en ryggsekk, en håndveske eller en pose av uklar art;
  • åpning av en emballasje før varen er gått gjennom kassen;
  • forbruk på stedet: å drikke eller spise et produkt som ikke er betalt;
  • kontekstelementer som en handlevogn, en barnevogn eller en handlepose, som hjelper til med å lese scenen.

Noen systemer legger til et fallvarsel, nyttig for sikkerheten til kunder og ansatte snarere enn for varene. Ingen av disse kategoriene sier hvem som er i bildet. Deteksjon av risikogester gjelder en handling, på et gitt tidspunkt, i en gitt sone.

Hva KI-en ikke gjør

Listen over det som er utelatt, teller like mye som listen over det som detekteres, og det er ofte den som beroliger teamene. En gestanalyse-AI utviklet innenfor denne rammen:

  • identifiserer ingen: ingen ansiktsgjenkjenning, ingen navn, ingen register over personer;
  • følger ikke en person fra en hylleseksjon til en annen, eller fra ett besøk til det neste;
  • lager ingen profil: verken alder, opprinnelse eller «risikofylt» antrekk. Statistikken leses per sone og per tidsrom, ikke per person;
  • vurderer ikke hensikt: en risikogest er ikke en straffbar handling, bare en situasjon som fortjener et menneskelig blikk;
  • måler ikke de ansattes arbeid: ingen kategori gjelder produktivitet, pauser eller overholdelse av rutiner.

Med et så snevert omfang er det fortsatt enkelt å forklare hvordan verktøyet brukes. Man kan i én setning fortelle både en ekspeditør og en kunde hva som utløser en alarm, og det er nettopp det som gjør det akseptabelt.

Varselet er ikke en dom: beslutningen forblir menneskelig

En modell tar noen ganger feil. Tenk på en kunde som legger brillene sine i lommen like etter å ha tatt en kaffepakke: for maskinen ligner scenen på en skjuling. Varselet må derfor behandles som et spørsmål stilt til teamet, aldri som en konklusjon.

Den europeiske KI-forordningen, i artikkel 14 om menneskelig tilsyn, peker rett ut på fallgruven: automatiseringsbias, altså tendensen til å stole automatisk eller for mye på maskinens resultater. Den krever at personene som har ansvar for tilsynet, har mulighet til å se bort fra, overstyre eller reversere systemets resultat. Teksten gjelder høyrisikosystemer, men ingenting hindrer at samme disiplin brukes på ethvert verktøy for gjenkjenning av risikofylte bevegelser.

I praksis ser personen som mottar alarmen på videoklippet og velger deretter: gjøre ingenting, gå bort til avdelingen, tilby kunden hjelp eller, når situasjonen er bekreftet, kontakte myndighetene. Vaktene og KI-en jobber sammen etter en enkel regel: teknologien oppdager, mennesket avgjør.

Åpenhet overfor kunder og ansatte

Den OECDs prinsipper for KI, vedtatt i 2019 og oppdatert i mai 2024, regner åpenhet, forklarbarhet og ansvarlighet blant de fem prinsippene for en pålitelig KI. I en butikk handler det om noen konkrete vaner:

  1. Forklar før installasjon. Vis teamene hva som detekteres, hva som ikke detekteres, og hvem som mottar varslene. Involver de ansattes representanter når det er foreskrevet.
  2. Skriv en bruksregel. Verktøyet er til for å begrense tap og beskytte folk, ikke for å vurdere de ansatte: da kan det like gjerne stå svart på hvitt.
  3. Informer kundene. Skilting ved inngangen er driverens ansvar, på samme måte som for det eksisterende kamerasystemet. Et lesbart skilt og en kort, tilgjengelig informasjon er ofte nok til å avlive bekymringer.
  4. Opplær i å lese varslene. Sjekk utdraget, vær høflig, og aldri konfronter noen på grunnlag av et varsel alene.
  5. Gjør jevnlig status. Gå gjennom avviste varsler, juster de dekkede sonene, og del det man lærer med teamet.

Når den er godt utplassert, ligner en visjons-AI mindre på et øye som dømmer enn på en kollega med et veldig begrenset vokabular: den melder fra om gester og overlater resten til dem som kjenner butikken. Rammen bør presenteres allerede på oppstartsmøtet, før utstyret er montert. Et team som vet hva verktøyet ser på, og hva det ikke ser på, bruker det faktisk, og det er da det begynner å redusere det ukjente svinnet.