IT-bransjen har historisk sett hatt lite mangfold, og dette slår ut i systemene vi bygger. Hvis vi ikke tenker på universell utforming, vil for eksempel svaksynte kunne få problemer med våre løsninger.
Men tenker vi over hvilken makt vi har i samfunnet, og er vi bevisst på hva vi gjør i det daglige? Til ettertanke ble den nye straffeloven utsatt i 10 år fordi datasystemene ikke kunne håndtere den nye loven. Til slutt gikk man likevel ut med loven selv om nødvendige systemendringer ikke var ferdige.
IT-systemer er nå en grunnleggende samfunnsfunksjon. Hva skjer da hvis disse systemene er ubalanserte, og kun hjelper enkelte samfunnsgrupper eller selskaper?
Et stadig vanligere konsept er selvbetjening, og det har helt klart mange oppsider. Men har du som kunde også tenkt på mulige baksider, og at disse kan ramme deg?
Jeg hadde tenkt litt på det, men ikke trodd jeg ville komme i en situasjon hvor jeg, en vanlig person, ville stille rettsløs.
«Jeg hadde en opplevelse der jeg følte meg maktesløs.»
En åpenbaring
Nå kan du finne frem alle fordommer, alle utsatte grupper, de som ofte ikke blir trodd.
Har du lyst til å møte systemene dine som dem?
Den maskinlæringsmodellen du lagde i går for å avdekke svinn? Det brukergrensesnittet som er laget for å registrere varer, men som også blir brukt til stikkprøver? De systemene som gjør det lettere for kunden, for å øke effektiviteten, men også mulighetene for feil? Hva skjer hvis systemet er ustabilt? Hva hvis disse systemene blir brukt mot deg?
Jeg hadde en opplevelse der jeg følte meg maktesløs. Jeg ble ikke trodd og systemene var mot meg. Dette gjorde meg først fryktelig sinna, men gav meg også en åpenbaring:
At dette var et system jeg kunne ha bygget selv!
Elise tar et oppgjør med gatekeeping blant norske utviklere: - Skadelig og ekskluderende!
Gult lys, manuell kontroll
Etter en lang dag i Oslo så var vi, min kone og jeg samt våre to barnehagebarn, slitne. På hjemveien dro vi innom en butikk og for å være effektive tok vi en selvbetjeningsskanner.
Dette angret vi ganske fort på da skanneren bare delvis fungerte. For eksempel gikk ingen strekkoder inn i grønnsaksavdelingen. Vi fikk etter hvert to hauger med varer – scannet og ikke scannet. Rett før kassen så var vi på jakt etter noe ulltøy til ungene, men siden dette var utplukket ble det bare en strømpebukse mens vi lette videre. Videre til smågodtet og til slutt kassa.
Vi hjalp hverandre i selvbetjeningskassa med å skanne varene som ikke gikk inn tidligere. Målet var å komme seg hjem så fort som mulig – men etter registering av medlemskort og antall poser så ble det gult lys.
Manuell kontroll.
«I den manuelle kassa kom det til slutt tre ansatte og en vekter som snakket om politianmeldelse på grunn av tre «forsøkt stjålne» varer.»
Vi tok feil, systemene rett
Noe av det første som ble kontrollert, var nettopp strømpebuksa som hadde havnet i feil haug. Vi ble sendt over til en manuell kasse hvor butikkmedarbeideren mente at det også manglet registrering av smågodt og bærepose!
Dessverre er det nok ingen tvil at vi glemte den strømpebuksa. Vi var to slitne voksne som begge trodde den andre hadde scannet varen. Ikke for å forsvare tabben, men jeg regner med alle kan kjenne seg igjen i at man kan gjøre en feil etter en lang dag.
I den manuelle kassa kom det til slutt tre ansatte og en vekter som snakket om politianmeldelse på grunn av tre «forsøkt stjålne» varer. Vår forklaring om at smågodt og bærepose hadde blitt korrekt registrert i selvbetjeningskassa ble ikke trodd. Dette var noe vi begge to var helt sikre på, og gav tydelig uttrykk for. Men de var sikre på at systemet sa at varene ikke var registrert og trodde oss derfor ikke.
Siden sluttsummen på varene var såpass mye større enn de tre omstridte varene «slapp vi unna». Kronen på verket var kommentaren «Skal du betale for dette?» og at mitt kundenummer ble notert ned av vekter. I samtale med vekteren etterpå var det ikke mye tegn til at jeg ble trodd på at dette var en feil og at det kun gjaldt en vare.
Alle spor og bevis i saken var i butikkens hender, og det at vi mente noe annet enn hva de oppfattet som virkeligheten ble kun tatt som mistenkeliggjørende. Jeg var rettsløs og var i praksis ansvarlig for butikken sine systemer.
Sånn takler du WCAG-krav og tilgjengelighets-erklæringer: - Alle må heve kompetansen
Menneskelig svikt, eller dårlig UX?
Når vi kom hjem og sjekket kvitteringen ble vi enda mer forvirret. Grupperinger på varer innen kategoriene selvskanning og selvbetjeningskasse ga ikke mening, ei heller kunne vi finne igjen beløpet vi hadde blitt anklaget for å ha «stjålet». Selv uten rabatt så gikk dette ikke opp.
10 av de 15 varene i kategorien selvbetjeningskasse hadde feil kategori. Disse hadde blitt registrert med skanner inne i butikken. Ble denne kategoriseringen brukt som grunnlag for anklagen?
Etter å ha lagt frem hendelsesforløpet for butikken og kjeden fikk jeg etter purring og 5 dagers venting bekreftet at det kun var en vare som manglet. De andre varene som jeg ble anklaget for å stjele var en «menneskelig svikt», og da må jo det være helt greit?
- Var det «menneskelig svikt», eller var systemer ut av synk slik at butikkmedarbeiderene agerte i god tro. De var jo tross alt tre stykker til slutt i tillegg til en vekter.
- Var det dårlig UI/UX? Sånn at personalet kunne bli forledet til å gjøre denne feilen?
- Var det dårlig prosess rundt kvalitetssjekken, slik at når de andre ansatte kom så ble ikke grunnlaget sjekket og den feilaktige forståelsen vedvarte?
- Hva med asymmetrien? Når butikken gjør feil så går det greit, men når situasjonen er i din disfavør så kan du bli anmeldt?
«Stopp opp, og tenk at det er du som gjør en feil på din verste dag. Når alt går imot deg, har du lyst til å møte ditt eget system?»
Stopp opp, og tenk
Det er helt åpenbart at det skjer feil i kassa – enten den er betjent eller selvbetjent, og det vil ikke være mulig å stoppe alt svinn uten å behandle alle kunder som tyver.
Disse systemene både teknisk og prosessuelt har blitt laget av oss i IT bransjen, men har det blitt problematisert hvordan man kan verne kunden – selv den kunden som ikke fremstår troverdig?
Hvilket rettsvern bygger vi inn i våre løsninger? Jeg spurte Jussprofessor Hans F. Marthinussen om hans tanker rundt rettsvern vs bekvemmelighet ved selvbetjening. Noe han bekreftet er problematisk:
Problematisk. Skulle ønske jeg kunne si med overbevisning at man uansett ikke vil bli dømt for et uhell, men er neimen ikke sikker.
— Hans F. Marthinussen 🇺🇦 (@HFMarthinussen) October 13, 2022
Feil i tekniske løsninger, i misvisende eller dårlig UI kan ha alvorlige konsekvenser. Systemer vi bygger vil kunne ekskludere og diskriminere, bevisst eller ubevisst.
Min appell er: Stopp opp, og tenk at det er du som gjør en feil på din verste dag. Når alt går imot deg, har du lyst til å møte ditt eget system?
Jeg kunne godt ha laget disse systemene jeg selv ble utsatt for, og det har virkelig vært en tankevekker.
