I sommer ble verden vitne til et massivt systemkrasj som rammet sykehus, flyselskaper og annen kritisk infrastruktur.
- Årsaken var en programvareoppdatering fra antivirusleverandøren CrowdStrike som inneholdt en skjult bug, uoppdaget i testprosessen, før den ble rullet ut i produksjon.
- Resultatet ble kaos, økonomiske tap på 5,4 milliarder dollar, og en alvorlig påminnelse om at selv de mest avanserte teknologiske systemer er sårbare uten tilstrekkelig menneskelig involvering.
Fiaskoen illustrerer tydelig en dyptliggende konflikt i moderne programvareutvikling: Avveiningen mellom teknologisk automatisering og behovet for menneskelig vurdering.
Noen som fortsatt mener testing ikke er viktig?
Til tross for at CrowdStrike har et stort team og benytter AI i mange av sine prosesser, var det tilsynelatende mangel på menneskelig innsikt som gjorde at en kritisk bug slapp gjennom.
Dette reiser et viktig spørsmål: Kan vi stole på at automatiserte systemer alene kan garantere sikkerhet og funksjonalitet i en verden som blir stadig mer digitalisert og kompleks?
‘Human in the Loop’
For å forstå denne problemstillingen fullt ut, må vi se nærmere på CrowdStrikes rolle.
Selskapet har vært en pioner innen bruk av ny teknologi for å beskytte mot cybertrusler og jobber iherdig med å styrke sine løsninger. Men sommerens hendelse viser at teknologi ikke fullstendig kan erstatte menneskelige vurderinger.
Feilen i programvaren ble ikke oppdaget før det var for sent, som tyder på en alvorlig mangel på testing på virkelige brukere før oppdateringen ble rullet ut.
Det er her prinsippet om "Human in the Loop" – menneskelig involvering i alle faser av utviklingen – blir avgjørende. Teknisk testing kan ikke fange opp alt, spesielt ikke hvordan brukere i komplekse, virkelige situasjoner vil oppleve og håndtere en løsning.
Sånn kjører han ut kode som «ikke er helt ferdig testa»
Hva mangler?
Det som savnes i bransjen i dag, er en mer robust og integrert tilnærming til testing som setter menneskelig erfaring og vurdering i sentrum.
Mange selskaper stoler blindt på automatiserte tester og AI-drevne prosesser, men som CrowdStrikes erfaring viser, er dette langt fra tilstrekkelig.
Det må legges større vekt på testing som ikke bare fokuserer på teknisk ytelse, men også på den faktiske brukeropplevelsen under realistiske forhold.
Vi trenger en bransje der testing på mennesker er en integrert del av utviklingssyklusen, ikke en ettertanke.
Dette innebærer å gjennomføre brukertester på alle stadier av utviklingen, fra tidlige prototyper til ferdige produkter, for å sikre at løsninger ikke bare fungerer teknisk, men også møter brukernes faktiske behov og kontekst.
«Selv om automatisering har sin plass, kan de ikke erstatte den unike innsikten og vurderingsevnen som mennesker bringer til bordet.»
Mennesket i førersetet
CrowdStrikes oppdateringsfiasko viser at å utelate menneskelig vurdering fra kritiske prosesser kan føre til katastrofale konsekvenser.
Selv om automatisering har sin plass, kan de ikke erstatte den unike innsikten og vurderingsevnen som mennesker bringer til bordet.
For å unngå lignende hendelser i fremtiden må bransjen omfavne en tilnærming der mennesket alltid sitter i førersetet, spesielt i test- og kvalitetskontrollprosesser. Dette er ikke bare en sikkerhetsmekanisme, men en nødvendig strategi for å sikre at teknologiske løsninger er pålitelige, brukervennlige og trygge i dagens komplekse digitale landskap.
La oss sammen skape fremtidens løsninger, der teknologi og mennesker spiller på lag. Ved å forene UX og teknologi, står vi sterkere rustet til å drive utviklingen av AI fremover, og utnytte de utrolige mulighetene som venter på dens skuldre.
