For ett år siden opplevde Vipps en betydelig økning i sosial manipulering der svindlere lurte folk til å overføre penger via Vipps. Spesielt eldre brukere var utsatt, derav begrepet "Olga-svindel".
– Svindel gjennom Vipps-plattformen økte signifikant. Vi måtte opprette en "task force", det holdt på å komme ut av kontroll, forteller AI-sjef Emanuele Gramuglia til kode24.
Svindelbeløpene økte fra måned til måned, og nådde toppen i april, da Vipps-kunder ble "Olga-svindlet" for 3,7 millioner kroner.
Gramuglia forteller at en liten gruppe utviklere, sammen med teamet som jobber med økonomisk kriminalitet, satte seg ned og jobbet fokusert i 6-7 måneder med å lage en AI-modell.
Modellen skulle ligge som et lag "mellom" Vipps-brukeren og bankens betalingssystem – og i sanntid stoppe mistenkelige betalinger.
«Det holdt på å komme ut av kontroll.»
En vanskelig oppgave
Det å trene en AI-modell til å gjenkjenne svindel er vanskelig på flere måter. Men ved å manuelt flagge tidligere svindler og bruke det som input når AI-modellen skulle trenes opp, var man et stykke på vei med å skaffe dataene som skulle brukes til trening av modellen.
Den største utfordringen var at betalingsteamet i Vipps og de selv hadde satt noen krav til modellen:
- Det skulle ikke gå ut over brukeropplevelsen
- Det måtte ikke være falske positiver. Grensen går ved maks 100 falske positiver per million transaksjoner.
- Og det vanskeligste: Hele analysen kunne ta maks 200 millisekunder.
– Den måtte kjøre i "sanntid" og ikke påvirke hvor lang tid det tar før transaksjonen er gjennomført. Det var den første store utfordringen, sier Gramuglia.
Han forteller at de store Deep Learning-modellene, for eksempel språkmodellene vi ofte hører om nå, er altfor store, tunge og trege til at de kunne brukes til sanntids svindeldeteksjon.
– Det er ikke mulig å få en så stor språkmodell til å kjøre på millisekunder.
Vipps: – For mye hjemmekontor går utover kulturen
Masse kompromisser
Dermed måtte det gjøres en masse kompromisser for at AI-teamet kunne trene opp en AI-modell som var smart nok til å fange opp det aller meste – men uten å ødelegge brukeropplevelsen.
Vipps har en masse data om hver enkelt transaksjon, som for eksempel beløp, til og fra, tidspunkt for transaksjonen, og så videre. En viktig del av jobben var å finne ut hvilke data som var viktigst for å kunne kjenne igjen et svindelforsøk.
«Vi kunne ha trent modeller som var langt kraftigere.»
Alle data er data Vipps selv eier, dermed kan de for eksempel ikke vite om hvorvidt noen har blitt oppringt av en svindler rett før svindelforsøket. De har ikke tilgang på data fra telefonselskapene.
De har imidlertid nok data, mener Gramuglia.
– Vi innså at alt vi kunne gjøre i modellen, ikke var mulig å gjøre i sanntid. Så vi måtte finne et kompromiss mellom nøyaktighet og gjennomførbarhet.
– Vi kunne ha trent modeller som var langt kraftigere. Men de ville ha vært ubrukelige for Vipps, fordi de ville ha trengt altfor lang tid per transaksjon.
Fra 3,7 millioner til 13.000,-
Den første AI-modellen ble rullet ut i april 2024, etter en periode med ganske store økonomiske tap.
– Vi lanserte den første modellen i april etter å ha tapt en god del penger.
Jobben var imidlertid ikke ferdig etter at den første modellen var lansert. Da startet nemlig en katt-og-mus-lek med svindlerne.
– Vi vet at svindlerne reagerte på den med en gang. Fra april til midten av mai lanserte vi mange nye modeller.
Hver gang svindlerne klarte å finne en vei rundt, kom altså en ny og bedre modell. I januar 2025 hadde antallet Olga-svindler sunket til én eneste – med et beløp på 13.000 kroner.
Han mener de nå ligger ett skritt foran svindlerne.
– På ett punkt, og la oss håpe det forblir slik, så de gikk tom for alternativer, sier Gramuglia.
