Utviklerne i økonomi-appen Horde har mekka en robotforhandler for boliglånet ditt.
Ifølge Alf Gunnar Andersen, sjef i Horde, henter boliglånsforhandleren automatisk et estimat på boligens verdi og stiller brukeren noen enkle spørsmål.
- Derav velger den ut et knippe med relevante banker, inkludert din nåværende bank, og sender en forespørsel med nødvendig informasjon, sier Andersen til kode24.
Fire til seks utviklere
Andersen sier at utvalget av banker er basert på data fra Finansportalen i kombinasjon med svarkvaliteten til bankene.
- Hvis en bank sitt svar er mindre relevant, blir den nedprioritert i fremtiden. Deretter kommuniserer AI-en frem og tilbake med bankene via e-post, samtidig som den holder brukeren oppdatert via chat. Brukeren kan når som helst avslutte, eller endre prosessen. Du er sjefen.
Andersen forteller at de har jobbet en del med maskinlæring de siste årene og hadde noen ideer til konsepter rundt en slik løsning. Men det var helt avgjørende da OpenAI kom med sin ChatGPT-løsning i fjor.
- Vi begynte for alvor å skissere opp løsningen i februar og startet utviklingen i mars. Siden den gang har vi hatt et "war room" hvor det kontinuerlig har jobbet mellom fire til seks utviklere med prosjektet.
Flere modeller
Andersen legger til at i første versjon forsøkte de å lage en økonomiassistent som kunne gjøre "alt".
- Etter noen runder måtte vi innse at dette ble for komplisert for LLM-modellen. Vi måtte bryte opp oppgavene, og den viktigste og mest relevante assistenten ble boliglånsforhandleren, sier han.
Andersen forteller at i tillegg til å bryte ned hovedoppgaven, måtte de bygge en rekke funksjoner for at assistenten kan hente og prosessere data i et format den håndterer, samt utføre konkrete handlinger.
- Det er faktisk flere modeller i bakgrunnen som har forskjellige oppgaver. For eksempel er det en som utelukkende oppsummerer og strukturer e-postene fra bankene, det er en annen som lager oppsummering av tidligere chatlog og brukerens preferanser.
Vurderte open source
Andersen sier at de også måtte få assistenten til å bruke ulike funksjoner, som å spørre om informasjon fra databasen, sende e-post og mer.
- Alle brukere får en egen horde.plus-epostadresse. Du slipper altså å gi den tilgang til den private e-post. Det var en del mer arbeid enn vi først så for oss, og effektiv prompt-engineering er mer en kunst enn vitenskap, sier Andersen.
Andersen sier at de kjører GPT-4 via Microsoft, slik at de har kontroll på all lagring og at OpenAI ikke kan trene på dataene.
- Vi vurderte å kjøre en egen open source modell fra Hugginface, men etter litt testing var det klart GPT-4 er var desidert best, sier han.
- Får den som forhandler med boliglånsforhandleren vite at det er en AI?
- Ja, i bunnen av hver e-post står det en liten notis som sier at e-posten er generert av Horde Plus, på instruks fra navnet til kunden. Horde Plus er en personlig AI-assistent, og dersom de mener informasjonen er feil eller misvisende, kan de ta kontakt med oss.
