Teknologirådet slapp nylig sin årlige rapport om hvilke teknologitrender norske folkevalgte bør følge med på.
I år tar rapporten for seg blant annet hvordan kunstig intelligens (AI) "vil utfordre demokratiet".
- AI gir superkrefter til propaganda og desinformasjon, sier Tore Tennøe, direktør for Teknologirådets sekretariat, til kode24.
Kan påvirke valg
De siste årene har det vært satt søkelys på hvordan digitale teknologier kan påvirke valg.
- Med AI er det tatt et kvalitativt sprang når det gjelder å lage desinformasjon. Verktøykassen har blitt kraftig oppgradert. Du kan bruke generativ AI til å skape falskt innhold med stemmer, tekst og film. Mye mer realistisk enn tidligere.
Ifølge Tennøe viser forskningen at det er vanskelig for folk å identifisere det som er maskinskapt.
- Denne realismen gjør at det er mange forskjellige typer innhold som kan skapes. Det er rimelige, tilgjengelige og enkle verktøy som kan automatiseres i stort volum.
– Finnes ikke gode måter å avsløre AI-innhold
Kampanje for 400 dollar
Tennøe sier at vi allerede har sett eksempler på hvordan dette kan fungere i praksis.
- I dag kan du sette opp en hel kampanje med 400 dollar. Dette inkluderer å skape personer som lager falskt innhold. Disse kan i tillegg drive og formidle spredningen av seg selv. Vi er i en ny situasjon, rett og slett, sier han.
Ifølge Tennøe kan vi fremover forvente et veldig stort volum av innhold som vi ikke kan verifisere eller finne ut hvem som står bak.
- Et spørsmål er om vi i det hele tatt kan stole på noe som helst, sier han.
Fant 443 falske nettaviser – 14 av dem norske
Forme årets valgkamper
Et viktig spørsmål er derfor hvordan AI vil forme årets valgkamper.
- Halve verden går til valg i år. Det er mange store og viktige valg som står på spill. Blant annet India, USA, EU, Tyskland og Sør-Afrika, sier Tennøe.
Teknologirådet oppfordrer politikerne til å ta tre grep for å møte utfordringen knyttet til desinformasjon.
- Den første er merking av kunstig intelligens. Dette er noe som vi vet kommer med EU-regelverket AI Act, som blir vedtatt før april. Men det er to år før den skal gjennomføres. Norge har stortingsvalg neste år, sier han.
Reglene rammer også norske utviklere
Kreve merking av AI
Ifølge Tennøe er spørsmålet er derfor om Norge skal kreve merking av kunstig intelligens allerede nå.
- Det andre kan være å gå rett på politisk reklame. Der ser vi at EU har valgt å stramme inn og forby at ikke-europeiske aktører kan finansiere reklame i EU. Så har du også fått et offentlig arkiv med politisk reklame.
Han legger til at Meta har sagt at de ikke godtar politisk reklame som er skapt av kunstig intelligens.
Vil saksøke etter misbruk i krypto-reklame
Psykologisk forsvar
Den siste anbefalingen handler om såkalt psykologisk forsvar mot utenlandsk påvirkning.
- Sverige har opprettet en egen myndighet for det. De skal overvåke desinformasjonskampanjer, være åpne om hva som skjer, jobbe forebyggende og hjelpe folk å oppdage kampanjene, sier Tennøe.
Ifølge ham er det ikke tilsvarende organ i Norge.
- Det nærmeste vi har er faktisk.no som overvåker mediebildet og gir et bidrag.
«Det er også i bedriftens egeninteresse å ikke gå på en smell her.»
Samfunnsansvar
Tennøe mener at AI-bedriftene helt klart har et samfunnsansvar
- Nå kom nettopp OpenAI ut og sa at de lagde en valgintegritetsløsning for å hindre chatbots å fremstå som ekte personer eller institusjoner og ikke lage kampanjeinnhold som truer den demokratiske integriteten. De ser at potensialet for overtalelse er stort der.
Han legge til at fremtidige AI Act gir selskapene et ansvar for å gjøre en konsekvensutredning av teknologiens virkning på fundamentale menneskerettigheter.
Frykter AI-kaos i den amerikanske valgkampen
Store krefter gir stort ansvar
- Hvilket ansvar har utviklere?
- Man kan ikke legge alt over på bedriften og må vurdere selv om man står inne for det bedriften gjør. Dersom det er samfunnsnedbrytende, er det helt klart man ikke kan peke på andre, sier Tennøe.
Tennøe legger til at AI er en kraftig teknologi som kan hjelpe oss å gjøre bra ting.
- Men med store krefter kommer også et større ansvar. Det gjelder også for bedriften og den enkelte utvikler. Det er også i bedriftens egeninteresse å ikke gå på en smell her, sier han.
