Sist uke ble det kjent at Tromsø kommune hadde gått på en real AI-smell:
I en rapport om skolenedleggelser, ble det avslørt at flere av kildene var ikke-eksisterende – funnet på av AI-en som ble brukt til å skrive rapporten.
Digitaliseringsminister Karianne Tung roser likevel kommunen for «å ta i bruk teknologien» i et LinkedIn-innlegg.
Det har i etterkant vekka til dels sterke reaksjoner. Flere av disse er også omtalt hos Digi tidligere.
Vil heie på de som prøver
– Kommunen skal ha ros både for å ta i bruk teknologien, men også for å være åpne og reagere raskt når det viser seg at feil har blitt gjort, skriver Tung.
Tromsø kommune har i etterkant valgt å trekke rapporten. Det har også ført til en utsettelse av saken, som kunne endt med at åtte skoler ble nedlagt.
Selv om det gikk galt denne gangen, velger Tung likevel å se på det hele som en kilde til læring.
– Jeg heier imidlertid på kommuner som tørr å prøve, som tørr å ta i bruk teknologien og som tørr å innrømme feil. Bare slik kan vi lære – både av det som fungerer bra og det som ikke går bra.
AI-tabbe ryster Tromsø: «Skandale!»
Mener det skaper politikerforakt
I sosiale medier møter Tung til dels knallhard kritikk for å fokusere på de positive sidene av episoden.
– Det som har skjedd i Tromsø er så skandale jeg knapt har ord, skriver Stian Husemoen, IT-leder ved NTNU, på Bluesky.
– Tung må stilles mer til veggs for uansvarlige krav om AI-bruk i offentlig sektor, fortsetter han.
Som kode24 tidligere har omtalt, har Tung et uttalt mål om at 80 prosent av offentlig sektor skal bruke AI innen årsslutt, og alle innen 2030.
Tung får også det glatte lag av den kontroversielle og anonyme "rikskritikeren" Doremus Schafer, som omtaler dette som en kilde til politikerforakt.
– Jeg klarer ikke komme på en eneste hendelse over de siste årene som er mer politikerforakt-skapende enn at en sittende statsråd mener at en kommune fortjener ROS for at de gjør noe galt og så innrømmer det gale som de gjorde når en avis tar dem på fersken i å ha gjort det gale.
80% av det offentlige skal bruke AI: «But WHY?»
Etterlyser styring og forståelse
Kritikken raser også på LinkedIn, både kommentarfeltet hos Tung, og som egne innlegg om håndteringa.
Arild Hjelmervik, nestleder i Juristforbundet stat, skriver at selv om AI kan bli en revolusjon, så er det også en risiko.
– Saken om AI i skolen viser nettopp hvorfor KI ikke bare kan rulles ut. Det må styres, forstås og kvalitetssikres.
UiB-professor Jill Walker Rettberg stiller spørsmål ved selve premisset om at offentlig sektor skal bruke mer AI. Hun etterlyser i stedet fokus på verktøy som passer til oppgaven.
– Å bruke KI til å generere kunnskapsoppsummeringer og forskningsrapporter er en svært dårlig idé, særlig når de skal brukes som grunnlag for politiske avgjørelser, skriver Rettberg.
Hun fortsetter med å stille et spørsmål som også mange av kode24s lesere ønsker et svar på:
– Hva med klare retningslinjer for hva offentlig sektor faktisk IKKE bør gjøre med KI?
Hogne Bø Pettersen, teknologiforvalter hos nettselskapet Arva, mener dette i verste fall har vært et forsøk på å lure politikere til å ta et valg på falsk grunnlag. I beste fall har det vært enormt naivt.
– Det en dyktig minister ville gjort her var å kritisere kommunen krasst for å bruke ny teknologi på denne måten. Og hun burde sporenstreks sette ned et utvalg som etterforsket og fant ut av hvordan dette skjedde, og grunnen til det. I stedet gir hun kommunen skryt, påpeker han.
AI utbredt i statlige virksomheter – men ikke nok
Gjentar råd
Tung legger også ved det hun omtaler som"Gode råd til 80 % bruk av kunstig intelligens i offentlige virksomheter".
Disse ble også lagt fram da hun uttalte målet om 80 prosent AI-bruk i offentlig forvaltning:
- Sett deg inn i hva kunstig intelligens og maskinlæring er.
- Ha åpenhet om datagrunnlaget du bruker.
- Ha mennesker i førersetet.
- Sikre likebehandling.
- Håndter sensitive data på en sikker måte.
- Ikke vær redd for å teste ut.
- Søk veiledning.
Denne lista får også tydelige tilbakemeldinger.
– «KI Norge» er et taktskifte i bruk og utvikling av AI
– Usikker på realismen
En av de som reagerer på lista er Sigbjørn Råsberg, jurist og seniorrådgiver i Digitaliseringsdirektoratet. Han etterlyser et punkt åtte om kvalitetssikring.
– Jeg er usikker på realismen i disse rådene når den aktuelle AI-teknologien er ChatGPT eller liknende, skriver AI-forsker og forfatter Inga Strümke.
Hun peker på den vante misforståelsen der mange tror all AI er språkmodeller. I tillegg trekker hun fram at råd nummer to er umulig å oppfylle for kommersielle løsninger fra utenfor Europa.
DNBs forbrukerteknolog Yngvar Ugland mener rådene fra Tung er gode, men ikke som generelle AI-råd.
– For meg høres dette ut som gode råd til 80 prosent bruk av store språkmodeller i offentlige virksomheter, som nærmest antyder at det er eneste formen for KI man bør se på.
– Rådene er gode, men for bruk av LLM-er, ikke KI som sådan. I det større KI-rommet representeres de største mulighetene av KI helt andre ting enn å sette LLM-strøm på papir.
