FN mener AI misbrukes til fornekting av holocoust

– Akkurat nå representerer AI mer en trussel enn nye muligheter, sier en FN-ekspert på utdanning innen holocaust.

AI-teknologi kan misbrukes til å spre løgner om holocaust, advarer FN. Her holder holocaust-overleveren Margot Friedlander opp «jødestjernen» nazistene tvang henne gå med. 📸: Odd Andersen / AFP / NTB
AI-teknologi kan misbrukes til å spre løgner om holocaust, advarer FN. Her holder holocaust-overleveren Margot Friedlander opp «jødestjernen» nazistene tvang henne gå med. 📸: Odd Andersen / AFP / NTB Vis mer

AI-teknologi bidrar til å skape falske historier om andre verdenskrig, noe som kan føre til «en eksplosiv spredning av antisemittisme», advarer FN.

En rapport fra Unesco – FNs organisasjon for utdanning, vitenskap, kultur og kommunikasjon – konkluderer med at kunstig intelligens kan bidra til misvisende og falske påstander om jødeutryddelsene under andre verdenskrig, ifølge nyhetsbyrået AP.

Det kan skje enten som følge av svakheter i programmene, eller fordi hatgrupper eller holocaustfornektere bevisst lager innhold som feilaktig stiller spørsmål med drapene nazistene utførte på jøder og andre grupper.

Holocaust er en betegnelse på nazistenes folkemord før og under andre verdenskrig. Mer enn 6 millioner jøder ble drept.

Falske, men realistiske stemmer

En av de største bekymringene er at AI lett kan lage såkalte deepfakes, altså realistiske bilder eller videoer hvor holocaust blir framstilt som overdrevet eller noe som ikke skjedde.

I rapporten nevnes for eksempel en AI-generert Joseph Goebbels som hevder at han forsøkte å redde liv. Joseph Goebbels var propaganda­minister i Nazi-Tyskland, og spilte en nøkkelrolle i å spre nazistisk ideologi og manipulere offentlig opinion gjennom omfattende propaganda.

Ifølge nyhetsbyrået AFP framhever rapporten en deepfake av skuespiller Emma Watson fra Harry Potter-serien som leser høyt fra Hitlers bok «Mein Kampf». Noen programmer med kunstig intelligens gjør det mulig å snakke med interaktive, historiske figurer inkludert Adolf Hitler.

kode24 har også tidligere omtalt løsninger som gjør at historiske personer kan «bringes tilbake», blant annet et bokprosjekt fra et høyreradikalt forlag.

Usannheter om massakre

Rapporten viser til flere eksempler: Den mest kjente AI-tjenesten Chat GPT fant opp et helt nytt konsept – holocaust ved drukning. Googles chatbot Bard har fabrikkert en rekke vitner som støtter opp under usannheter om nazistenes massakre.

– Hvis vi tillater at de grusomme fakta om holocaust blir utvannet, forvrengt eller forfalsket gjennom uansvarlig bruk av AI, risikerer vi en eksplosiv spredning av antisemittisme og en gradvis svekkelse av vår forståelse av årsakene og konsekvensene av disse grusomhetene, sier generaldirektør i Unesco, Audrey Azoulay, i en uttalelse.

Rapporten er laget i samarbeid med World Jewish Congress for å markere Den internasjonale dagen mot hatefulle ytringer. Rapporten oppfordrer regjeringer, teknologiselskap og utdanningsinstitusjoner til handling.

Nordiske politikere sa i fjor høst at de villle undersøke hvordan AI påvirker demokratiet, og får nå altså et dytt på veien.

Trenger etiske retningslinjer

De bør innføre etiske retningslinjer for AI-teknologi og innføre opplæring i skolen om risikoen ved AI-generert innhold. Det vises til tilfeller der hackere har satt opp chatbots for å spre nazi-ideologi. Andre boter har funnet opp helt egne historier om holocaust.

Ifølge Karel Fracapane viser forvrengte holocaust-historier hvordan AI kan snu opp ned vårt forhold til sannhet og føre til en oppløsning av demokratisk kultur. Fracapane er Unesco-ekspert på utdanning innen holocaust.

– Den økende populariteten til ytre høyre-politikere i Vest-Europa er del av de samme prosessene som sprer hatytringer på nettet, sier han til AFP.

EU-landene har sagt ja til verdens første regelverk på kunstig intelligens, og AI-loven kan snart komme til Norge.

Kan gi oppslukende opplevelser

Unesco-rapporten finner også positive sider ved innføring av AI. Algoritmene kan identifisere og sortere ekte vitnemål.

Den kunstige intelligensen kan også se nye mønstre og finne ny innsikt. I skoleverket kan verktøyene gi oppslukende opplevelser til unge mennesker.

– Men akkurat nå representerer AI mer en trussel enn nye muligheter, sier Karel Fracapane.