Dersom du fortsatt bruker Facebook, har du garantert scrollet deg forbi bilder som ser til forveksling ut som skjermbilder fra norske aviser og kanaler.
Der er det gjerne en eller annen kjendis, som i et utall variasjoner står fram og forteller om noe traumatisk de har opplevd eller gjort.
Men det er som regel helt åpenbart søppel, så du scroller videre, eller rapporterer innlegget før du scroller videre.
Så snakker du kanskje med vedkommende på pulten ved siden av deg og ler litt oppgitt.
Men hva om det ikke bare er irriterende søppel, men også en trussel?
Dette er den verste tasten – sånn får du faktisk glede av den
Større problem for framtiden
– Det er en ganske interessant greie som langt flere folk snakker om nå. De gjør det fordi det er blitt et snodig, og ganske ubetydelig problem nå, sier Ben Decker til CNN. Han er toppsjef for Memetica, et analyseselskap som har spesialisert seg på digitale trusler.
– Men det er også åpenbart at det er noen bekymringer for følgene dette kan få i framtiden, legger han til.
Og da snakker han ikke om faktum at mye av dette innholder leder til sider som består av utelukkende AI-generert innhold og annonser, slik du kan lese om hos 404media. Ei heller at enkelte leder deg til falske nettbutikker.
Utgir seg for å være historisk Apple-nettsted: – AI-generert søppel
Blir «populære» av søppel
Flere av Facebook-kontoene som deler slikt innhold, har også vist seg å kunne bli populære. Flere har et enormt antall følgere. Det tilfeldige eksempelet øverst i saken, Daily Updates On The Roman Empire, har over 126.000 følgere.
Facebook-eier Meta sier de jobber for å fjerne og redusere spredningen av søppel-innhold «for å skape en positiv brukeropplevelse».
De lar også brukere tilpasse sin egen nyhetsstrøm, og oppfordrer AI-skapere til å lage kvalitetsinnhold som møter Metas retningslinjer, sier talsperson Erin Logan ifølge CNN.
– Vi tar også grep for å hindre de som prøver å manipulere trafikk gjennom falskt engasjement, uavhengig av om de bruker AI eller ei, sier hun.
«Vi trenger et internett for og av mennesker – ikke AI»
Kan endre karakter over tid
Men sider som sprer slikt innhold kan altså ha en mørkere plan bak.
– Hvis noe ser ut som en helt vanlig spamfabrikk, så kan det komme unna uten å vekke oppmerksomheten til spesialistene som leter etter ondsinnede aktører, David Evan Harris. Han er AI forsker, og har tidligere jobbet med ansvarlig AI hos Meta.
Ifølge ham er det et marked for kjøp og salg av «modne» Facebook-kontoer, fordi det er mer sannsynlig at dises framstår som mennesker, og dermed unngår filtrene som skal fange opp søppelposter.
– Det er som en svartebørs. Du kan selge tusen kontoer som er mer enn fem år gamle. Disse kan bli kan bli brukt til å påvirke politisk eller til svindler, forklarer Harris.
– Dette er noe du kan se i forbindelse med valg. Noen kan lage en Facebookgruppe for folk som elsker osteburger, og poste bilder av gode osteburgere hver dag i to år. Rett før valget blir gruppa gjort om til en side som skal få folk til å stemme for en av kandidatene, utbroderer han.
