Det har den siste tiden vært store protester i Sør-Korea, basert på hva som er lekka fra gruppechatter på meldingsappen Telegram.
I chattene er det blitt delt seksuelt og ulovlig deepfake-innhold, noe som har ført til krav om strengere straffer.
Antallet slike saker har eksplodert i Sør-Korea de siste årene, og nå vil myndighetene ha mulighet for å straffe flere for disse lovbruddene.
Vil straffe flere og hardere
Det har fra tidligere vært forbudt å lage slikt AI-generert innhold med hensikt om å dele det, men nå blir loven strammet opp.
- I fortsettelsen blir det også forbudt å kjøpe, laste ned eller se på seksuelt deepfake-innhold.
- Straffen for å lage seksuelt deepfake-innhold blir også skjerpet. Nå kan lovbrytere risikere opptil sju år i fengsel, uavhengig av forsett.
Forbudet er blitt vedtatt i Sør-Koreas nasjonalforsamling, og trer i kraft etter at president Yoon Suk-yeol har godkjent det.
Godkjente EU-lov om AI: Dette blir forbudt
Vanskelig å få fjernet
Sørkoreansk politi har så langt i år håndtert mer enn 800 saker som dreier seg om seksuelt deepfake-innhold, ifølge nyhetsbyrået Yonhap. I 2021 var tallet 156.
De fleste av både ofrene og gjerningspersonene er tenåringer, ifølge politiet.
I denne formen for deepfake-innhold brukes kunstig intelligens til å kombinere pornografisk innhold med tredjeparter, slik som australske Noelle Martin.
Hun har jobbet i flere år for å få fjernet innholdet, men har erfart at dette er vanskelig.
– Du kan ikke vinne. Dette materialet vil alltid være der ute. Det ødelegger deg for alltid, sa Martin til nyhetsbyrået AP i fjor.
