FNs generalsekretær sier kunstig intelligens kan true global fred og sikkerhet og ber verdens land om å etablere regelverk for å hindre kaos og ødeleggelser.
FNs sikkerhetsråd hadde tirsdag sitt første møte med kunstig intelligens (KI) som tema.
Generalsekretær António Guterres ønsker at medlemslandene innen 2026 får på plass en bindene pakt for å forby dødelige autonome våpensystemer.
Det kan medføre veldig alvorlige konsekvenser for verdensfreden dersom FN-landene ikke samles om sikre vern mot ondskapsfull bruk.
– KI vil påvirke alle områder av livene våre. Generativ KI har enormt potensial for både godhet og ondskap i stor skala, sa han.
Utviklingen av språkmodeller kan stanse: - Blir vanskeligere
Systemfeil og uærlige hensikter
På den positive siden trakk han fram mulighetene for å avdekke voldsmønstre eller sikre at våpenhviler overholdes. Guterres nevnte også at KI kan bidra i kampen mot kreft og global fattigdom.
Samtidig advarer han om at terrorister og stater med uærlige hensikter kan forårsake forferdelige nivåer av død og ødeleggelse.
Feil i systemer for kunstig intelligens kan også skape kaos, spesielt hvis teknologien brukes i tilknytning til atomvåpensystemer og bioteknologi.
– Vi må enes om det generelle prinsippet å aldri fjerne den menneskelige handlefriheten og kontrollen over atomvåpen, sier Guterres.
Musk starter AI-selskap: - For å forstå virkeligheten
Toppmøte i år
Guterres ønsker at FN-landene blir enige om et veikart for disse spørsmålene i løpet av året. Han ønsker en global tilsynsmyndighet etter modell av Det internasjonale atomenergibyrået og Den internasjonale organisasjonen for sivil luftfart.
Storbritannia er senere i år vertskap for et toppmøte om kunstig intelligens. Landets utenriksminister James Cleverly understreket under sikkerhetsrådsmøtet tirsdag at KI både kan styrke og forstyrre den globale stabiliteten.
– Det utfordrer våre grunnleggende antakelser om forsvar og avskrekking. Det reiser også moralske problemstillinger om hvem som skal holdes ansvarlig for avgjørelser med dødelig utfall på slagmarken, sier han.
