Sosiale medier flommer for tiden over av tekster og bilder laget av generativ AI, hvor ChatGPT er det siste nye. AI-en har allerede rukket å bli utestengt fra Stack Overflow.
Men flere har også trukket fram at teknologien kan brukes til å lage ondsinnet kode. For eksempel har Twitter-brukeren ordx64 generert "post-explotation payloads":
You can generate post exploitation payloads using openAI and you can be specific on how/what the payload should do. This is the CyberWar I signed for pic.twitter.com/UIkYloCKgN
— lordx64 (@lordx64) November 30, 2022
- Generativ AI har vist evnen til å generere gode phishing-mailer, skrive grunnleggende kode som utnytter sårbarheter, samt scripts for å omgå deteksjon av antivirus, sier grunnlegger og daglig leder i pentester-selskapet Kovert til kode24.
Kan være en skadevare-assistent
Ingesen sier det ikke er noen tvil om at all teknologi kan misbrukes i en eller annen form.
- Sånt sett kan generativ AI være en "trussel", med tanke på hva vi har sett den produsere, sier han.
Men det kommer veldig an på hvor avansert det du generer er. Ingesen forteller at du kan få AI-en til å generere komplekse ting, og at den kan forstå ganske komplekse ting, men:
- Den kan trenge en del hjelp. Hvis den får en svær blob med kode så er den i utgangspunktet ikke kjempegod til å forstå mening av koden. Men jo flere spørsmål du stiller om koden, jo bedre blir den til å forstå og kontekstualisere innholdet.
Stack Overflow forbyr kode skrevet av ChatGPT - mener den ofte inneholder feil
Inneholder ofte feil
Ifølge Ingesen har vi enda ikke kommet der at generativ AI kan lage avansert skadevare på egenhånd.
- Men den kan fint være en "assistent" som hjelper deg på veien til å lage skadevare.
Kovert-sjefen forteller at de opplever i stor grad at all kode som blir laga av generativ AI inneholder små syntaktiske feil, subtile logiske feil - eller begge deler.
- Men jeg tror dette kan være utrolig nyttig som en assistent, og kan implementeres i ulike verktøy for å utvide funksjonalitet. Litt som en moderne Clippy, sier han.
- ChatGPT kan revolusjonere måten vi samhandler med teknologi på!
Pluss i kampen mot skadevare
Ingesen sier at en av ulempene er at det til tider kan være vanskelig å vite om den bare finner på tekniske detaljer, eller om de faktisk stemmer.
- Det er absolutt et kraftig verktøy, men hvis man ikke er forsiktig, kan man fort skyte seg selv litt i foten.
Selv er Ingesen mer optimistisk enn bekymret når det gjelder generativ AIs framtid innenfor sikkerhetsfeltet.
- All teknologi kan misbrukes, men hvis generativ AI kan brukes for å utvide eksisterende verktøy for å gjøre hverdagen vår enklere, så tror jeg dette har kommet for å bli, sier han.
Ifølge Ingesen ser vi allerede tilfeller hvor AI-en er god til å assistere med "reverse engineering", altså å gjøre ondsinnet kode mer forståelig.
- I kampen mot skadevare, så er dette et pluss. Som et teknisk offensivt verktøy så trenger den fremdeles en del hjelp. Det den produserer er ikke spesielt mye bedre enn det man raskt klarer å søke seg frem til på egenhånd.
