- Alt for ofte blir teknologiutviklingen styrt utelukkende av teknologer - uten å se på de sosiale konsekvensene av algoritmene, sier Petter Bae Brandtzæg, sjefsforsker ved SINTEF Digital og professor ved Universitetet i Oslo, til kode24.
Den siste tiden har nettgiganter Facebook, Google, Snapchat og TikTok stått skolerett for amerikanske kongressen. Flere og flere stemmer er kritiske til algoritmene som ligger bak tjenestene.
Brandtzæg mener at situasjonen krever at andre fagfelt må få en større plass i utviklerutdanningene - også i Norge.
Facebook-avhopper: - Mange ansatte er ekstremt frustrerte og sinte
Må regulere
Ifølge Brandtzæg kommer det stadig nye dilemmaer knyttet til regulering av internettplattformer, slik som Facebook. UiO og SINTEF-forskeren mener at hovedutfordringen er algoritmene følger logikken til «oppmerksomhetsøkonomien», med engasjementbaserte algoritmer.
- Dette gjør at algoritmene pusher brukerne også inn i dårlige og skadelige former for engasjement.
Derfor mener Brandtzæg at man bør regulere algoritmene og de store plattformene, slik som Apple, Google og Facebook - noe som han mener GDPR-lovverket har mislyktes med.
- Det bør lages reguleringer som tvinger plattformene til å gi mer kontroll til brukerne. Når de er engasjementsbaserte algoritmer kan de gjøre mye skade. De skjønner verken kontekst eller sunn fornuft.
Utviklerdillema
- Har koderne selv et ansvar?
- Du kommer stadig vekk i dilemmaer når du lager algoritmer basert på engasjement. Algoritmer klarer ikke å skille mellom godt og vondt.
Brandtzæg mener også at det er et spørsmål om hvilke data du bruker.
- Ofte bør dataene kvalitetssikres, noe som er vanskelig når datamengdene er komplekse.
Han trekker fram at de store mediene har et demokratisk basert samfunnsoppdrag på å informere borgere og gi variert tilgang til informasjon. Derimot et algoritmene basert på hva brukerne liker - noe som kan lage «filterbobler».
Ifølge forskeren påvirker all teknologi samfunnet og enkeltmennesker, via design og algoritmer. Han mener vi derfor må involvere samfunnsvitenskapelige og humanistiske fagfelt i utviklerutdanningene.
- Jeg vil tro at mange programmeringsutdanninger ikke har dette implementert i utdanningene. Dette skyldes at algoritmene og teknologien fram til de siste årene har vært lite belyst.
Universitetene frykter desentralisert utdannning: - Trenger fysisk campus!
Et etisk rammeverk
Bandtzæg legger til at slike teknologier fort kan endre gruppedynamikken og sosiale strukturer, slik som hvordan vi samhandler. Samt at vi får ulike mediedietter basert på ulike preferanser via personalisering.
- Da må man ha inn fagfelt som kan si noe om dette.
- Bør det komme en etisk veileder for utviklere?
- Det er allerede flere initiativ i EU hvor man utvikler dette. Man er for eksempel redd for de store etiske implikasjonene av kunstig intelligens - som får stadig større plass i livene våre. Å ha på plass et etisk rammeverk for utviklere er veldig viktig, sier han.
- Hva om den mest lønnsomme forretningsmodellen er den som fucker opp verden?
Etisk koding
Øystein Sæbø, professor i informasjonssystemer ved Universitetet i Agder, har selv jobbet med prosjekter som bærekraft og digitalisering. Blant annet med fokus på etisk koding - en tematikk som blir stadig tydeligere i norske programmerer-utdannelser.
- Bør koderne ta et større etisk ansvar i utviklingen av algoritmer?
- Det er lett å svare ja på dette. Men det handler om to ting: Det ene er at koderne må ta ansvar. En annen ting er at teknologihusene må ta ansvar. De nåværende eksemplene viser jo bare betydningen og behovet for å forstå konsekvensene.
Sæbø forteller at han nylig ble kontaktet av Direktoratet og digitalisering.
- De sier at de har gode kandidater, men at mange mangler den etiske forståelsen av valgene som tas, sier han.
- Internett, ikke Facebook, som er grunnproblemet
Økende bevissthet
Ifølge Sæbø har han god kontakt med forskningsmiljøene i de større norske byene. Han forteller at bevisstheten rundt etiske og moralske spørsmål øker.
- Dette henger nok sammen med samfunnsmessige konsekvenser som følge av digitaliseringen. Samt en mer bærekraftig retning som henger sammen med personvern. Men det vil aldri bli nok bevissthet, sier Sæbø.
Han mener det bør komme en etikkplakat for utviklere og viser til Karslkronamanifestet. Ifølge ham er manifestet en etisk veileder for utviklere.
- De har forsøkt å etablere en liste på hvordan man skal forholde seg til etiske spørsmål.
Professoren mener at det blir vanskelig å lage en helhetlig etisk veileder for hele bransjen. Men også der merker han en endring:
- IT-firmaene er blitt mer opptatt av det. Både når de snakker om det og i forståelsen av handling og konsekvenser.
