– Da Chat GPT ble lansert, fikk alle lærere, studenter og skoleelever i Norge tilgang. Uten at vi hadde noen tenkning omkring hvorvidt vi vil ha dette, sier Henrik Haug Sætra, som er førsteamanuensis ved Institutt for informatikk ved Universitetet i Oslo.
Med dette eksempelet sikter han både til hvor utbredt amerikansk teknologi er i Norge i dag og hvor lite kontroll vi har over den.
– Norge har ekstremt lite kontroll over de ressursene som har blitt så dypt integrert i den demokratiske infrastrukturen vår. Den kontrollen bør vi ta tilbake.
Samtidig sier digitaliseringsminister Karianne Tung (Ap) og statsminister Jonas Gahr Støre (Ap) stadig at de er redde for ikke å bli med på det fantastiske toget som går nå. Sætra antyder at dette er basert på en frykt for at vi da blir stående igjen på perrongen, og det kan vi vel ikke gjøre?
– Jo, det kan vi, sier han. – Vi kan først vurdere hvor det toget går og om vi har lyst til å være med dit. Og det er ikke sikkert. Dette høres sikkert ut som et radikalt og urealistisk budskap, men det er det viktigste vi kan gjøre, sier Sætra, som er aktuell med boka Hvordan redde demokratiet fra kunstig intelligens.
KI truer selve kjernen av demokratiet
– Hvordan truer kunstig intelligens demokratiet?
– Teknologien går på mange måter til kjernen av demokratiet. Den påvirker evnen vår til å ta inn informasjon, bearbeide den og formidle den. Noe som er helt sentralt for oss for å fungere i et demokrati. Dermed gjør den noe med oss som individer, sier Sætra.
Kunstig intelligens (KI) påvirker også hvordan vi forholder oss til hverandre. Den skaper filterbobler og ekkokamre som har noe å si for hva slags verdensbilde vi får. Du og jeg kan leve på helt forskjellige planeter i sosiale medier. Da blir det vanskeligere for oss å snakke sammen, noe Sætra mener er helt nødvendig for å ha et demokrati som fungerer.
En annen stor utfordring er at man kan lage veldig overbevisende informasjon som er helt fullstendig oppspinn, eller har en kjerne av sannhet i seg, med kunstig intelligens. Noe som kan få veldig feil utslag.
– Jeg tror ikke det har hatt all verdens effekt ennå, i hvert fall ikke i Norge. Jeg tror heller ikke at vi i Norge kommer til å falle for noen voldsomme konspirasjonsteorier som skapes på internett, men det er definitivt en fare og viktig å følge med på det her også.
Lett å forstå fristelser
I tillegg er det mange som har lyst til å bruke KI til å optimalisere og fikse demokratiet. For demokrati er noen ganger svært knotete, sier Sætra. Og det er ikke så vanskelig å forstå hvorfor det kan synes fristende å bli kvitt mye av det tullete byråkratiet. Hvis KI kan hjelpe oss å få en mer effektiv og optimalisert politikk, hvorfor skulle vi ikke gjøre det, spør han retorisk.
– Men det å drive med politikk selv på et litt lavt nivå er også en del av demokratiet, noe vi kanskje trenger at mennesker driver med og gjør, så det er ikke gitt at det er helt uproblematisk.
Noen er dessuten fristet til å la KI ta større beslutninger for oss, fordi vi ser at mennesker ikke alltid er så flinke til å ta perfekte beslutninger.
I kompliserte saker der det er uoversiktlig og vanskelig, er det fristende å bruke KI til å ta beslutninger, eller i hvert fall forberede sakene og legge til rette for det. Men systemene vi har i dag, forstår vi ikke godt nok til at vi beholder menneskelig kontroll. Da undergraver vi også demokratiet til en viss grad.
– Still strengere krav
KI er ikke bare er teknologi, men makt og politikk, minner Sætra om.
– Det siste poenget mitt er at KI-systemene vi bruker, stort sett er bygget og driftet av tre–fire store amerikanske selskaper. Og et par kinesiske selskaper som driver sosiale medier og annen infrastruktur, sier han.
Sætra stiller spørsmål ved hvordan nye og kraftfulle teknologier nå slippes løs i samfunnet vårt uten at vi har noen særlig kontroll over dem – eller tar kontroll over dem. Eller stiller de dypere spørsmålene om hva den gjør med oss som samfunn.
Et tilleggsproblem er at de som har kontrollen, har eksplisitte politiske idealer og motiver som de har lyst til å pushe ut til resten av verden, noe som gjør det ekstra problematisk.
– De støtter opp om Trumps agenda og vil at USA skal være en teknologiimperialist, sier han.
Og nåde dem som våger å stå imot, noe for eksempel Trump, J. D. Vance og Metas Mark Zuckerberg har sagt rett ut.
Still krav til KI-modellene!
På tide at statsministeren forlater X?
Men noen våger. I Brasil stengte for eksempel høyesterett tilgangen til X, tidligere Twitter, en periode i fjor. Dette var etter en lengre feide med Musk om å utestenge brukere som brøt brasiliansk lov.
– Men hva skal vi gjøre, skal vi slutte å bruke sosiale medier, for eksempel? Det er jo der den offentlige samtalen foregår?
– Vel, jeg har slettet de fleste kontoene mine – som på X og Metas plattformer, og oppfordrer alle jeg kjenner til det. Samtidig vet jeg at det har en begrenset effekt.
Han peker på hvordan lederne våre, som Støre, fremdeles er på og bruker X – Elon Musks sosiale medium, som han veldig aktivt bruker for å fremme sin egne politiske agenda i USA, men nå også i Europa. Hvis vår statsminister velger X som sin arena for å komme med pressemeldinger, for eksempel, siterer alle avisene i Norge X-innlegget til Støre, og han legitimerer og promoterer plattformen helt direkte, mener Sætra.
– Lederne våre har et ansvar, mener jeg. Jo færre av lederne våre og de populære folkevalgte som er på plattformene vi anser som problematiske, jo mindre interessant er det for andre å være der. Og det blir mer realistisk at det kommer alternativer som er bedre.
– Hvordan skal vi redde demokratiet fra KI?
– Hovedpoenget mitt er at vi må stille spørsmålene om hva vi egentlig vil ha ut av teknologien. Hva slags samfunn vil vi ha, og hva tror vi teknologien kan hjelpe oss til å få? Og ikke minst, hva gjør den det vanskelig å oppnå? Da kan vi faktisk stille de grunnleggende og radikale spørsmålene, og kanskje vi kommer frem til at vi bør si nei takk til teknologi som det i dag kanskje virker umulig å si nei takk til.
Han maner til håp og sier at det ikke er umulig å stå imot. Vi må støtte opp under og holde hardt på det EU gjør, med for eksempel Digital Services Act, en forordning som forsøker å gjøre noe med nettopp dette, påpeker han.
Sætra er opptatt av å utfordre antakelsen om at reguleringer hindrer innovasjon.
– Reguleringer, forutsigbarhet og gode rammeverk promoterer innovasjon. Dette er velkjent innen arbeid med bærekraft. Man kan få masse innovasjon hvis man setter krav om at man ikke skal ødelegge planeten. Det samme vil skje hvis vi sier at det ikke er lov å utnytte dataene våre.
Men det er også viktig å lage noe selv, ikke bare bli veldig gode til å si nei til ny teknologi.
– Vi må definitivt ha mer utvikling av teknologien her i Norge også, sier Sætra.
Mange stemmer har også tatt til orde for at vi trenger europeisk infrastruktur, bygget på andre verdier enn den amerikanske og kinesiske og regulert og kontrollert på andre måter.
Kunnskap og kompetanse om KI blir sentralt
Sætra er opptatt av at vi må sørge for at utdanningene våre – fra barn til voksen – inneholder mer om demokratisk kontroll med teknologi og hvordan vi utvikler den bedre.
– For våre egne studenter er en start, men det er ikke nok. Ved Institutt for informatikk har vi for eksempel et nytt emne: Digital teknologi og samfunn, som nettopp gir en innføring i de sosiale implikasjonene av teknologi.
Universitetet i Oslo har også et nytt digitaliseringssertifikat. Det handler blant annet om å forstå KI og digitalisering og er åpent for alle studenter. Målet er at de som skal regulere og bruke teknologien, vil forstå mer av den. Og at de som skal utvikle teknologien, forstår mer av implikasjonene for samfunnet.
Vil styrke redaktørstyrte medier
På sosiale medier kan vi ikke stole på det vi ser. Så hva gjør vi da? Da må vi gå til autoriteter, som kan være mediene.
– Jeg mener vi må styrke tradisjonelle medier, for eksempel gjennom finansiering. I Canada blir de store teknologiplattformene pålagt å ta mye av annonseinntektene sine og overføre dem til tradisjonelle medier fordi de har sultefôret tradisjonelle medier, sier Sætra.
– Vi trenger en mediesektor som er sterk og levende, og da må vi subsidiere den, for mediene klarer ikke å konkurrere med gratis saker på internett.
Hjernen trenger også utfordringer
Sætra spør også hva som skjer med hjernen hvis vi slutter å gi den trim. Vi er jo opptatt av å trene kroppen for å holde den ved like, og kan det tenkes at vi også trenger kognitive utfordringer for å holde oss skarpe og utvikle oss?
– Hvis vi lar Chat GPT lese den lange rapporten og gi oss et sammendrag fordi vi ikke orker å lese lange tekster, blir det enda litt vanskeligere å gjøre det neste gang.
Å lese, konsentrere seg, analysere og dra ut essensen av ting, og å formidle og skrive på en måte som treffer andre, er ting vi må trene på for å få det til.
– Blir jeg dårligere til å kommunisere, dårligere til å snakke med deg, dårligere til å sette meg inn i hva andre mener, er det et stort problem for hvordan vi forholder oss til hverandre og klarer å snakke med hverandre som mennesker.
Sætra er veldig klar over at han oppfordrer til ro og moderasjon i en tid der mange er glødende opptatt av og entusiastiske over alt det fantastiske KI nå kan gjøre for oss, og at dette kan synes noe bakstreversk.
For ham handler det imidlertid ikke om å stoppe teknologien, men om å vurdere om føre var-prinsippet kan være greit når vi nå står overfor en ny teknologi som utfordrer mange grunnleggende samfunnsverdier – inkludert grunnlaget for demokratiet.
Artikkelen ble føst publisert på Titan.uio.no
– Mest imponerende gjennombruddet jeg har sett
