Kunstig intelligens (AI) er en trussel, nen feilregulering av AI skapt i frykt, er en større trussel. Krisemaksimering får oppmerksomhet, men det gjør oss ingen tjenester.
Det er ikke bare Tor W. Andreassen som er redd. Elon Musk er redd, og for bare noen dager siden prydet også «Konsekvensene kan bli katastrofale» forsiden til Norges største avis, VG.
Der har Leif Welhaven skrevet en kronikk med overskriften «Frykten for kunstige kamerater», der han kort oppsummert frykter «worst case scenario» fra AI-utviklingen er mangel på arbeidsplasser, dårlig påvirkning på barn og mer makt til teknologiselskapene (Big Tech).
Da blir alle redde. Jeg vil understreke at jeg også er redd.
Verst tenkelig utfall fra AI-teknologien er ikke at det svekker demokratiet, som Andreassen hevder, eller noen av de forannevnte eksemplene fra Welhaven. Det verste som kan skje - og merk ordet «kan» – er menneskets undergang.
Med stadig mer velutviklede algoritmer, gir dette enorm makt. Vi har allerede blant annet sett «Auto-GPT» kjøpe ting og utføre handlinger på nett, basert på kommando.
Her trenger man ikke fantasere mye for å se for seg en potensiell truende utvikling. Her får du to scenarioer inspirert av tanker fra den amerikanske forskeren Eliezer Yudkowsky og hjerneforskeren Sam Harris.
- Uhellet: En algoritme optimalisert for å lystre kommandoen «lag jordbær best mulig» kan ved et uhell optimalisere jordens overflate og økologien, slik at det ikke lenger er levelig for mennesker – fordi den kun tilrettelegger for jordbærproduksjon. Den kan rett og slett drepe oss ved et uhell – litt på samme måte som når en hund tråkker på et insekt – eller mennesker ødelegger livsgrunnlaget til dyr ved å drive landbruk.
- I onde hender: Dersom vi vil, så kan vi begå kollektivt selvmord i dag ved hjelp av atombomber og/eller supervirus. Dette er ikke et ønske fra fellesskapet, og selv enkeltindivider med ondsinnede ønsker sliter med å gjennomføre dette, fordi det krever mye innsats. Med lett tilgjengelig, god AI er det derimot ikke umulig å se for seg et individ som hater verden, alt og alle, ved hjelp av AI kan utvikle eller manipulere noen til å lage og spre et supervirus for seg.
Dette er to eksempler som ikke engang krever at vi utvikler en AI med bevissthet (AGI) – som igjen bestemmer seg for å drepe oss.
Ettersom teknologien utvikler seg, blir oppsidene uendelig store, og nedsidene uendelig lave. Oppsiden blir «utopi» og nedsiden blir «menneskets undergang». De negative av oss vil poengtere at vi dermed bare trenger å gjøre et «uhell» én gang – så får vi ikke flere sjanser.
Jeg velger likevel å være optimist. Jeg tror på utopien der AI sammen med menneskelig kreativitet både løser problemer – og finner nye problemer å løse. Det er vi mennesker uslåelige på.
Vi kommer til å møte mange navngitte trusler i årene som kommer: klimakrise, Kina og befolkningskollaps. AI er sannsynligvis en kritisk brikke for å løse disse utfordringene.
Når har det noensinne lønnet seg å stoppe progresjon? Vi stoppet heldigvis ikke traktoren fordi vi fryktet at den skulle ta jobben til bøndene våre.
Vi kan godt ta en språklig debatt om hva som er invensjon og hva som er innovasjon – hva som er å finne opp noe, hva som er å forbedre det eller ta det i bruk – og ikke minst når det ene glir over i det andre. Poenget er og forblir at samfunn med vestlige verdier som ikke kveler seg selv med regulering, har dominert på begge fronter.
Kina har for all del klart å innovere på noen fronter, for eksempel med den knakende effektive algoritmen til Tiktok. Kina er gode på å kopiere. Men hvor mange betydelige oppfinnelser har kommet fra deres side, sammenliknet med vesten de siste årene? De dilter etter – og det hjelper ikke i et AI-kappløp med eksponentiell vekst.
Jeg er kanskje naiv, men ikke naiv nok til å tro at det ikke kommer regulering. Jeg bare håper når den tid kommer at vi ikke lar oss hemme av frykt, slik som med regulering av atomkraft. Men heller legger til rette for en smart, tydelig og forutsigbar regulering som stimulerer til progresjon. Her har de som jobber med EUs AI Act noe å strekke seg etter.
Regulerer vi oss i hjel, så gir vi opp den lille fordelen vi har.
