Den nylig publiserte kronikken «Norge perfekt for empatisk KI» fremhever Norges potensial for å lede an i utviklingen av «empatisk kunstig intelligens» (KI). Her males et attraktivt bilde av KI som løsningen på Norges utfordringer, og søkelyset rettes mot behovet for nasjonalt forsprang fremfor internasjonalt samarbeid. Forfatterne omtaler edle mål for teknologiutvikling og knytter dette til KI som «forstår og respekterer menneskelige følelser» og «jobber for å skape positive endringer i samfunnet».
Optimisme kan være vel og bra. Og lønnsomt for dem som tjener på vekst i norsk KI. Men ideen om empatisk KI er problematisk og bringer med seg en rekke komplekse spørsmål og utfordringer. Det er viktig å ta et skritt tilbake og vurdere hva vi egentlig vil at KI skal være og brukes til, og om vi vil gå vår egen vei og lage nye begreper fremfor å knytte oss til dem rundt oss.
Designtenkningens død
_logo.svg.png){kind=logo}
En menneskelig egenskap
Først og fremst, antakelsen om at teknologi i seg selv kan være «empatisk», og at Norge har en fordel i å utvikle slik teknologi, er problematisk. Empati er en menneskelig egenskap som innebærer å forstå og dele andres følelser, noe dagens KI-systemer ikke kan sies å være i nærheten av, noe også Chat GPT selv er rask med å påpeke om du spør den om følelser og slikt. Å forsøke å pakke inn KI i varme og koselige begreper som «empati», innebærer en risiko for å mystifisere teknologien.
Dernest er det sant at Norge har sterke demokratiske tradisjoner, høy grad av tillit til hverandre og institusjoner og relativt høy grad av åpenhet rundt data. Men det er ikke gitt at disse kvalitetene automatisk posisjonerer Norge til å lede an i utviklingen av «empatisk KI». Kanskje tvert imot? Vår tillit kan eller bør ikke utnyttes for å fremme teknologisk utvikling som kan underminere nettopp denne tilliten gjennom å utfordre personvern og etiske prinsipper i utvikling og anvendelse av KI.
Forvirrende
Til sist blander kronikken sammen begreper på en måte som leder debatten om ansvarlig KI ut på ville veier. Å slå sammen menneskesentrert KI (som brukes i både EU og USA), utnyttelsen av norsk tillit og affektiv KI (som er et etablert og voksende fagfelt) til en ny visjon om norsk empatisk KI, er ikke bare forvirrende, det kan virke mot sin hensikt. Det siste vi trenger er flere superlativ-prefikser til KI. Det vi trenger er en realistisk, kritisk og etisk tilnærming til teknologiutvikling. Vi trenger en enhetlig begrepsbruk rundt transparente og etiske KI-systemer. Og vi må forpliktelse oss til ikke å utnytte den norske tilliten i jakten på mulig økonomisk vekst eller norsk lederskap i KI som ikke er forankret i demokratiske og inkluderende prosesser.
La oss fokusere på hvordan vi kan bruke KI på en måte som fremmer respekt for personvern, etikk, menneskerettigheter og bærekraftig utvikling. Og la oss gjøre det på lag med de rundt oss, og for eksempel støtte opp under EUs retningslinjer for menneskesentrert og ansvarlig kunstig intelligens.
Debatt: Kunstige ambisjoner om kunstig intelligens
