Atomkriger som startes av kunstig intelligens, er et scenario vi mest forbinder med science fiction-filmer. Men med den raske utviklingen av teknologien vi ser i dag, har denne typen bekymringer plutselig blitt mer relevante.
Amerikanske folkevalgte har nå gått til det skritt å legge frem et lovforslag som er ment å forhindre at AI-baserte systemer på egen hånd kan kontrollere anvendelsen av atomvåpen. Nettstedet The Verge er blant dem som har skrevet om saken.
Krever menneskelig kontroll
USAs forsvarsdepartement har allerede regler på plass som presiserer at mennesker alltid skal være involvert i avgjørelser som dreier seg om bruk av atomvåpen, men det nye forslaget vil altså gjøre denne regelen til gjeldende lov.
Lovforslaget, som er tverrpolitisk, har fått navnet «Block Nuclear Launch by Autonomous Artificial Intelligence Act of 2023».
I selve teksten står det at loven tar sikte på å forby bruk av føderale midler til å ta i bruk atomvåpen via autonome våpensystemer som ikke er underlagt «meningsfull, menneskelig kontroll».
I et eksisterende direktiv defineres «autonome våpensystemer» som et system som er i stand til å velge ut og engasjere mål uten videre intervensjon fra en menneskelig operatør.
Norge i skyggen av AI-revolusjonen: Cybersikkerhet krever en opptrapping av innsatsen
Som begrunnelse for lovforslaget viser senatorene bak forslaget blant annet til en rapport fra Human Rights Watch, hvor det hevdes at roboter mangler evnen til medfølelse, empati, nåde og dømmekraft, noe som er nødvendig for human behandling av mennesker. Maskiner forstår heller ikke den iboende verdien til menneskeliv, heter det i rapporten som siteres i lovforslaget.
Mange er redde
Forslaget baserer seg også på en fersk politisk deklarasjon fra den amerikanske utenriksministeren, hvor det presiseres at stater må beholde menneskelig kontroll og involvering når det gjelder både informasjon og gjennomføring av beslutninger knyttet til atomvåpen.
– En atomkrig i stor skala vil føre til døden for millioner av mennesker, ildstormer, radioaktivt nedfall, ødeleggelser for jordbruket og katastrofale konsekvenser for klimaet. Etterkommelse av internasjonale, humanitære lover og menneskelig dømmekraft er essensielt for kommando- og kontrollprosessen rundt atomvåpen, står det i lovforslagsteksten.
Frykten for utviklingen av selvstyrte våpensystemer deles av myndigheter andre steder i verden, også her hjemme. Som Digi rapporterte tidligere (for abonnenter), har den internasjonale kampanjen for å stoppe drapsroboter henvendt seg til den norske regjeringen, for å stanse utviklingen av selvstyrte våpensystemer som kan brukes til å angripe mennesker.
Noen av de mest kritiske røstene når det gjelder kunstig intelligens hevder at teknologien til og med er enda farligere enn atomvåpen – deriblant Elon Musk.
– Ingen ville tillatt noen å bygge atomvåpen bare fordi de har lyst. Det hadde vært sinnssykt. Hør mine ord. AI er mye farligere enn atomvåpen, sa Musk for noen år tilbake.
Flere land, først og fremst USA, investerer allerede store summer i autonom våpenteknologi – det som gjerne kalles LAW-våpen (lethal autonomous weapon).
Financial Times: Oljefondet ber om statlig regulering av kunstig intelligens
