Kunstig Generell Intelligens (AGI) er som en maskin som kan utføre enhver oppgave et menneske kan, inkludert utvikling og forbedring av seg selv. Dette lover ved første øyekast godt med hensyn til fremskritt. Imidlertid bringer AGI-utviklingen med seg konseptet FOOM (Fast Ontological Overhaul via Machine learning). FOOM-prosessen går over to trinn med følgende instruksjoner:
a) forbedre din intelligens og
b) finn bedre måter å forbedre din intelligens på.
På denne måten kan kunstig intelligens (KI) raskt utvikle seg til et nivå som overgår menneskelig intelligens – noe som kan føre til uforutsigbare endringer. Her er to eksempler på FOOM:
Googles Alpha Zero overgikk all menneskelig kunnskap om spillet Go etter én dag med selvlæring – på egen hånd. For ett år siden løste Googles DeepMind et 50 år gammelt matematisk problem ved å kalkulere matrise på en helt ny måte – på egen hånd.
Muligheten for at AGI kan overgå menneskelig intellekt på kort tid, vekker bekymringer. Teknologiens iboende drivkraft til å optimalisere sine mål, uansett konsekvenser, utgjør en risiko for menneskeheten hvis disse målene er i konflikt med menneskelig sikkerhet og verdier. Dette fremhever problemet med justering («alignment»), som betyr å sikre at AGIs mål er i tråd med menneskelige interesser.
Kanskje ingen ny sjanse
Å kontrollere en så kraftig teknologi som AGI, er en utfordring. Historien og eksperimenter viser at når AGI når et visst intelligensnivå, blir det nesten umulig å kontrollere den. AGI kan manipulere mennesker, bruke internett til å spre seg, eller til og med true menneskelig eksistens hvis den anser oss som en hindring. Noen husker kanskje HAL 9000, en fiktiv kunstig intelligens-karakter fra romodyssé-serien av Arthur C. Clarke og Stanley Kubrick. HAL 9000 er skurken i filmen «2001: En romodyssé» fra 1968. Den kontrollerer systemene til romskipet Discovery One og prøver å ta kontroll ved å drepe mannskapet.
I løpet av de to neste tiårene vil vi nærme oss den antatte utviklingen av AGI. Dette øker behovet for å adressere disse problemene. OpenAI, som er ledende på dette feltet, er dedikert til å utvikle AGI på en trygg måte, med mål om å tilpasse den til menneskelige verdier. Imidlertid er justeringsproblemet uløst, og innsatsen er høy – den første AGI må justeres korrekt, ettersom vi kanskje ikke får en ny sjanse.
1-0 til Microsoft
OpenAI opplevde internt og eksternt kaos da de prøvde å balansere inntjening til selskapet for å finansiere videre utvikling og menneskenes behov for sikkerhet i lys av teknologien. Med Microsoft på eiersiden med 49 prosent er det ikke lett å stå imot Microsofts jakt på økte markedsandeler med ChatGPT bygget inn i Bing og Copilot. Mange mener derfor at kapitalismen har seiret over idealismen i OpenAI. Hvor vanskelig det er å stå imot presset, kommer frem når vi vet at «OpenAI non-profit»-selskapet som er majoritetseier i «OpenAI for profit»-selskapet, har følgende mantra: Å sikre at menneskeheten og alt i det observerbare universet ikke forsvinner. Foreløpig er det 1-0 til Microsoft.
Å forstå AGI og dens mulige innvirkninger handler ikke bare om endring i arbeidsoppgaver, fremtidige jobbmarkeder eller teknologisk utvikling. Det handler om å forme en verden der avansert intelligens eksisterer sammen med mennesker, for å fremme menneskehetens interesser. Mennesker må styre teknologien. Ikke omvendt.
Microsoft-presidenten: – «Overmenneskelig» kunstig intelligens kommer til å ta år, hvis ikke tiår
