En teknologisk bjørnetjeneste?

Kunstig intelligens (KI) er en svært allsidig teknologi. Den brukes i dag blant annet til å tjene enorme summer på å sanke inn data om våre nettvaner og til å holde på oppmerksomheten vår i sosiale medier. Hvordan vil KI forme samfunnet og hverdagen vår i fremtiden?

Milliardæren Elon Musk har advart om at kunstig intelligens kan bli en trussel for menneskeheten. Han mener derfor at strenge reguleringer må innføres på bruk av KI, på linje med det vi har i dag har når det gjelder fly, biler og medisin.

Miljøfilosofen James Lovelock hadde en motsatt fremtidsvisjon av Musks. I boken Novacene (2019) bygget han videre på Gaia-hypotesen fra 70-tallet, hvor jorda er et selvregulerende system. Lovelock forventet at KI blir neste ledd på evolusjonskjeden etter mennesket, som vil redde jorden fra global oppvarming, motivert av ønske om egen overlevelse.

Leonora Onarheim Bergsjø er førsteamanuensis ved Høgskolen i Østfold og Universitetet i Agder. Hun har over flere år forsket på hvordan KI kan tas i bruk i både privat og offentlig sektor. Slik hun ser det har Norge og EU tatt en rekke grep for å styrke personvernet, sist ved innføringen av GDPR (General Data Protection) i 2018. Med denne type lovgiving fikk enkeltpersoner større kontroll over hvordan data brukes, deles og oppbevares.

– På dette området synes jeg vi ser veldig positive tendenser når det gjelder utredninger om hvilke typer teknologi som går på bekostning av menneskets rett til privatliv. Det er fortsatt en tydelig politisk vilje til å ivareta vår rett til privatliv i EU, som er en grunnleggende motvekt til den enorme overvåkningen som vi ser andre steder i verden, uttaler Bergsjø.

EU er nå i ferd med å utvikle nye standarder for bruk av KI gjennom hva som kalles Artificial Intelligence Act, som på norsk kalles forordningen for kunstig intelligens. Til nå har avstemming om loven i Europarlamentet blitt utsatt siden har oppstått store uenigheter om hvilke KI-programmer som kan utgjøre en høyrisiko for samfunnet. En politisk avklaring er imidlertid ventet i de nærmeste månedene (Politico 3.3.2023).

Bergsjø mener vi er langt unna å oppnå standarder for KI-bruk på nivå med bil-, fly- og medisinbransjen, på grunn av ulike verdisett og lovgiving i ulike land. Hun mener samtidig det er lite som er tillitvekkende ved måten Musk uttaler seg i dobbeltrollen som både teknologiskeptiker og teknologiprodusent.

– Elon Musk snakker med to tunger. Han har tidligere uttalt seg på pressekonferanser, på vegne av hans firma Neurolink hvor de prøver å utvikle teknologi som kan lese tankene våre, som er etisk problematisk. I de talene nevner han ingenting om etikk og regulering. I andre kontekster uttaler han seg om noe som er veldig lite kontroversielt, nemlig at vi trenger regulering. Jeg hører ikke at han vil gi fra seg kontrollen over Neurolink-teknologien, som han vil skal utvikle seg raskt og langt, understreker Bergsjø.

Etter kunstig generell intelligens (KGI) følger det neste nivået, som er kunstig bevissthet, eller imitering av bevissthetsprosesser som vi ser i mennesker. Ifølge Lovelock kan det da skje at vurderingsevnen til slike systemer oppnår en høyere status enn hva mennesker har.

Bergsjø mener det i en slik sammenheng er viktig å ha i mente to perspektiver på en slik utvikling.

– Det som Lovelock snakker om er at vi rett og slett settes ned på rangstigen når maskinene tar over, og det innebærer to ulike spørsmål. Er det teknisk mulig å gjøre? Og ønsker vi denne teknologien så hardt at vi kommer til å lage den? På det siste spørsmålet tenker jeg: nei, det vil vi ikke, konkluderer Bergsjø.

For Bergsjø er det derfor usannsynlig at KI vil kunne utvikle seg på et slikt nivå. Slik hun ser det, vil heller menneskets rolle som beslutningstakere bli styrket.

– Mennesket har til alle tider vært god til å overleve og tilpasse seg. Derfor synes jeg at det virker usannsynlig at mennesket vil lage noe som er bedre enn seg selv og dermed nedrangere seg selv, sier Bergsjø.

Bergsjø mener det ikke er mulig å stoppe utviklingen av slike systemer, for å hindre uheldige konsekvenser. Men hun mener norske politikerne har en for tilbakelent holdning til konsekvensene av innføring av KI i samfunnet.

– Nye programmer med kunstig intelligens selges inn og deretter forholder alle seg til at det blir lansert, istedenfor for å spørre, er dette noe vi ønsker? Er det dette som gir menneskeheten en bedre hverdag og bidrar til mer likestilling og likeverd?

Bergsjø mener dette er etiske spørsmål vi vil få mer debatt om fremover.

– Der er det Lovelock tar et veldig tydelig standpunkt. Han sier at hvis vi skal redde jorden, er det dette som er veien å gå, at det er en naturlig evolusjon. Det er en brutal erkjenning av hva som er virkeligheten. Hvis temperaturen stiger fire grader, kommer vi til å overleve? Antagelig noen av oss. Vi kan være enige om at vi ikke har gjort nok for å stoppe klimautslipp i tide, konkluderer Bergsjø.

Morten Goodwin er professor i informasjons- og kommunikasjonsteknologi ved Universitetet i Agder, og en ledende forsker på KI i Norge. For å forhindre at KI brukes til skjulte formål anbefaler han at utenlandske selskaper følger standarder som er på nivå med GDPR-regelverk.

Når det gjelder fremtidsvisjonene til Musk eller Lovelock understreker han at det er viktig å skille mellom intelligens og bevissthet.

– Du kan få en generell kunstig intelligens som er på vårt nivå uten at den har noen form for bevissthet. Når vi klarer å simulere menneskelig intelligens, gitt nok tid, burde vi kunne klare å simulere bevissthet. Da tenker jeg at det er ingen grunn til at vi ikke kan få både juridiske og fysiske personer, eller vesener, som er som oss mennesker, som også er en robot, sier Goodwin.

Han understreker imidlertid at vi trolig må vente svært lenge før vi får se om Musk eller Lovelock får rett i sine spådommer, spesielt når det det gjelder kunstig bevissthet.

– Dette er så langt inn i fremtiden at det er uklart hva som kommer til å skje. Det kan oppstå hindringer vi ikke vet om. I dag ser jeg ikke noen begrensninger. Da kan vi få en helt ny verdensorden, konkluderer Goodwin.

Når kan vi vente oss at KI utvikler seg til et helt nytt nivå? I 2022 hevdet Musk at KGI vil være en realitet i 2029. Gary Marcus, professor i psykologi og nevrovitenskap ved New York University, veddet 100 000 dollar på at det ikke ville kunne skje.

Nick Bostrom, KI-professor ved Universitetet i Oxford spurte i 2014 100 av verdens ledende KI-forskere om hva som kan være i vente. Rundt halvparten svarte at KGI trolig ville være en realitet innen 2040-2050. Den andre halvparten svarte at de anså et slikt scenario som ren science fiction. For Goodwin er undersøkelsene til Bostrom et mer holdbart utgangspunkt enn Musks forventninger om fremtiden.

– Musk overdriver mye og det er mye spekulasjoner. Men det betyr ikke at det ikke kommer til å skje, det at KGI blir utviklet. Det kan skje 20, 40 eller 200 år fram i tid, sier han.

Goodwin er ikke bekymret for den videre teknologiske utviklingen.

– Vi kommer i all overskuelig fremtid ha ganske god kontroll på KI. Vi kommer til å vite hva kunstig intelligens gjør og hva den ikke kan, hvor den har begrensninger og ikke har begrensninger. Hvis vi ser at den er i ferd med å ødelegge menneskeheten, er jeg sikker på at vi kan sette ganske mange tiltak inn for å stoppe den, konkluderer Goodwin.

Når det gjelder Lovelocks fremtidsvisjon, mener Goodwin at den kan innebære en konstruktiv vending for menneskeheten.

– Jeg tenker at dette er positivt, hvis kunstig intelligens utvikler seg som Lovelock hevder. Det vil bety at menneskelige liv har en verdi og at en slik situasjon bare er til vår fordel, hvis kunstig intelligens kan hjelpe oss med miljøkriser eller kriger, avslutter Goodwin.

Da gjenstår det å se om algoritmene vil kunne utvikle seg fra Chat GPT til å bistå menneskeheten med å løse kriser på et globalt nivå. Teknologien møter akkurat nå sterk motstand. I et åpent brev fra Future of Life Institute krever flere hundre forskere og entreprenører øyeblikkelig stans i utvikling og testing av avanserte chat-programmer basert på KI (Wired 29.3.2023). Da gjenstår det å se hvilke konsekvenser deres skepsis mot KI vil få når det gjelder utforming av nye lover og regelverk, i både USA og Europa.