Kunstig intelligens: en ny type vesen

Inga Strümke er førsteamanuensis ved Norwegian Open AI Lab på NTNU og forfatter av boken Maskiner som tenker. Hun forholder seg primært til KI som et rent fagfelt, og forteller at hun derfor ikke kan starte hver arbeidsdag med å filosofere over hva kunstig intelligens, eller intelligens i seg selv, egentlig er.

-For meg er intelligens evne til problemløsning, sier hun.

Det betyr ikke at hun ikke bryr seg om hva som foregår på innsiden av AI-systemene, eller hvordan løsningene deres blir til.

-Intelligente systemer er absolutt noe som må studeres inngående, sier hun.

At en maskin kan kalles intelligent dersom man ikke klarer å skille maskinens kommunikasjon og oppgaveløsning fra et menneske, mener hun likevel blir å tråkke feil.

-Se for deg at alle verdens hunder gikk sammen og sa at dersom de skal overbevises om at mennesker er intelligente, må vi klare å overbevise hundene om at menneskene er som hunder. Vi kan jo ikke det, men det betyr jo ikke at vi ikke kan løse problemer som hunder kan løse, sier hun.

Hun mener at en slik definisjon av intelligens derfor blir både feil og begrensende med tanke på det vi prøver å oppnå med AI.

-Vi prøver jo ikke å lage kunstige mennesker, vi prøver å lage kunstig intelligens.

Anders Nes er professor i filosofi ved NTNU. Han mener at det som skjer fra en input gis til man sitter med en output, er avgjørende for om man kan definere noe som intelligent eller ikke.

-Hvis man tenker over hva som kjennetegner intelligens for oss mennesker handler det ikke bare om at vi løser oppgaver, men at vi løser dem på en bestemt måte.

Nes forteller at for eksempel å finne en løsning fordi den ligger ferdig i en slags enorm katalog eller minnebank, ikke nødvendigvis er intelligent.

-Skal man se på en prosess som intelligent, så må det være noe mer enn at den klarer å gi riktig svar, sier han. Nes er likevel enig med Strümke i at intelligens ikke behøver å være noe unikt menneskelig.

-Man skal være forsiktig med å påstå at et system ikke er intelligent bare fordi den løser oppgaver på en annen måte enn vi mennesker ville gjort, sier han.

At teknologien forbedres i kvantesprang, gjør det vanskelig å holde tritt når det kommer til etiske avveininger. May Thorseth er professor i filosofi ved NTNU, og påpeker at utviklingen er avhengig av hvem som er med og styrer den.

AI både former og reproduserer samfunnet vi lever i, og får på den måten enorme ringvirkninger. Thorseth stiller derfor spørsmål ved hvor stor del av teknologiutviklingen som skal overlates til de store teknologigigantene.

-En levende diskusjon om bruksområder for kunstig intelligens må være en integrert del av samfunnsdebatten om hva slags verdier vi ønsker å prioritere. Et viktig problem er at vi ikke vet hvordan en teknologi virker før den får satt seg, men da er det samtidig ofte for sent å endre den, sier Thorseth.

Strümke stiller seg bak denne observasjonen.

-Mer enn noen gang rekker vi ikke å forutsi hva konsekvensene er før vi har tatt de neste tre stegene. Vi er alltid bakpå, og havner også lengre og lengre bak. Før vi rekker å se an ChatGPT, så kommer en ny og mye bedre versjon. Vi prøver å nå fram et sted, samtidig som det vi prøver å forstå der framme, bare flyttes lenger og lenger bort, sier Strümke.

-Teknologien føles nesten som en slags naturkraft som bare skjer. Selv om den ikke er det.

Thorseth vektlegger viktigheten av å velge nettopp hvilke arbeidsoppgaver som skal overtas av AI.

-I offentlig sektor er det et stort ansvar å bestemme hvor stor del av for eksempel omsorgsoppgaver som skal overdras til teknologiske løsninger, sier hun.

Stadig flere oppgaver kan løses ved hjelp av AI. Bør man føle seg truet av disse maskinene?

-Jeg er megafan av filosofen Heidegger, sier Strümke.

-Han har et godt poeng når han sier at teknologi egentlig er en måte å kjenne oss selv.

Hun mener dette er spesielt interessant når man begynner å diskutere forfattere opp mot språkgenereringsmodeller, eller kunstnere opp mot bildegenereringsmodeller.

-I et samfunn orientert rundt markedskapitalisme, så er verdien vår veldig nært knyttet opp mot det vi lager, og ikke det vi er. En kunstners verdi er at hen produserer kunstverk, en forfatters verdi er at hen produserer tekst. I dette verdensbildet er jo bildegenereringsmodeller en enorm trussel mot kunstnere, og Chat GPT en enorm trussel mot forfattere, fordi modellene gjør det samme, forklarer hun.

-Hadde vi derimot tenkt på mennesker, dyr og annen natur som ting som er verdifulle bare fordi de er, så er ikke maskinlæringsmodeller den minste trussel.

Strümke observerer at vi som samfunn ikke konfronterer disse spørsmålene direkte.

Hva er verdien til kunstnere nå som maskiner kan generere kunstverk? Eller, hva er vår verdi, når maskiner kan gjøre det vi kan, kanskje også bedre enn oss? Hun tror dette er en diskusjon vi skriker etter å ta, og som   hun har prøvd å løfte flere ganger uten hell.

-Vi er så redde for å bli erstattet av maskiner, ikke fordi en maskin har samme verdi som vi, men fordi en maskin kan gjøre det samme som vi. Men det at verdien ligger i det vi kan gjøre, det er jo vår egen skyld, og skyldes det verdisystemet vi har bygd opp for samfunnet.

Til alle tider har vi hatt teknologi som har erstattet arbeidet mennesker gjør, både gradvis og i større byks. Er noe likevel annerledes denne gangen?

-Da vevemaskinen kom og arbeiderne som ble erstattet av den ble kastet ut av byen og tilbake på landsbygda, brukte de mange generasjoner på å opparbeide seg kjøpekraften de mistet. Det var mange generasjoner med krise, som gikk på eksistensen løs. På lang sikt gikk det derimot bra, og primært var det  bra for verdensøkonomien, forklarer Strümke. Denne gangen tror hun det heller kan være motsatt.

-På kort sikt kommer vi ikke til å bli kastet ut i fattigdom og eksistenskrise på grunn av dette, men på lang sikt ligger det an til å ikke være like positivt. Jeg tror ikke vi kommer til å se tilbake på tiden vi er i nå og tenke at det var bra at utviklingen var som den var og gikk så fort, sier Strümke.

-Jeg føler nesten jeg er en klimaforsker som sitter og forteller deg om klimaendringer nå, ler hun.

Nettopp klimaendringer viser seg også å være et godt bilde på de langsiktige konsekvensene av AI.

-Jeg tenkte lenge på AI som dynamitt, forteller Strümke.

-Man finner opp noe som er ment å løse mange problemer, som ender opp med å gjøre mye skade. Men når noe går galt med dynamitt så skjønner du det med én gang. Det gjør vi ikke med AI, som er mye mer som klimaendringer. Det skjer sakte, og konsekvensene er veldig uoverskuelige for oss. Og jo mindre vi gjør for å håndtere dem, jo hardere kommer de til å treffe oss.

Strümke unner seg likevel å være håpefull.

-Med klimakrisen vet vi jo at det mer eller mindre kommer til å bli utelukkende negativt. Med AI så vet vi ikke dette enda. Det er mange oppsider og potensial som ligger der også. Vi bruker jo AI til å løse problemer vi ikke hadde klart å løse uten, sier hun.

De store spørsmålene vi må ta stilling til ovenfor AI kan virke overveldende, samtidig dundrer utviklingen videre i nesten eksponentiell hastighet. Hvordan forholder man seg til dette?

-Jeg tror det er mange som får komplett berøringsangst, for eksempel mange politikere. Mange bransjer har også det motsatte av engasjement, forteller Strümke, som opplever mye frykt kombinert med fornektelse.

-De har på forhånd bestemt seg for at dette “bare” er en maskin, at teknologien er ekstremt begrenset, og ikke kommer til å ha noe å si for dem. Det virker som mange bestemte seg i tenårene eller tjueårene for hva en datamaskin vil kunne, og så er de ikke så villige til å oppdatere den holdningen nå som de er mellomledere.

Når AI løser problemer vi ikke kan løse, uten at vi forstår hvordan det skjer, stiller vi oss i en usikker situasjon. Nes tror de største problemene her fortsatt ligger foran oss.

-Det går et skille mellom når vi ikke vet hvordan et system kommer fram til noe, men at vi fortsatt kan verifisere at det stemmer, og når vi ikke lenger har noen uavhengige måter å sjekke det svaret systemet gir. Kan vi da legge et slikt svar til grunn? spør Nes.

-Vi opparbeider oss en intellektuell gjeld til AI, sier Strümke.

-Det er vanskelig å bruke noe helt riktig når du ikke skjønner hvordan det virker. Klarer vi å ta riktige beslutninger likevel? Kanskje.

Dette blir enda mer prekært når det ikke lenger er vi mennesker som nødvendigvis beslutter ting.

-Nå som maskiner tar beslutninger som vi ikke klarer å ta, flytter vi oss i retning aktørskap for maskiner. Altså at maskiner blir beslutningstakere, og gjør vurderinger. Da gir vi opp menneskelig kontroll til noe som egentlig ikke er en moralsk aktør i samfunnet, forteller Strümke.

Gjør maskiner noe straffbart er det en organisasjon eller et menneske sitt ansvar, fordi maskiner ikke er moralske aktører. De har hverken personnummer eller juridisk status, og  det derfor er det alltid en organisasjon eller et menneske som står bak.

-Men vi er ikke helt tro mot dette når maskiner får ta beslutninger. Det er nesten som aktørskap og ansvar fordamper litt, forklarer hun.

Hun ønsker seg enda mer av disse diskusjonene, og mener noe av det beste med AI er at det gir oss en dytt til å ta tak i grunnleggende vanskelige spørsmål om verdi og identitet.

-Det er nesten så vi har en ny type “vesen”, altså ikke biologisk vesen, men en type entitet som fortjener analyse og debatt. De er veldig filosofisk interessante, avslutter Strümke.