Menneskesentrert KI krever nye arbeidsrutiner

KI-forordningen (Engelsk: EU AI Act), som er den første av sitt slag i verden, skal implementeres gradvis over de neste tre årene. Behovet for forordningen er et resultat av den raske utviklingen og utbredelsen av KI i samfunnet. Målet er å sikre en ansvarlig og etisk bruk av KI-teknologi, samtidig som innovasjon og konkurranseevne fremmes.  

— KI-forordningen regulerer kun de mest risikofylte KI-systemene, og ikke alle, forklarer Tobias Judin, seksjonssjef i Datatilsynet.  

KI-forordningen utfyller personvernforordningen (GDPR), som allerede regulerer KI i stor grad i dag. I den nye forordningen blir KI-systemene kategorisert basert på potensiell risiko for menneskerettigheter, helse og demokrati.  

— De teknologiene som er manipulative eller utnytter enkeltpersoners svakheter, og som på den måten kan forårsake stor skade, kommer til å forbys direkte. Et eksempel er såkalte «social scoring»-systemer som vi blant annet har sett i Kina. Dette er systemer som rangerer samfunnsborgere. Det vil bli ulovlig i EU, sier Judin. 

Kategorien for høyrisiko vil ikke forbys, men det vil pålegges strenge regler for hvordan systemene skal utvikles og brukes – for eksempel når KI skal ta vare på sikkerhet i kritisk infrastruktur som vann, varme og trafikk.  

— Dette gjelder også blant annet når man bruker KI til å vurdere om noen skal få trygdeytelser, rangering av jobbsøknader og uttrykning av nødetater, sier Judin. 

I forordningen blir det også vurdert at chatboter og KI-assistenter som interagerer med mennesker kan medføre risiko hvis brukerne ikke vet at de kommuniserer med et KI-system. For slike KI-systemer, vil det innføres et krav om åpenhet der  det er tydelig at man kommuniserer med en maskin.  

Christine Dalebø Gjerdevik, advokatfullmektig og direktør i PwC, forteller at den nye KI-forordningen vil ha betydelige konsekvenser for næringslivet. Bedrifter bør allerede begynne å forberede seg på nye krav og forpliktelser når de bruker KI-systemer. 

— Vi bistår klienter med å vurdere om rutiner de allerede har implementert er tilstrekkelige for å sikre etterlevelse av KI-forordningen. Mange ønsker også bistand til å utarbeide rutiner tilpasset virksomhetens bruk av KI og opplæring av ansatte, sier Gjerdevik. 

KI-forordningen krever i tillegg at virksomheter gir tilpasset opplæring til arbeidstakerne.  

— Dette kravet får virkning allerede i februar 2025. Virksomheter bør derfor allerede nå planlegge hvilken opplæring arbeidstakerne trenger, både for å ta i bruk KI-systemer som virksomheten implementerer og for å forstå konsekvensene av teknologien, sier Gjerdevik. 

Gjerdevik forteller at de kontaktes av mange forskjellige aktører som trenger veiledning for å tilpasse seg regelverket. Selv om de strengeste kravene gjelder for dem som utvikler KI-systemer, må også de som kjøper KI-systemer forberede seg på nye krav. Dette gjelder spesielt for KI-systemer som er kategorisert som høyrisiko.  

— Selv om en virksomhet ikke utvikler KI-systemet selv så må virksomheten i disse tilfellene sørge for å ha rutiner for hvordan systemet skal brukes. Systematisk monitorering av KI-systemet kan nok bli krevende for mange virksomheter, sier Gjerdevik. 

Tobias Judin forteller at innføringen av KI-forordningen kan øke tilliten til KI når det utvikles mer konkrete standarder. Han påpeker at KI er mindre i bruk i dag enn man tror. 

— Det planlegges en seriemerking for KI-systemer som følger EU-standarden, som gjør at man kan bli tryggere på at teknologien ikke er skadelig å ta i bruk, sier Judin. 

Judin løfter også frem at flere og strengere regler vil kunne svekke EUs konkurranseevne. Dette fordi USA og Kina som opererer med mindre begrensninger enn EU, vil kunne utvikle seg fortere og få en konkurransefordel.  

— Forordningen fokuserer på fornuftig og ansvarlig bruk av KI. Dette vil lønne seg i et lengre perspektivet, ettersom målet i KI-kappløpet ikke er å ende opp med KI som er farlig å bruke, sier Judin. 

Avslutningsvis fremhever Judin at det som er viktigst for EU med denne forordningen er at man skal se teknologi opp mot menneskerettigheter, helse og demokrati.  

— EU bruker et engelsk uttrykk, «human centric», altså menneskesentrert. Det er egentlig det de vil oppnå med regelverket, sier Judin.  

I andre deler av verden er det selskapenes fokus på markedsandeler som styrer utviklingen, reflekterer Judin. EU derimot, mener at teknologiutviklingen skal ha mennesket i fokus.  

— Det er ikke bare teknologiutvikling for teknologiutviklingens skyld, men teknologien skal sette mennesket i sentrum. Dette synes jeg er et interessant og klokt veivalg, avslutter Judin.