Høringssvar – utkast til ny lov om kunstig intelligens (KI-loven)
Den nasjonale forskningsetiske komité for naturvitenskap og teknologi (NENT) viser til invitasjon fra Digitaliserings- og forvaltningsdepartementet til å komme med innspill til forslag til ny lov om kunstig intelligens (KI-loven), som gjennomfører EUs forordning om kunstig intelligens (AI Act, på norsk KI-forordningen), reg. EU/1684/2024, i norsk rett.
NENT er en rådgivende instans i forskningsetiske spørsmål for naturvitenskap, teknologi, industri, landbruks- og fiskeriforsking, samt de deler av bio- og genteknologisk forskning som ikke dekkes av medisin. Komiteen består av 12 medlemmer som samlet har kompetanse på disse områdene, samt etikk og juss. Komiteen har også et lekmedlem. NENT har siden 2007 utarbeidet forskningsetiske retningslinjer innenfor sitt virkeområde.
Forskning er unntatt fra KI-forordningen jf. fortalepunkt 25 og artikkel 2 punkt 4 og 6. Samtidig er det slik at innovasjonsprosesser ikke nødvendigvis er så lineære som forordningen ser ut til å legge til grunn og det kan være tilfeller hvor det er vanskelig å skille mellom forskning, utvikling og at KI-en tas i bruk. Det gjør at Norges benyttelse av handlingsrommet kan få betydning for forskning som ikke unntas fra forordningen. Det blir viktig å sikre at håndhevelsen av KI-loven ikke skaper mekanismer som slipper gjennom forskning som ikke er etisk forsvarlig.
Dette gjelder også i forbindelse med regulatoriske sandkasser for KI. Sandkasser kan gi verdifulle muligheter for etisk forsvarlig testing av KI-systemer under kontrollerte forhold. Det er viktig at de utformes på en måte som sikrer etisk forsvarlig forskning og innovasjon, i samsvar med de forskningsetiske retningslinjene.
Det finnes ingen omforent definisjon av forskning og det kan dermed oppstå gråsoner og utfordringer i å vurdere hva som faller innenfor og utenfor forordningen. Dersom det oppstår spørsmål som må adresseres på nasjonalt nivå om noe er forskning, og forskningsetiske vurderinger dermed er relevante, stiller NENT seg til disposisjon for rådgivning og veiledning i tråd med vårt mandat.
NENT støtter for øvrig ratifiseringen av Europarådets rammekonvensjon om kunstig intelligens, menneskerettigheter, demokrati og rettsstatsprinsipper. Rammekonvensjonen bygger på prinsipper som er også i tråd med sentrale forskningsetiske prinsipper og framstår som et godt rammeverk for etisk ansvarlig KI.
Med vennlig hilsen
Hallvard Fossheim, komitéleder
Thomas Østerhaug, sekretariatsleder