Kunstig intelligens

Bruk av kunstig intelligens berører mange sentrale forskningsetiske spørsmål, som for eksempel fordeling av ansvar, etterrettelighet og originalitet. 

Denne siden [LENKE] viser til ressurser som kan brukes til å diskutere bruk av KI-verktøy som studie- eller forskningsstøtte, og hvilke utfordringer dette kan medføre.

Forskere som jobber med utvikling av kunstige intelligenser, kan blant annet se til Forskningsetisk betenking om kunstig intelligens fra Den nasjonale forskningsetiske komité for naturvitenskap og teknologi. 

Viktige spørsmål inkluderer:

• Hvor går grensene for bruk av store språkmodeller (LLM) til oppgaver som idégenerering, skriving og språkvask?
• Hvordan kan de nasjonale forskningsetiske retningslinjene brukes til å diskutere KI?

Faglige ressurser

Kunstig intelligens er en artikkel som diskuterer etablerte forskningsetiske prinsipper i lys av KI.

Et webinar om KI og forskningsetikk ble arrangert i desember 2024 av NENT. Utgangspunktet var: Hvordan påvirker KI forskningen? Og med forskningsetikk som utgangspunkt: Hva kan vi bruke KI til? Er det noe KI ikke kan gjøre? Denne artikkelen oppsummerer webinaret og lenker til opptak. 

Stordatarapporten

Forskningsetisk betenkning -- for forskere som jobber med å utvikle KI.

Khronos KI-skole tar for seg noen utfordringer studenter og forskere kan møte på ved bruk av KI.

Retningslinjer

De forskningsetiske retningslinjene gjelder selvsagt i sin helhet, men her har vi trukket frem punkter som er særlig aktuelle.

• Forskningsetiske retningslinjer for samfunnsvitenskap og humaniora
  Relevante temaer er f.eks. åpenhet, etterprøving og kritikk (punkt 6), god henvisningsskikk (punkt 8) og fabrikkering og forfalskning (punkt 11) fra retningslinjenes del A) Forskerfellesskapet. Del B) Hensyn til personer har punkter som er særlig aktuelle når KI-verktøy benyttes i analyse eller tolkning av data. Tilsvarende gjelder for del C) Grupper og institusjoner. Her vil utfordringer knyttet til bias være spesielt aktuelle. Fra del E, om forskningsformidling, vil blant annet punktet om etterrettelig formidling (47) være relevant. 
• Forskningsetiske retningslinjer for naturvitenskap og teknologi.
  NENT skriver innledningsvis:
  «Når det gjelder kunstig intelligens (KI), er for eksempel punkt 4 om rettferdighet av betydning for utvikling og bruk av denne teknologien; punkt 9 og 10 artikulerer et ansvar for å forholde seg til og kommunisere usikkerhet og risiko rundt implementering og bruk av KI; og punkt 13 og 14 minner om betydningen av å verne personer mot misbruk av deres data.»
• The European Code of Conduct for Research Integrity (ta ut??)
• Living Guidelines on the Responsible Use of Generative AI in Research

Diskusjonseksempler

• KI-verktøy i akademisk skriving: hjelpemiddel eller etisk gråsone?

Eksempel: bruk av KI i kunnskapsoppsummeringer (Tromsø-sak)