Referat fra møte i NENT 26. september 2018

Sted: Havforskningsinstituttet, Bergen,
Tid: 10:00-16:00 (inkludert lansering 12:00-13:45)

Til stede: Rune Nydal, Øyvind Mikkelsen, Kjellrun Hiis Hauge, Lise Øvreås, Jørn Paus, Tone Druglitrø, Steinar Heldal, Hanne Guldbrandsen, Michaela Aschan, Helene Ingierd (referent)
Meldt avbud: Ingrid Bay-Larsen, Ole Andreas Engen, Gorm Johansen, Jim Tørresen, Cecilie Mejdell, Ketil Skogen

1.Konstituering av møtet. Godkjenning av dagsorden. Vurdering av habilitet. Saker til Eventuelt.

• Dagsorden ble godkjent. Det ble foreslått å flytte en av orienteringssakene til en diskusjonssak. Det var ingen erklæringer om inhabilitet. En sak ble meldt til Eventuelt.

2. Runde rundt bordet

• Prorektor ved NTNU inviterte til møte med NENT for å diskutere NTNUs arbeid med forskningsetikk og mulige felles satsninger. NTNU er f.eks. veldig positive til NENTs initiativ om kunstig intelligens.

3. Orientering fra sekretariatet

• Forskningsetisk forum 2018 
Presentasjoner og opsummering fra gruppediskusjonene om opplæringsansvaret er her: https://www.forskningsetikk.no/ressurser/forskningsetisk-forum/forskningsetisk-forum-2018/

• Code of Conduct for Research Integrity og oversettelse til norsk. Sekretariatet er i gang med å oversette Code of Conduct og utforme en innledning som bla. forklarer forholdet mellom disse retningslinjene og de fagspesifikke retningslinjene. Komiteen bemerket at det er nasjonale og kulturelle forskjeller som nødvendiggjør nasjonale og fagspesifikke retningslinjer.

• Forskningsetisk veileder. Sekretariatet arbeider med tekster til en veileder, som i første rekke innebærer en oppdatering og oppsamling av eksisterende nettressurser.

• RINO: https://www.forskningsetikk.no/ressurser/publikasjoner/rino1/ Komiteen hadde visse bemerkninger til rapporten. Alt i alt gir den et positivt bilde av tilstanden i norsk forskning. Samtidig er det usikkert hvorvidt undersøkelsen faktisk fanger opp de faktiske utfordringene og eventuell mangel på integritet. Ingierd orienterte om at flere av praksisene undersøkes nærmere i de kvalitative intervjuene som skal gjennomføres i høst.

• WCRI 2019: http://www.wcri2019.org/. Frist for abstacts er 15. oktober. FEK dekker reise og opphold for medlemmer som presenterer som komitémedlem.

4. Forslag til Faglig prioriterte temaer FEK 2019

Helene Ingierd innledet. Ingierd presenterte forslag til temaer, som er diskutert på sekretariatseminar i FEK: Forskningsfinansiering, medforfatterskap, Big data, bærekraft. Det ble påpekt at bærekraft er et tema komiteen har vært opptatt av lenge, og at det er behov for en klargjøring av hva bærekraftmålene konkret kan bety for UH-institusjonene. NENT kan bidra til dette. Bærekraft kan også ses i sammenheng med forskningsfinansiering. For eksempel er det utfordringer med selve finansieringssystemet som gjør det vanskeligere å nå bærekraftmålene.

Flere tok til orde for en satsning på Big data, og understreket koblingene mellom kunstig intelligens og Big data. Big data reiser flere forskningsetiske spørsmål utover personvern og samtykke, som bør utredes nærmere. Når data blir en råvare er det vesentlig å spørre hvem som har kontroll over dataene i et lengre perspektiv, og hvem som har tilgang til dem.

Konklusjon: NENT mener temaene forskningsfinansiering og Big data bør prioriteres som felles faglige temaer for 2019. Samtidig er det viktig å se disse temaene i sammenheng med andre aktuelle temaer, som bærekraft.

5. Diskusjonssak: Innspill om Kunstig intelligens til NENT

Øyvind Mikkelsen og Helene Ingierd innledet. Mikkelsen og Ingierd oppsummerte diskusjonene på arbeidsgruppemøte nr. 2 i KI-gruppa. Komiteen sluttet seg til diskusjonspunktene med visse tillegg. Følgende punkter oppsummerer diskusjonen i NENT:

 (1) Om innspill fra forskningsmiljøene om KI-forskning

• De fleste fokuserer på de store omveltningene knyttet til KI og usikkerheten forbundet med disse
• Flere innspill understreker også kompleksiteten på feltet, og bredden i de etiske spørsmålene som oppstår
• Mange er opptatt av forskningsetiske spørsmål som reises i selve forskningsprosessen, men også spørsmål knyttet til bruk og konsekvenser av forskningsfunn tematiseres
• Svarene er relativt omforente; de fleste trekker frem aspekter som åpenhet og tilgang til data, personvern, eierskap til data, risiko for skjevheter og diskriminering, sort boks-problematikk, konsekvenser av teknologiutviklingen og risiko for misbruk; men det er ulikt i hvilken grad det reflekteres rundt disse
• Det ser ut til å være en nyanseforskjell mellom akademia og industri; innspill fra industrien vektlegger åpenhet spesielt, f.eks. åpenhet rundt kildekoder sammen med datamaterialet, for å sikre tillit
• Flere understreker at utviklingen går raskt og at det dukker opp nye muligheter og problemstillinger hele tiden. Hastigheten i utviklingen er en utfordring i seg selv
• Flere avdekker en grunnleggende teknologioptimisme og viser til store muligheter. Det kan imidlertid være uklart hva som er visjonene og hvilke goder som søkes. Det er liten refleksjon rundt hvorfor miljøene satser på KI.
• Det er få henvisninger til etiske rammeverk, inkl. NENTs retningslinjer
• Innspillene reiser spørsmål om plassering og anerkjennelse av ansvar, og om hvor langt forskerens ansvar strekker seg. Spørsmålene kompliseres av at det er flere involvert i leddene som fører opp til- og i selve forskningsprosessen, og fordi det er mange ulike praksiser og brukere. De som lager algoritmene gjør det i et økosystem.

 (2) Videre arbeid i NENT med KI

NENT sier i brevet pr 25.06.18: «På bakgrunn av innspillene planlegger NENT å avgi en betenkning om kunstig intelligens innen komiteens virkeområde».
Sentrale spørsmål i diskusjonen var om vi har fått tilstrekkelig materiale til en forskningsetisk betenkning, hva som eventuelt må innhentes av informasjon og kompetanse, og om det er andre produkter som kan komme ut av arbeidet.

• Vi trenger mer materiale før vi utarbeidet en betenkning. Helene Ingierd lager en oversikt over relevante ressurser
• En forskningsetisk betenkning bør inkludere følgende: (1) Kartlegging av hva er KI og hva som utvikles i Norge, hvem som gjør det og hvem som betaler; og (2) fokus på forskerrollen og hva forskere kan og bør ta ansvar for
• NENT kan foreslå at komiteene samarbeider om en rapport om KI som tar sikte på å utrede forskningsetiske spørsmål knyttet til KI og komme med anbefalinger til forskningsmiljøene, fordi det er behov for en tverrfaglig tilnærming til mange av de spørsmålene som oppstår. Et slikt forslag må fremmes til Samarbeidsutvalgsmøtet for FEK i november
• Det kan være nyttig å avklare forholdet mellom Big data-problematikk og problemstillinger knyttet til kunstig intelligens.
• Det vil også være nyttig å klargjøre forskningsetiske spørsmål knytte til automatisering i bred forstand, og spørsmål knyttet til kunstig intelligens.
• Et mulig produkt er forskningsetiske retningslinjer for KI-forskning. Regjeringen har varslet i Jeløya-plattformen at de vil utvikle etiske retningslinjer og etiske prinsipper for bruk av kunstig intelligens (2018: 49). Teknologirådet etterlyser en nasjonal strategi for kunstig intelligens (2018). NENT kan bidra i dette arbeidet og gi innspill, i første rekke ved å henvende seg til Kommunal- og moderniseringsdepartementet
• NENT kan også samarbeide med andre aktører, som Tekna, når det gjelder å arbeide langsiktig med bevisstgjøring og opplæring om forskningsetiske sider knyttet til KI.

Konklusjon: I første omgang tar Ingierd kontakt med KMD og orienterer om arbeidet i NENT. Ingierd lager også en oversikt over relevante ressurser. Arbeidsgruppen planlegger seminar / åpent møte om KI-forskning.

5. Eventuelt

Michaela Aschan ba om innspill til et veiledningskurs på UiT. Etikk utgjør kun en liten del av kurset, og det er ønske om å utvide denne delen. De som har innspill bes om å sende dette til Aschan.

Neste møte: 29. november i Oslo