Ph.d-graden ble et rammeverk for KI i helsevesenet

– Det var ikke noe rammeverk som kombinerte kunnskapsteoretiske aspekter med etiske, så jeg laget et, sier Jonathan Adams.

Adams tok nylig ph.d-graden på Det medisinske fakultet. Avhandlingen hans heter Responsible Explainable Artificial Intelligence in Medicine: Towards a Framework for ethical and Epistemic Assessment. På norsk: Ansvarlig og forklarbar kunstig intelligens i medisin: Mot et rammeverk for etisk og epistemisk vurdering.

Kort fortalt gir Adams’ avhandling et praktisk rammeverk som tar med kunnskapsteoretiske aspekter, for å sikre etisk god bruk av kunstig intelligens (KI) i medisinsk behandling. Det har vi ikke hatt før.

– Det fins andre verktøy, som kan forstås som kunnskapsteoretisk tilnærming. Men ingen tar også etiske dimensjoner inn, sier Adams.

Synliggjøre antagelser

Etter Adams’ syn gjør helsevesenet både etiske og kunnskapsteoretiske vurderinger ved bruk av KI, men ikke samtidig. Han tror også mange enkeltvis gjør slike vurderinger, men ikke systematisk.

– Jeg tror det er vanlig for utviklere å tenke kunnskapsteoretisk og gjøre etiske antagelser underveis, på samme måte som for helsepersonell. Men det er nok mer sjeldent å gjøre det eksplisitt, som å fylle ut en matrise og være oppmerksom på hvordan andre vil oppfatte de vurderingene.

– Altså man antar en del?

– Ja, og å bringe de antagelsene til overflaten er det jeg ønsker å gjøre med dette rammeverket, sier Adams.

Hold deg oppdatert! Motta Uniforums nyhetsbrev 

Et poeng med å bruke et slikt rammeverk er også å spare tid ved å bruke et strukturert verktøy, forteller han. Han understreker at han har bygget etikk-delen på et allerede eksisterende etikk-rammeverk, men lagt til ett etisk prinsipp.

De fire prinsippene som brukes allerede er autonomi (respekt for personens selvbestemmelse, informasjon og informert samtykke), velgjørenhet (tiltak bør være til pasientens eller deltakerens beste), ikke-skade (unngå eller redusere risiko for skade og unødig belastning) og rettferdighet (tilgang til behandling og utvelgelse av forskningsdeltakere bør fordeles rettferdig).

– Den originale etiske matrisen hadde fire etiske prinsipper, jeg har lagt på forklarbarhet. Det vil si at KI-systemet kan forklares til brukere, enten det er helsepersonell eller pasienter. Det er ikke originalt for meg, men jeg har lagt det inn i etikk-delen av matrisen. Og på toppen har jeg lagt inn kunnskapsteoretiske prinsipper. Du får et ganske stort sett med prinsipper, som jeg mener er verdt tiden det tar å lage, slik at vi forstår konsekvensene av KI og medisin, etisk og kunnskapsteoretisk.

Mer overvåking

– Hvem skal bruke dette rammeverket?

– Det kan brukes både av leger og av helsevesenet. Min påstand er at å ta inn kunnskapsteorietiske aspekter i KI-bruk, gir oss en bredere vurdering av hva vi kan bruke KI til i helsevesenet. Vi har mye evidensbaserte verktøy i medisin, men ingen er spesielt tilnærmet KI med en etisk dimensjon.

Oppgitt emne til Adams’ prøveforelesning var etiske aspekter ved chatbotter drevet av store språkmodeller i psykisk helsevern.

– Det var litt utenfor avhandlingen, så det ble en utfordring, sier Adams.

– Men det reiser noen spesielt interessante spørsmål. Vi tenker at samfunnet har beveget seg bort fra en gammeldags psykiatrisk behandling som innebar asyler. Men det er mulig at KI i behandlingen faktisk kan øke overvåking og kontroll over pasienter.

– Hvordan da?

– KI kan gjøre at behandlere forutser atferd mer presist, men også fremtvinger den, for eksempel om pasienten tar medisinen som er gitt. Man kan tenke seg at det er mulig å kartlegge og utlede om de tar den, og dermed presse frem en etterlevelse. På den måten kan behandlingen bli bare en ny versjon av gammel psykiatrisk tvang.

Jonathan Adams gir et tenkt eksempel med en chatbot:

– Det kunne kanskje komme frem av samtalene om pasienten tar medisinen sin. Chatboten kunne for eksempel spørre: «Hvordan går det med medisinene dine?» Og kanskje pasienten ville svare: «Egentlig ikke så bra.» Da kunne chatboten svare på måter som oppmuntrer pasienten til å følge behandlingen, og kanskje finne litt utspekulerte måter å gjøre det på, basert på samtalene de har hatt. Den kunne altså komme med slike forslag og kanskje være manipulerende på alle de måtene mennesker kan være det på – samtidig som den, antar jeg, har større innsyn i pasientens privatliv.

Det er her etikken kommer inn.

– Det er avgjørende at teknologien er intim, i den forstand at den er i lommen om du bruker en telefon, eller på armen om du bruker en smartklokke. Den vet alt om deg. Etter hvert som ulike verktøy knytter seg mer og mer til samme store språkmodeller, reiser det spørsmål om vi faktisk får mindre frihet, enn den friheten noen av disse teknologiene lover oss.

Jonathan Adams medgir at det kan være litt skremmende å forestille seg fremtiden på denne måten. Disse aspektene ligger også utenfor hans forskning.

– Vi trenger en politisk filosofi om hvem som skal ha kontroll over disse teknologiene. En del modeller bør vurderes om de skal tas i bruk, særlig der pasienter og publikum er involvert i modellen.

I likhet med mange forskere, ønsker han også mer forskning på feltet han har startet på. Men han ønsker fremfor alt at også kommersielle aktører tar rammeverket hans i bruk.

– Det er alltid fristende å si at nå er det avgjørende øyeblikket. Men vi kan i alle fall ta en del smarte valg nå. Etter mitt syn handler denne delen av medisinsk etikk og KI-vurdering om en klar, strukturert og vel overveid fremgangsmåte. 

Les mer i Uniforum: 

Skal jakta på KI-agentar på frifot 

Rekordmange vil forske på KI 

Eneste KI-senter som kobler teknologi og kreativitet offisielt åpnet