KRONIKK: ChatGPT og jeg

K R O N I K K

Det er en greie på Linkedin for tiden som går ut på å spørre ChatGPT: «Make an image of how you feel about me.» Og folk spør, og får ut vakre, gjerne abstrakte bilder, gjerne i varme toner, og mange sier seg overrasket over hvor godt de synes bildene passer på dem.  

Jeg fryser på ryggen av det. ChatGPT «føler» ingenting, og jeg liker ikke ideen om å tillegge den følelser, og i hvert fall ikke følelser om meg. Likevel klarer jeg ikke å dy meg for å teste det selv. Jeg får ut et i og for seg pent bilde av en åpen bok omkranset av stearinlys, en tekopp og noe som ser ut som spisepinner, men som jeg antar er ment å være skriveredskaper. Og jo, jeg er glad i både bøker, te og gode fyllepenner, men det er en ganske sannsynlig slutning gitt de sære kunnskapsspørsmålene jeg tidligere har stilt ChatGPT.  

(Hvis det da er slik at ChatGPT forholder seg til tidligere dialog når den lager disse bildene. Folk virker å oppfatte det sånn, men jeg har ikke peiling nok på KI til å vite om det faktisk stemmer.) 

I teksten til mitt bilde skriver taleroboten at den føler at min samhandling med den er «a warm and inviting scene reflecting connection, trust, and collaboration». Her tar den grundig feil, for jeg stoler ikke på den for fem flate øre.  

Samtidig som jeg ser på bilder av folks forhold til ChatGPT på Linkedin, har jeg jobbet med å støtte søknader til Forskningsrådets utlysning av forskningssentre for kunstig intelligens.   

Jeg har aldri før støttet søknader om å forske på ting som får det til å gå kaldt nedover ryggen på meg. Vi grøsser vel alle ved tanken på autonome våpensystemer, men hvorfor føler jeg slik motstand mot store språkmodeller som ChatGPT? Hvorfor klarer jeg ikke hygge meg med uskyldig bilde-moro på Linkedin?  

Kanskje handler det om at jeg vet ganske mye om menneskelig språk og ganske lite om maskinspråk. Menneskespråk har et begrenset antall ord og et sett med regler for hvordan disse kan settes sammen. Med dette utgangspunktet kan vi formulere uendelig mange forskjellige setninger. Språklig kreativitet i sin mest grunnleggende form skjer når vi makter å sette sammen ord på en måte som samtalepartneren eller leseren vår umiddelbart forstår, samtidig som hen tenker at det var en overraskende og interessant måte å formulere poenget på.  

Uansett er de fleste enige om at den menneskelige språkevnen er unik

Hva er så den menneskelige språkevnen? Det er vanlig å tenke at språkevnen er medfødt, blant annet fordi det ser ut til at barn tidlig lærer grammatiske strukturer som er mer komplekse enn det de hører i språket rundt seg. Hvordan språkevnen er medfødt, er langt mer omdiskutert. Noen mener at språket springer ut av vår generelle kognitive kapasitet og kommunikasjonsbehov, mens andre ser for seg at vi er født med en separat universell grammatikk i hjernen som setter barn i stand til å lære språket til menneskene de har rundt seg. Uansett er de fleste enige om at den menneskelige språkevnen er unik.   

Et vesentlig poeng her: En stor språkmodell trenes på produktene av språkevnen vår, og har dermed bare indirekte tilgang til selve den menneskelige språkevnen. En språkmodells treningsdata består av store korpus av tekster som du og jeg har produsert med utgangspunkt i vår mentale grammatikk, hvordan den nå måtte se ut. Modellen formulerer seg ord for ord utfra hva treningsdataene peker på som den mest sannsynlige fortsettelsen. Med andre ord: ChatGPT blir aldri mer kreativ enn sannsynligheten for språklig kreativitet i treningsdataene, og selv da er det ikke snakk om dens egen kreativitet, men vår.  

Når vi bruker språkevnen vår, gjør vi det med en intensjon. Kanskje vil vi informere eller påvirke, more eller provosere, kjøpe eller selge, krangle eller forsterke en relasjon. Kanskje vil vi bare småprate så vi slipper å sitte i pinlig stillhet helt til toget er framme.  

Den svarte at det bidrar til å forbedre kommunikasjonen mellom mennesker og datamaskiner. Det høres jo tilforlatelig ut, men er det nødvendig? 

Samtalepartneren vår prøver å forstå hva intensjonen vår er, og vil samarbeide med oss om å oppnå det videre formålet med samtalen. Dette samarbeidet kan ta form av reparasjoner, noe som finner sted i en samtale når en av samtalepartnerne korrigerer enten seg selv eller den andre for å sikre felles forståelse.  

Store språkmodeller trenes også på store datasett som inneholder samtaler mellom mennesker, og på denne måten blir modellene i stand til å føre samtaler med oss mennesker som glir på en måte som føles naturlig.

Jeg spurte ChatGPT om hvorfor store språkmodeller er trent på denne måten. Den svarte at det bidrar til å forbedre kommunikasjonen mellom mennesker og datamaskiner. Det høres jo tilforlatelig ut, men er det nødvendig? Jeg kommuniserer greit med Windows-datamaskinen jeg skriver dette på, helt uten at datamaskinen svarer meg som om den var et menneske.  

Da jeg ville teste ut for meg selv hvor dårlig ChatGPT kan være på å gi faktainformasjon, spurte jeg den helt uten kontekst hva den visste om temaet for doktoravhandlingen min. Jeg skrev om et sært og smalt tema, med noen faguttrykk som brukes i en betydning som er mye sjeldnere og dermed mindre sannsynlig enn ordenes vanlige betydning.  

Det rant inn med hallusinasjoner, svar som så tilforlatelig avanserte ut, men som var direkte feil. Da jeg påpekte dette til den, svarte den blant annet slik:  

• You are correct, and I apologize for any confusion my previous response may have caused. 

• You are right that […].  

Her forsøker den å reparere, på måter vi kjenner godt igjen – «du har rett», «beklager forvirringen». Jeg fikk også svar som minnet om vilje til samarbeid:  

• To learn more about […], here are some excellent resources you can explore. 

• Would you like links to any specific resource? 

Når jeg spør om informasjon om et tema, er det naturlig å anta at intensjonen min er å lære mer om temaet. Med slike formuleringer fremstår det som at ChatGPT har gjort en slik tolkning av min intensjon, og at den er villig til å samarbeide med meg om å oppnå dette.  

Kanskje vil filosofer eller forskere på maskinlæring si at taleroboten har eller er programmert til å ha en form for intensjon. Kanskje er intensjonen dens å tolke intensjonen med spørsmålet mitt og bidra til å reparere den videre samtalen med meg, men ingenting av dette er eller skjer på samme måte som hos mennesker, selv om det ser sånn ut, og dermed føles reparasjonene falske.  

Det er dette som gir meg frysninger.  

Kanskje overtenker og over-teoretiserer jeg (og kanskje er jeg overfølsom), men kunstig intelligens ser ut til å endre verden så radikalt at vi er nødt til å tenke gjennom ordentlig hva vi gjør. Derfor har det vært særdeles givende å jobbe med å støtte søknader til Forskningsrådets KI-frist.

Jeg er helt overbevist om at det verden trenger nå, er forskning på kunstig intelligens utført av engasjerte og sannhetssøkende forskere på tvers av faggrenser, og det er akkurat det vi har jobbet med å få til.