For oss i Deepinsight er de avgjørende spørsmålene derimot noen andre: hvordan integreres teknologien i samfunnet? Støtter den menneskelig dømmekraft, eller begynner den å erstatte den, og hvem avgjør dette?

Helse som dømmekraftens domene

Helse er et av de områdene hvor dømmekraft betyr mest, da forskjellen mellom god og dårlig dømmekraft kan være forskjellen mellom liv og død. Dømmekraft avgjør prioriteringer, behandlingsvalg, og ressursbruk, og den er det som gjør at disse avgjørelsene kan ivareta menneskelig verdighet.

Dømmekraft er ikke bare anvendelse av regler, men en grunnleggende menneskelig kapasitet: evnen til å vurdere en situasjon i sin helhet, å avveie hensyn som ikke kan kvantifiseres fullt ut, og å ta ansvar for konsekvensene av en beslutning. Dømmekraft formes av erfaring og levd liv, av kontekst og forhold som vi aldri vil kunne erstatte fullt ut med dataprosesser. KI er trent på enorme mengder menneskelig erfaring i form av representasjoner, men den står ikke selv i situasjonene (med kropp, følelser og menneskelige relasjoner) disse representasjonene svarer til. Den kan analysere og optimalisere, men den kan ikke bære ansvar eller forholde seg normativt til hva som er rett og det gode. Data kan informere dømmekraft, og modeller kan støtte den, men dømmekraft kan ikke reduseres til data og regler. 

I et komplekst sykehusmiljø finnes det oppgaver som krever nettopp denne kapasiteten: prioriteringer under press, vurdering av risiko, håndtering av usikkerhet, samspill mellom mennesker. Det er her teknologi må være støtte og ikke substitutt.

Hva bør automatiseres, og hva bør ikke?

Skillet mellom oppgaver som kan automatiseres og oppgaver som krever dømmekraft er lettere å formulere som prinsipp enn å gjennomføre i praksis, fordi mange oppgaver inneholder elementer av begge. I Deepinsight forsøker vi å navigere dette bevisst. Vi automatiserer komplekse rutineoppgaver som ikke krever dømmekraft: strukturering av informasjon, optimalisering av timeplaner, fjerning av manuelle flaskehalser. Der maskiner kan gjøre arbeidet raskere og mer presist uten at noe vesentlig går tapt, bør de gjøre det.

Samtidig utvikler vi løsninger som gir støtte og innsikt i oppgaver som krever menneskelig dømmekraft: KI kan synliggjøre mønstre, peke på risiko, simulere scenarier. Den kan gi beslutningstakere bedre oversikt, men KI kan ikke overta ansvaret.

Dette er i tråd med vår KI-strategi, som bygger på ansvar og resonans. Resonans, slik sosiologen Hartmut Rosa beskriver det, handler om at mennesker og omgivelsene svarer hverandre meningsfullt, at relasjonen er levende heller enn mekanisk. I helsevesenet er dette kjernen i god omsorg: at pasienten møtes som et menneske i en situasjon, ikke som et datapunkt i et system. Teknologi skal bidra til å styrke denne relasjonen, ikke erstatte den. Når vi automatiserer det rutinemessige, frigjør vi tid og oppmerksomhet, og målet med dette er å gi rom for bedre dømmekraft.  

AGI, definisjoner og ansvar

Det er sannsynlig at vi vil bevege oss inn i en fase hvor grensene mellom “avansert modell” og “generell intelligens” blir stadig mer uklare i offentlig debatt. Men uansett hvilke begreper som brukes, forblir ansvaret vårt det samme.

Teknologi kan stadig bli mer kompetent på avgrensede oppgaver: den kan bli bedre til å forutsi, optimalisere og generere. Spørsmålet er ikke bare hva den kan gjøre, men hva den bør gjøre. Hvis KI-systemer i økende grad tar beslutninger på tvers av samfunnets sektorer, må vi være tydelige på at det normative, vurderingen av hva som er godt, rett og ønskelig, ikke kan outsources. Verktøyene våre kan bli mer sofistikerte, men de må alltid stå i tjeneste til menneskelig dømmekraft.

Math for good

Vårt slagord er «math for good». Det gode er ikke noe en modell kan definere alene, det er noe vi som mennesker må vurdere, diskutere og ta ansvar for. Matematikk, algoritmer og modeller gir oss kraftige rammeverk, og de kan hjelpe oss å se klarere og å handle mer presist. Vurderingen av hva som faktisk er det riktige og gode i en konkret situasjon er derimot vår, menneskets, oppgave. 

Derfor er vår tilnærming til KI enkel i prinsippet, selv om den er krevende i praksis: vi automatiserer det som ikke krever dømmekraft, vi støtter det som krever dømmekraft, og vi beskytter rommet der dømmekraft må forbli menneskelig. Det innebærer også et ansvar for å tenke på hvordan verktøyene vi designer former dannelsesbetingelsene for de som skal bruke dem, ikke bare om de fungerer effektivt i dag, men om de bidrar til at fagfolk fortsatt utvikler den kapasiteten som gjør dømmekraften deres verdifull. 

I en tid hvor teknologisk kapasitet vokser raskt, mener vi at ekte innovasjon i helse handler om å styrke menneskets evne til å ta gode beslutninger, og ikke om å fjerne mennesket fra beslutningssløyfen. Det er slik vi forstår «math for good», og det er slik vi mener KI bør integreres i helse.

Les mer om Deepinsight sin KI-strategi