14.01.2025

En ukritisk brug af menneskelige data i AI-systemer har en tendens til at reproducere, og måske endda forværre, allerede eksisterende sociale uligheder. Der er brug for en revision af måden, sundhedsvæsenet indsamler data om borgerne på.

Kommentar af professor Morten Sodemann

De seneste data om forekomsten af diabetes i Danmark viser, at der er kommuner med 4-5 gange højere forekomst, som i de kommuner med færrest med type 2 diabetes. Det er selvfølgelig interessante tal i sig selv, men de forklarer intet. Postnumre har ingen direkte biomedicinsk effekt på blodsukkeret. Det har til gengæld andre faktorer, som får det til at se sådan ud. Problemet er, at vi ikke dokumenterer disse faktorer systematisk. Vi kan se et mønster, men vi kan ikke forklare det. Derfor kan vi heller ikke ændre på det.

Behandlingen af kræft er stramt styret af skrappe kliniske retningslinjer, tidsstyring med dokumentationskrav på ugebasis og tæt politisk bevågenhed. Alligevel lykkes det at skabe social ulighed i behandlingen. Vi ved bare ikke hvorfor, fordi vi ikke systematisk dokumenterer de faktorer der fører til forskelsbehandling. Vi kan se uligheden, men vi kan ikke forklare det. Derfor kan vi ikke ændre på det.

Under COVID19 så vi gang på gang, at smitte ophobede sig omkring sociale grupper, bestemte boligområder og visse erhverv. Vi kunne se mønsteret, men vi kunne ikke forklare det godt nok til, at vi kunne ændre på det. Vi havde ikke de nødvendige informationer om sammenhængen mellem sociale netværk, bolig, erhverv og smitte, fordi vi ikke systematisk dokumenterer de faktorer der beskriver viden, holdninger og adfærd i sociale grupper, erhverv og boligområder. Vi kunne se der var høj smitte men vi kunne ikke forklare det, og derfor gik der for lang tid før vi fik specifikke indsatser.

Det er primært to typer af informationer, vi manglede, og stadig mangler. Vi ved meget lidt om menneskers adfærd og holdninger til sygdom og forebyggelse i forskellige sociale grupper. Uden den viden, rammer sygdomsindsatser ikke de vigtigste grupper, hvor sygdomsrisikoen ofte er højest. Den anden type information, vi mangler, er helt basale oplysninger om det enkelte menneske som fx social arv, social kapital, erfaringer med sundhedsvæsnet, skjulte sygdomsbyrder, ensomhed, læsefærdigheder og risikoen for, at sociale faktorer klumper sig sammen.

Der er mange danskere, der ikke svarer på de store nationale sundhedsundersøgelser, men ser man på, hvem der i højest grad undlader at svare, er det de økonomisk mindst velstillede, dem med den korteste skolegang, de psykisk syge, og dem der bor i socialt udsatte boligområder. Alligevel ligger disse nationale sundhedsundersøgelser til grund for tiltag mod social ulighed i sundhed. Der er mange patienter, der ikke svarer på de løbende patienttilfredshedsundersøgelser. Her er billedet fuldstændig det samme. Dem der har mest brug for sundhedsvæsnet, er dem vi ved mindst om. Alligevel er de stærkt mangelfulde undersøgelser et styringsredskab for ledelsen og politikerne, selvom tallene ikke omfatter de mest syge i sårbare positioner.

 

Vi kan se uligheden, men vi kan ikke forklare det. Derfor kan vi ikke ændre på det
_______

 

Jeg er medlem af programudvalget for ulighed i sundhed under Behandlingsrådet. Programudvalget og dets fagudvalg får hvert år en opgave af Regionerne og Sundhedsministeriet med at undersøge et bredt aspekt af social ulighed i sundhed. Der sidder en række eksperter fra vidt forskellige forsknings- og erfaringsområder, og forskningen er derfor ikke bare tværfaglig men også af meget høj kvalitet. Problemet er bare, at Rådets gode velunderbyggede forskningsspørgsmål og de dygtige forskningsmedarbejdere i Behandlingsrådet kommer til kort, når vi begynder at dykke ned i de tilgængelige tal fra de danske kliniske databaser. For de lider af den samme massive blinde plet som i de eksempler, der er nævnt ovenfor: kliniske databaser er renset for virkelighedens faktorer. De informationer, der er tilgængelige, er biomedicinske og socioøkonomiske standardvariable om mennesker med sygdom. Blodsukre, blodtryk, behandling udgør sammen med postnummer, skolegang, vægt, selvmordsscreening og cigaretter den virkelighed, de kliniske databaser beskriver. Ikke et ord om læsefærdigheder, sprogbarrierer, sociale netværk, negative barndomsoplevelser, erfaringer i mødet med sundhedsvæsnet, ensomhed eller skjulte sygdoms- eller behandlingsbyrder. Ikke er ord om social kapital, psykiske udfordringer eller IT-kompetencer. Ikke et ord om sårbarhed, transportudfordringer eller diagnoseforsinkelser.

Der er 500.000 voksne i Danmark, der ikke kan læse over 5. klasseniveau, og de udfylder ikke lange spørgeskemaer. Men det er ikke en oplysning, vi dokumenterer i sundhedsvæsnet. Det er derfor ikke urimeligt at antage, at mindst hver 10. person, der kommer i kontakt med sundhedsvæsnet, dermed er usynlig i sundhedsstatistikker som andet end et køn, en alder, en diagnose og en behandling.

De kliniske databaser er spejlbilleder af lægers basale standardfortællinger om patienter, og de er ofte arketypiske, alment menneskelige og evigtgyldige, med standard plots og let genkendelige patient – og stigmatiserende persontyper, som fx den tyndfede storryger, den dårlige oplyser, alkoholikeren, svingdørspatienten eller den dovne diabetiker. Stereotypisering er et af de lægelige værktøjer der er en del af den skjulte lærebog. Den gør lægers liv lettere – også når der skal skabes kliniske databaser. Men dermed bliver forskning til et spejlbillede af det lægelige tankesæt og ikke af virkeligheden. Lægers data kan derfor ikke hjælpe med at løse de store samfundsproblemer der følger af social ulighed i sundhed og i mødet med sundhedsvæsnet.

For at det ikke skal være løgn, er vi nu begyndt at lægge de samme ufuldstændige data sammen i mega-datasæt, og så slipper vi kunstig intelligens løs på dem. Det betyder, at vi får forstærket manglerne i de kliniske databaser. Effekten af de manglende informationer bliver endnu værre. Det har vi set i vores pågående studier om mislykkede patientaftaler (af andre misvisende betegnet ’udeblivelser’) i sygehusvæsnet. Det viser sig, at de data, der er tilgængelige, er et temmelig forsimplet og stereotypt billede af sundhedsvæsnets selvforståelse: det er patienterne, der udebliver. Af de tilgængelige databaser fremgår kun, at en udeblivelse enten skyldes, at patienten er udeblevet, er død eller er indlagt på anden afdeling. Samtidig kan vi dels gennem databaserne, dels gennem mange deltagerobservationer se, at registreringspraksis på forskellige afdelinger og sygehuse er mere tilfældig og lemfældig end først antaget. Alligevel har man udført projekter, hvor patienter fik bøder, hvis de udeblev, og man har nu fået den idé at lægge alle data sammen, så man med stor sikkerhed kan se, hvem der udebliver. Big data giver big problems, for de afsporer en reel forståelse af, hvad der foregår. Vi kan fx se i vores undersøgelser, at 30-50 pct. af de mislykkede aftaler skyldes sygehuset pga. mange ombookinger af deres aftaler, manglende dokumentation af, at patienten har prøvet at flytte aftalen, mange samtidige aftaler på flere afdelinger, nogle afdelingers utilgængelighed etc. I kvalitative gruppeinterviews med erfarne patienter kom det frem, at nogle afdelinger har så fastlåste rutiner, at det er umuligt for patienterne at overholde dem: fx skal patienter have taget blodprøver indenfor et bestemt tidsrum før en bestemt kontrol, men laboratoriet har ikke tider i pågældende tidsrum, og lægerne skælder patienter ud for at spilde lægens tid, så de vælger at udeblive. I nogle af de elektroniske patientjournaler mødes lægen af en oversigt over, hvor tit patienten tidligere er udeblevet. Lægen motiveres dermed til et fordomsfuldt blik på patienten. Den elektroniske patientjournal dokumenterer den ønskede virkelighed, mens patienterne lever i den virkelige, men skjulte virkelighed.

Kliniske databaser og de elektroniske patientjournaler skjuler og forværrer dermed social ulighed i sygdom og behandling. Data er ikke objektive. Der findes ikke ‘Rå data’. Data er politiske og bygger på privilegieblindhed og bekvemme antagelser. Data er socialiserede, politiserede og flerlagede, fordi data om mennesker også er data om strukturelle uligheder relateret til køn, etnicitet og socialklasse. Udvælgelse af data og analysen af dem er en social proces, der bygger på magt, gruppetænkning, forhåndsforståelser og generaliseringer. En sociologisk forståelse af data er vigtig, for en ukritisk brug af menneskelige data i AI-systemer vil have en tendens til at reproducere, og måske endda forværre, allerede eksisterende sociale uligheder.

Tal indsamlet som led i rutiner ér ikke andet end rutinetal. De er oftest bevidstløst indsamlede data af trætte fortravlede ansatte. Det er beskidte data, der kun bidrager til forvirring, og de reproducerer gamle forsimplede tankesæt om patienter og sygdomme. De syge og de mindst velstillede har ikke de tal, de fortjener.

Der er brug for en bredere tilgang til og kontrol med data. Ikke mindst i de store datasæt, der styrer indsatser, økonomi og strategi på sundhedsområdet. Patienter har ingen indflydelse på, hvad der registreres om dem og deres sygdom. Lægers verdensbillede, som det kommer til udtryk gennem de kliniske databaser, er ikke vejen til at bekæmpe social ulighed i sundhed. De elektroniske patientjournaler er avancerede regningssystemer med rudimentære forsimplede oplysninger om patienter, og de kan ikke bidrage til forståelsen af hvordan sygdomme opfører sig i virkeligheden. Sundhedsreformen bygger fx på de tal, vi har valgt at have, ikke på de tal vi burde have. Det er politisk bekvemt, at tal er renset for virkeligheden, men de mindst velstillede fortjener tal fra virkeligheden.

Det er åbenlyst, at de data der indsamles, er præget af en bestemt opfattelse af sygdom og patienter, som afspejler de velstillede og dem med længere uddannelser. Data bruges til at styre prioritering af sundhedsøkonomi. Data afspejler desuden et værdisæt om, hvad der er normalt og socialt acceptabelt set fra de raskes synspunkt. Patienter er meget sjældent direkte involveret i, hvad der skal dokumenteres, og det hører til sjældenhederne, at humanister og samfundsforskere har indflydelse på, hvilke informationer der rutinemæssigt indsamles. Der er ikke tale om, at man nu skal til aggressivt at registrere blandt socialt belastede med efterfølgende stigmatisering – tværtimod er der tale om at sikre, at alle bliver talt og tæller på samme måde. Det er misforstået men bekvem omsorg fra de velstilledes side, hvis man argumenterer for en kollektiv blindhed overfor den store andel af fortrinsvist dårligt socialt stillede voksne, der aldrig svarer på spørgeskemaer og derfor ikke kan ses i statistikkerne, med henvisning til at man ikke må udskamme. Vi ved godt, at vores tal ikke involverer de mest syge, men vi er blinde for, at uden de tal skaber vi mere social ulighed og større sundhedsudgifter. Der skal en bevidst strategi til, for skæve tal fører til skæve resultater. Prioriteringer, der ikke bygger på data om de mindst velstillede forstærker social ulighed i sundhed og belaster derfor patienter og sundhedsvæsnet yderligere.

Heldigvis er der er nogle oplagte løsninger:

1. Patienter skal involveres i, hvilke data der indsamles om dem og deres liv med sygdom.

2. Kliniske databaser og elektroniske patientjournaler skal som rutine indeholde de manglende sociale informationer, som er forbundet med ulighed i behandling. Databaser skal ikke kun opfylde forskeres, politikeres og økonomers behov – de skal også tjene det fælles gode dvs. beskytte mod konsekvenserne af social ulighed i sundhed, understøtte at alle har lige adgang til sundhedsvæsnets ressourcer og sikre ligebehandling baseret på aktuelle og komplette data der dækker alle befolkningsgrupper.

3. De sociale grupper, der oftest ikke deltager i nationale spørgeskemaundersøgelser skal interviewes på andre mere direkte måder. Det kan gøres gennem kvalitative undersøgelser, telefoninterviews og fokusgrupper.

4. Den viden, vi mangler om holdninger og adfærd, skal prioriteres i forskning og det bør være et krav i biomedicinsk forskning, at man inddrager samfundsmedicinske og humanistiske forskere i dataindsamling.

5. Med så systematisk under- og misrepræsentation af de mest sårbare og mest syge befolkningsgrupper i sundhedsdata, og dermed politiske sundhedsprioriteringer, er der grund til at skabe en tværgående styrelse på sundhedsområdet, som kan sikre at de manglende informationer bliver en integreret del af alle sundhedsdatabaser lige fra forebyggelse til den sidste fase af livet. Brugen af kunstig intelligens til at skabe sociale profiler for patienttyper og forudsige deres adfærd skal overvåges og styres. ■

 

De syge og de mindst velstillede har ikke de tal, de fortjener
_______

 

Morten Sodemann (f. 1959) er professor i global sundhed og indvandrermedicin på Syddansk Universitet. Overlæge, Indvandrermedicinsk klinik, Odense Universitetshospital. Næstformand i Selskab for Indvandrersundhed. Forskning og forskeruddannelse i flere afrikansk lande. Forfatter til bogen: ”Sårbar? – det kan du selv være”. Bogen ’Pandemiernes pariaer’ udkom d. 25. april på forlaget Samfundslitteratur.

ILLUSTRATION: Morten Sodemann [FOTO: Lars Skaaning]