AI i sundhedsvæsenet udvikler sig hurtigt, men datastyring kæmper for at følge med

By Kate O'Flaherty • 19. maj 2026 • 6 minutters læsning

Hvordan kan sundhedsorganisationer løse huller i tillid og datastyring for at realisere de fulde fordele ved AI?

Af Kate O'Flaherty

Sundhedssektoren innoverer ved hjælp af AI, med et enormt potentiale for teknologien på tværs af områder som diagnostik, triage og administration.

I Storbritannien er NHS allerede omfavner AI ud over basale opgaver. NHS England er begyndt Pilotprojekter til screening af lungekræft med kunstig intelligens, hvor teknologien kan identificere mindre problemer, end det menneskelige øje kan se.

I mellemtiden har den amerikanske fødevare- og lægemiddelstyrelse (FDA) autoriseret over 1,000 enheder med AI, hvoraf størstedelen anvendes i radiologi.

I løbet af de seneste to år er ledere inden for sundhedsvæsenet gået fra at stille spørgsmålstegn ved, om AI er relevant, til at fokusere på, hvordan den kan bruges ansvarligt og i stor skala, ifølge en nylig undersøgelse. McKinsey rapport.

Tallene viser, at halvdelen af amerikanske sundhedsorganisationer allerede har implementeret generativ AI, mens mere end 80 % havde implementeret deres første use cases hos slutbrugere. Den næste fase er ifølge McKinsey at se organisationer gå fra at bruge generativ AI til at skabe indhold og understøtte individuelle opgaver hen imod agent AI at handle og koordinere mere komplekse processer.

Alligevel forsinker betydelige barrierer innovation inden for AI i sundhedsvæsenet, herunder sikkerhedsrisici og compliance-problemer på grund af de enorme mængder følsomme data, der er nødvendige for at træne systemer. Hvordan kan sundhedsorganisationer løse huller i tillid og datastyring for at realisere de fulde fordele ved AI?

Meget følsomme data

Sundhedsdata er blandt de mest følsomme og mangesidede i enhver sektor og kombinerer patientjournaler, personlige identitetsdata og finansielle oplysninger fra flere udbydere og systemer.

"En patients oplysninger kan findes på tværs af hospitaler, praktiserende læger, specialister, laboratorier, apoteker, forsikringsselskaber og teknologiplatforme – ofte i ukompatible formater uden en samlet journal, der binder dem sammen," forklarer Craig Gravina, CTO hos Semarchy.

Resultatet er, at intet enkelt system indeholder et komplet billede af en patient. "At opbygge det billede - den longitudinel patientjournal — er det, der kræves for at få AI til at fungere sikkert og effektivt i et klinisk miljø,” fortæller Gravina IO"Uden den arbejder AI ud fra et ufuldstændigt og upålideligt billede. Inden for sundhedsvæsenet går dette ud over at være et dataproblem og bliver et patientsikkerhedsproblem."

Efterhånden som AI bliver integreret i kliniske arbejdsgange, står organisationer over for et stigende pres for at besvare grundlæggende spørgsmål: Hvor stammer disse data fra, er de blevet valideret, hvem har adgang til dem, og kan AI-assisterede beslutninger revideres? "Når systemer begynder at påvirke kliniske beslutninger i stor skala, afslører svage datagrundlag alvorlige huller i tillid og ansvarlighed," siger Gravina.

Introduktionen af AI-teknologi skaber problemer på tre områder: ansvarlighed, forklarbarhed og samtykke, siger Mike Macauley, administrerende direktør hos Liferay. "Ingen ved, hvem de skal give skylden, når AI giver medicinsk rådgivning. Hvis et system kommer med en anbefaling, kan loven ikke sige, hvem der er ansvarlig for resultatet."

Mange AI-modeller er i realiteten "sorte bokse", der ikke forklarer, hvordan de når frem til en konklusion, ifølge Macauley. Det skaber et juridisk problem i henhold til Storbritanniens Generel databeskyttelsesforordning (GDPR), fordi patienter har ret til at vide, hvorfor en computer har truffet en specifik beslutning om deres helbred, siger Macauley.

I mellemtiden træner virksomheder deres AI ved hjælp af data, de har indsamlet til ét bestemt formål, men det bruges ofte også af andre årsager. "Det betyder, at de ikke kan bevise, at de har den juridiske ret til at bruge de originale data, der lærte systemet," fortæller Macauley. IO.

Det skjulte problem

I takt med at kunstig intelligens introduceres i sundhedsvæsenet, er en ofte overset risiko, hvad der sker, når data passerer gennem en kompleks kæde af tredjeparter, såsom ældre platforme og eksterne partnere.

"Ansvaret udvandes ved hver overdragelse," ifølge Semarchys Gravina. "Det er ikke altid klart, hvem der ejer dataene i hvert trin, hvem der er ansvarlig for deres kvalitet, eller hvem der er ansvarlig, når noget går galt. Når ingen enkelt part har et komplet, end-to-end overblik over datalivscyklussen, bryder styringen sammen."

For at øge kompleksiteten blev traditionelle rammer for sundhedsstyring designet til statiske systemer med relativt stabile datastrømme og faste regler. For eksempel Cyber Essentials og NHS Informationsstyring, fungerer kun for rigide systemer. "AI bryder disse regler, fordi den konstant udvikler sig," siger Macauley fra Liferay.

Samtidig en standard Databeskyttelseskonsekvensvurdering Som beskrevet i GDPR ser man kun på et system én gang. Imidlertid kan en AI, der lærer undervejs, ændre sin adfærd uden at nogen tjekker, om den stadig er sikker eller lovlig, ifølge Macauley.

Innovationsflaskehalse

Manglende tillid til ledelsen underminerer fremskridtet inden for kunstig intelligens i sundhedsvæsenet ved at øge risikoen for flaskehalse i innovationen. Når organisationer mangler tillid til deres datagrundlag, går implementeringen af kunstig intelligens i stå.

"Ledere vil tøve med at implementere AI i kliniske miljøer, hvis de ikke kan garantere datakvalitet og -afstamning eller demonstrere revisionsevne over for regulatorer," siger Gravina fra Semarchy. "Ironien er, at den forvaltningsinfrastruktur, der er nødvendig for at skalere AI sikkert, er den samme, der leverer det longitudinelle patientdatabillede, der gør AI mere effektiv i første omgang."

God forvaltning er den afgørende faktor for effektiv AI i sundhedsvæsenet, forklarer han. "Det er afgørende, at eksponering af data for AI ikke behøver at betyde, at den forvaltningsværdi, der er bygget op omkring det, mistes - dataenes afstamning, adgangskontrol og datakvalitet bør følge med dataene og ikke blive efterladt, når de indgår i en AI-pipeline."

Internationale standarder

To internationale standarder danner rammen for håndtering af kunstig intelligens. ISO 27001 skaber fundamentet for stærk informationssikkerhed og -styring og hjælper med at etablere strukturerede tilgange til risikostyring, adgangskontrol, hændelsesrespons, aktivstyring og ansvarlighed. Dette bidrager til at opbygge "mere forsvarlig styring", siger Gravina.

ISO 42001 bygger videre på dette ved at indføre forvaltning, der er specifikt designet til AI-systemer. Den fokuserer på tilsyn, AI-specifik risikostyring, gennemsigtighed og ansvarlig udvikling og brug af AI.

Sammen gør disse standarder det muligt for sundhedsorganisationer at "gå ud over ad hoc-adoption af AI hen imod en mere struktureret styringsmodel", forklarer Gravina.

Det er tydeligt, at AI tilbyder et enormt potentiale inden for sundhedsvæsenet, hvis styringsstrukturerne kan tilpasses denne innovative nye æra.

Patienttillid bør ligge til grund for alt, ifølge eksperter. Lohyd Terrier, lektor i organisationsadfærd ved EHL Hospitality Business School, går ind for at behandle AI som en eksplicit service til patienten. "Det bør være sporbart, forklareligt og kunne afvises – snarere end en usynlig backoffice-funktion."

Udgangspunktet skal være selve dataene. Ledere skal forstå, om deres organisation har fundamentet på plads til at opbygge "et samlet, langsgående overblik over patientdata på tværs af alle systemer og udbydere", siger Gravina fra Semarchy. "Uden det er AI-styring bygget på sand."

Han anbefaler at kortlægge, hvor AI allerede er i brug, identificere kritiske datastrømme og tredjepartsafhængigheder, afklare ejerskab og forvaltning og styrke adgangskontroller, revisionsspor og datakvalitet fra start til slut. "Privatliv, sikkerhed og AI-styring skal samles i én sammenhængende tilgang i stedet for at blive forvaltet isoleret."