AI-risikostyring: Identificer, vurder og kontroller AI-risiko

Hvad er AI-risikostyring?

AI-risikostyring er den strukturerede, gentagelige proces, en organisation bruger til at identificere, vurdere, behandle og overvåge risici, der opstår som følge af udvikling, levering eller brug af AI-systemer. Den dækker hele livscyklussen for et AI-system, fra problemformulering og dataindsamling til modeldesign, validering, implementering og eventuel udfasning.

I modsætning til traditionelle informationssikkerhedsrisici, som primært fokuserer på fortrolighed, integritet og tilgængelighed af information, skal AI-risikostyring tage højde for et bredere sæt af bekymringer. Modelbias, manglende forklaringsevne, datadrift, misbrug af output, samfundsmæssig påvirkning og tredjepartsfundamentsmodellers adfærd falder alle helt inden for rammerne. Derfor ISO 42001 kræver en dedikeret AI-risikovurderingsproces i stedet for at integrere AI-risiko i et eksisterende infosec-register.

Rent praktisk besvarer AI-risikostyring fire spørgsmål for alle AI-anvendelsesscenarier i virksomheden:

Hvad kunne gå galt med dette AI-system, for hvem, og hvor galt?
Hvor sandsynligt er hvert af disse udfald givet de kontroller, vi allerede har?
Hvad skal vi gøre ved de risici, der overstiger vores tolerance?
Hvordan ved vi, efter implementeringen, om vores vurdering stadig er gyldig?

Når det er gjort godt, giver det bestyrelsen AI-styringsudvalg, og ingeniørteamene en fælles opfattelse af, hvilke AI-initiativer det er sikkert at fortsætte, hvilke der kræver yderligere kontroller, og hvilke der bør sættes på pause eller få et nyt omfang.

Hvordan håndterer ISO 42001 risikoen forbundet med kunstig intelligens (paragraf 6.1.2 vs. paragraf 6.1.4)?

ISO 42001 opdeler AI-risikostyring i to relaterede, men forskellige aktiviteter, og at sammenblande dem er en af de mest almindelige implementeringsfejl.

Klausul 6.1.2 — Risikovurdering vedrørende AI. Dette er den traditionelle risikovinkel, der fokuserer på selve organisationen. Du identificerer AI-relaterede risici, analyserer deres sandsynlighed og konsekvenser i forhold til dine organisatoriske risikokriterier og beslutter, hvordan de skal håndteres. Det er den proces, der udfylder dit AI-risikoregister.

Punkt 6.1.4 — Konsekvensanalyse af AI-systemer. Dette er den udadvendte linse. Den vurderer den potentielle indvirkning af et AI-system på enkeltpersoner, grupper af individer og samfundet – og dækker retfærdighed, sikkerhed, menneskeligt tilsyn og grundlæggende rettigheder. Bilag A.5 indeholder det kontrolsæt, der operationaliserer dette. Detaljeret vejledning findes i vores dedikerede AI konsekvensvurderinger .

Begge er normative. Begge skal dokumenteres. Begge indgår i din Anvendelseserklæring og din AI politikMen de besvarer forskellige spørgsmål, har forskellige input og involverer typisk forskellige interessenter. At køre dem som én samlet øvelse har en tendens til at miste fokus på samfundsmæssig indflydelse, hvilket er præcis, hvad revisorer og tilsynsmyndigheder leder efter.

Normativ vejledning for begge aktiviteter er inkluderet Vejledning i bilag BBilag C indeholder informativ vejledning om risikokilder relateret til AI, hvilket er en nyttig starttaksonomi, når du udfylder dit register for første gang.

Hvordan hænger det sammen med informationssikkerhedsrisiko (ISO 27005)?

AI-risikostyring erstatter ikke risikostyring inden for informationssikkerhed. Mange AI-systemer lagrer, behandler eller overfører personoplysninger og hostes på den samme infrastruktur som andre regulerede arbejdsbyrder. ISO 27005 er fortsat den rette reference for informationssikkerhedsrisikoprocessen. Den praktiske model er:

Informationssikkerhedsrisici relateret til AI-systemet (fortrolighed, integritet, tilgængelighed af træningsdata, modelartefakter, API'er) er opført i ISO 27001-risikoregisteret.
AI-specifikke risici (bias, forklarbarhed, afvigelse, utilsigtet brug, samfundsskade) er opført i AI-risikoregisteret under punkt 6.1.2.
Krydsreferencer forbinder de to, så en enkelt risikohændelse kan spores på tværs af begge linser uden duplikering

AI-styringskløft mellem informationssikkerhed og AI-styring er præcis, hvad ISO 42001 klausul 6.1.2 er designet til at lukke.

Hvor passer NIST AI RMF ind?

NIST AI Risk Management Framework er et frivilligt amerikansk rammeværk organiseret omkring fire funktioner: Styring, Kortlægning, Måling og Styring. Det supplerer snarere end at konkurrere med ISO 42001. Organisationer, der allerede bruger NIST AI RMF, kan knytte dets funktioner direkte til ISO 42001-klausulerne (Styring er i overensstemmelse med klausul 4 og 5, Kortlægning med klausul 6.1, Måling med klausul 9, Styring med klausul 8 og 10). Hvis du bygger til et internationalt publikum, giver ISO 42001 dig det certificerbare ledelsessystem. NIST AI RMF giver dig et bredt anerkendt ordforråd og nyttige håndbøger til de underliggende aktiviteter.

Alt du behøver til ISO 42001, på ISMS.online

Struktureret indhold, kortlagte risici og indbyggede arbejdsgange, der hjælper dig med at styre AI ansvarligt og med selvtillid.

Kom i gang

Hvad er de vigtigste kategorier af AI-risiko?

En god AI-risikotaksonomi forhindrer dig i at overse hele risikoklasser. Bilag C i ISO 42001 indeholder en informativ liste over AI-relaterede risikokilder, som de fleste organisationer skræddersyr til deres egen kontekst. I praksis dækker otte kategorier langt de fleste AI-risici, og de fleste poster i dit register vil knytte sig til en eller flere af dem.

Kategori	Eksempel	ISO 42001-kontrol(ler)	Typisk behandling
Bias og retfærdighed	Kreditvurderingsmodel undervurderer systematisk en beskyttet gruppe	A.6.2.2, A.6.2.4, A.7.4	Afhjælp via afbalancerede træningsdata, fairness-testning og menneskelig gennemgang
Forklarlighed og gennemsigtighed	Den medicinske triagemodel kan ikke retfærdiggøre sine anbefalinger til klinikere	A.6.2.4, A.8.2, A.8.3	Afhjælp via fortolkelige modeller, dokumentation og modelkort
Sikkerhed	Prompt injection-angreb stjæler fortrolige data fra en LLM	A.6.2.3, A.7.3, A.8.4	Afbød via inputvalidering, beskyttelsesrails og trusselsmodellering
Privatliv	Træningsdata indeholder personoplysninger, der anvendes uden lovligt grundlag	A.7.2, A.7.4, A.8.2	Afbød via dataminimering, anonymisering og tilpasning af DPIA
Sikkerhed	Autonomt system forårsager fysisk skade gennem uventet adfærd	A.6.2.4, A.9.3, A.9.4	Afhjælp via validering, trinvis udrulning, kill switches og menneskeligt tilsyn
Samfundsmæssige	Indholdsmoderationsmodellen forstærker misinformation eller undertrykker legitim tale	A.5.2, A.5.3, A.5.4	Afbød via konsekvensanalyse, interessentengagement og løbende gennemgang
Operationel	Modelafvigelse forringes i prognosen efter seks måneders produktion	A.6.2.6, A.6.2.7, A.6.2.8	Afhjælp via overvågning, gentræningsudløsere og præstationstærskler
Forsyningskæde	Udbyder af fundamentsmodellen ændrer adfærd uden varsel og ødelægger dermed en downstream-use case	A.10.2, A.10.3, A.10.4	Afbød via leverandørdue diligence, kontrakter og alternative leverandører

De fleste organisationer anvender denne taksonomi som rygraden i deres AI-risikoregister og tilføjer derefter sektorspecifikke kategorier (for eksempel tilføjer finansielle tjenester modelrisikostyring under SR 11-7, sundhedspleje tilføjer klinisk sikkerhed). Nøglen er, at alle AI-anvendelsesscenarier screenes i forhold til hver kategori, selv kortvarigt, så risici ikke overses ved et uheld.

Hvordan udfører man en AI-risikovurdering?

Vurderingsprocessen i henhold til punkt 6.1.2 følger den velkendte Plan-Do-Check-Act-rytme fra ISO-ledelsessystemer, men med AI-specifikke input i hvert trin. En praktisk, gentagelig metode har seks trin.

AI-risikostyringsproces i henhold til ISO 42001, klausul 6.1.2, i seks trin: identificer, vurder, prioriter, behandl, implementer kontroller og overvåg risiko efter implementering

Trin 1: Definer omfang og risikokriterier

Før du vurderer noget, skal du definere, hvad der tæller som et AI-system i din organisation (dette burde allerede være i din AI Management System (AIMS) (scope statement) og hvilke risikokriterier du vil bruge. Risikokriterierne omfatter dine sandsynligheds- og konsekvensskalaer, din risikoaccepttærskel og de konsekvenskategorier, du er interesseret i (finansielle, operationelle, lovgivningsmæssige, omdømmemæssige, sikkerhedsmæssige, samfundsmæssige).

Trin 2: Identificer AI-brugsscenarier og -aktiver

Lav en opgørelse over alle AI-systemer i omfanget. For hvert enkelt system skal du registrere den tilsigtede anvendelse, datainput, modeltype (proprietær, finjusteret, tredjepartsmodel), brugere, berørte parter, implementeringsmiljø og kritiske aspekter. Denne opgørelse er grundlaget for resten af processen.

Trin 3: Identificer risici ved hjælp af taksonomien

Gennemgå de otte risikokategorier ovenfor for hvert AI-system. Brug risikokilder, trusselsmodelleringsteknikker og struktureret brainstorming i bilag C med en tværfaglig gruppe (datavidenskab, teknik, sikkerhed, jura, produkt og, hvor det er relevant, den forretningsenhed, der vil bruge outputtet). Registrer hver risiko som en specifik begivenhed med en årsag og konsekvens, ikke en generisk betegnelse.

Trin 4: Analysér sandsynlighed og konsekvens

Score hver risiko i forhold til dine kriterier. Sandsynligheden bør tage højde for det nuværende kontrolmiljø, ikke den ukontrollerede tilstand. Konsekvensen bør tage højde for alle berørte parter, ikke kun organisationen – det er her, broen til konsekvensanalysen i afsnit 6.1.4 er vigtig. Dokumenter din begrundelse; en revisor vil spørge, hvordan du er nået frem til en høj eller lav score.

Trin 5: Evaluer i forhold til risikokriterier

Indsæt hver risiko i din matrix, og sammenlign den med din risikoaccepttærskel. Enhver risiko over tærsklen kræver en behandlingsbeslutning. Enhver risiko på eller under den kan accepteres med en eksplicit begrundelse registreret i registeret.

Trin 6: Dokumenter og gennemgå

AI-risikoregisteret er dokumenteret information i henhold til klausul 7.5. Det skal have ejere, gennemgangscyklusser, versionshistorik og godkendelse. Det indgår direkte i Anvendelseserklæring — kontroller fra bilag A er udvalgt og begrundet på baggrund af risiciene i dette register.

Hvordan håndterer du AI-risici?

For hver risiko over din acceptgrænse kræver paragraf 6.1.3 en behandlingsbeslutning. De fire klassiske muligheder gælder med AI-specifikke nuancer:

Undgå. Undlad at bygge, implementere eller bruge AI-systemet. Passende, hvor den resterende risiko er uacceptabel, selv med stærke kontroller (for eksempel en use case, der automatiserer en beslutning med betydelig juridisk indvirkning på enkeltpersoner uden et menneske i løkken).
Afbød. Anvend kontroller for at reducere sandsynlighed, konsekvens eller begge dele. Dette er den mest almindelige behandling. Kontrollerne er udledt fra Bilag A kontrollerer, suppleret med sektor- eller use case-specifikke foranstaltninger. Typiske afhjælpningsforanstaltninger omfatter afbalancerede træningsdata, fairness-testning, input- og output-beskyttelse, menneskeligt tilsyn, trinvis udrulning og løbende overvågning.
Overførsel. Flyt risiko gennem kontrakt, forsikring eller leverandøransvar. Nyttig til risici i forsyningskæden (f.eks. kontraktlige SLA'er med en leverandør af fundamentsmodeller), men vær forsigtig: Du kan overføre økonomisk ansvar, men sjældent overføre ansvarlighed, især ikke til tilsynsmyndigheder.
Acceptere. Behold risikoen med eksplicit, dokumenteret begrundelse og en ejer. Kun passende for risici på eller under accepttærsklen, eller hvor behandling påviseligt ikke er omkostningseffektiv, og konsekvenserne er begrænsede.

Hver behandlingsbeslutning kræver en navngiven ejer, en måldato og dokumentation for færdiggørelse, der er knyttet tilbage til registeret. En behandlingsplan uden dokumentation for udførelse er en af de mest almindelige afvigelser i ISO 42001-certificeringsrevisioner.

En af vores onboarding-specialister vil guide dig gennem vores platform for at hjælpe dig med at komme godt i gang med selvtillid.

Book din demo

Hvordan overvåger du AI-risici efter implementering?

AI-risiko er ikke statisk. En model, der var sikker ved lanceringen, kan blive usikker seks måneder senere, fordi dataforskydninger, brugeradfærd ændres, det lovgivningsmæssige miljø ændres, eller en upstream-fundamentsmodel opdateres. Klausul 9 i ydeevneevaluering og bilag A.6.2.6 til A.6.2.8 i operationelle overvågningskontroller kræver, at du bliver ved med at holde øje.

Et pragmatisk overvågningsprogram har fem signaler:

Model ydeevne. Nøjagtighed, præcision, tilbagekaldelse, kalibrering og retfærdighedsmålinger spores i forhold til tærskler fastsat ved implementering. Brud udløser omtræning eller tilbagerulning.
Datadrift. Statistisk sammenligning af produktionsinputfordelinger mod træningsfordelinger. Signifikant afvigelse udløser en vurdering af, om modellen stadig er egnet til formålet.
Hændelser og nærvedulykker. En formel kanal for brugere, berørte parter og internt personale til at rapportere AI-relaterede bekymringer, med triage, rodårsagsanalyse og korrigerende handlinger registreret i henhold til klausul 10.
Kontroleffektivitet. Periodisk kontrol af, at afhjælpningsforanstaltningerne i behandlingsplanen rent faktisk virker. Bilag A.6.2.6 kræver eksplicit verifikation af driftskontroller.
Ekstern kontekst. Ny regulering, nye trusselsmønstre, ændringer i tredjepartsmodeller og ny bedste praksis. Dette bidrager til risikovurderingen ved hver planlagt gennemgang.

Resultaterne indgår i ledelsens gennemgang (punkt 9.3) og driver opdateringer af risikoregisteret, anvendelighedserklæringen og AI-politikken. Cyklussen er kontinuerlig, ikke årlig.

Hvordan strukturerer ISMS.online AI-risikostyring?

ISMS.online giver et specialbygget hjem til hele AI-risikostyringsprocessen, i overensstemmelse med klausul 6.1.2 og den normative vejledning i bilag B. Du får et AI-risikoregister, der er integreret med resten af dit AIMS i stedet for at være placeret i et separat regneark.

Platformen giver dig:

Et dedikeret AI-risikoregister adskilt fra dit register over informationssikkerhedsrisici, med felter til AI-specifikke attributter (use case, datakilder, modeltype, berørte parter, risikokategori) sammen med standardfelter for sandsynlighed, konsekvens, behandling og ejer.
En forudindlæst AI-risikotaksonomi dækker de otte ovenstående kategorier plus risikokilder i bilag C, så teams starter med en omfattende liste i stedet for en blank side
Konsekvensanalyser af sammenkædede AI-systemer for klausul 6.1.4, så det udadvendte konsekvensperspektiv forbliver forbundet med det organisatoriske risikoperspektiv uden overlapning
Direkte kontrolforbindelse fra enhver risiko til de relevante bilag A-kontroller, til beviserne, der demonstrerer behandlingen, og frem til anvendelighedserklæringen
Gennemgå arbejdsgange og automatiske påmindelser så risici gennemgås i deres definerede cyklus, ikke når nogen husker det
Krydsreference med ISO 27001-risici hvor en begivenhed har både informationssikkerheds- og AI-dimensioner, hvilket forhindrer dobbelttælling og modstridende behandlingsplaner
Rapporteringsvisninger for bestyrelsen, AI-styringsudvalget og certificeringsrevisorer, produceret ud fra de samme underliggende data

Resultatet er en AI-risikoproces, som en revisor kan gennemgå fra start til slut på under ti minutter, og som organisationen rent faktisk kan udføre mellem revisioner.

Hvorfor vælge ISMS.online til risikostyring med AI?

De fleste GRC-værktøjer behandler AI-risiko som en eftertanke, der er boltet ind i en infosec-model. ISMS.online blev designet med AI-styring som en førsteklasses funktion. Her er hvad det betyder i praksis:

Separate, men forbundne registre. AI-risiko (punkt 6.1.2), vurdering af AI-systemers påvirkning (punkt 6.1.4) og informationssikkerhedsrisiko (ISO 27005) er placeret i forskellige, men krydsrefererede registre, så hvert objektiv forbliver skarpt, mens data deles, hvor de skal.
Forudbygget AI-risikotaksonomi. Bilag C-risikokilder og ottekategorimodellen er forudindlæst, så dit team identificerer risici i forhold til en struktureret ramme i stedet for at opfinde en.
Live-kortlægning til Bilag A kontrollerer. Enhver risiko er direkte knyttet til de kontroller, der behandler den, den dokumentation, der beviser, at behandlingen virker, og den angivelse i erklæringen om anvendelighed, der berettiger den.
Bygget til bilag B-vejledning. Arbejdsgangen følger den normative implementeringsvejledning i bilag B, så din proces er som standard tilpasset standarder i stedet for at kræve skræddersyet konfiguration.
Integreret med den fulde AIMS. Risici er forbundet med din AI politik, dine konsekvensanalyser, dit revisionsprogram (punkt 9.2) og dine korrigerende handlinger (punkt 10), så intet falder igennem hullet.
Metode med sikre resultater. En dokumenteret implementeringsproces og menneskelig support, der har hjulpet hundredvis af organisationer med at opnå certificering første gang, med AI-risikostyring integreret fra starten i stedet for at blive tilføjet sent.

Uanset om du opbygger dit første AI-risikoregister eller modner et eksisterende, ISMS.online giver dig strukturen og værktøjerne til at drive paragraf 6.1.2 som en levende proces. For en bredere kontekst, se vores implementeringsvejledning.

Klar til at se platformen i aktion? Book en demo.

Ofte Stillede Spørgsmål

Hvad er forskellen mellem risikovurdering af kunstig intelligens (punkt 6.1.2) og konsekvensvurdering af kunstig intelligens-systemer (punkt 6.1.4)?

Punkt 6.1.2 er det indadvendte organisatoriske risikoperspektiv – hvad der kan gå galt for organisationen, dens mål og dens drift, og hvordan vil vi håndtere det. Punkt 6.1.4 er det udadvendte perspektiv – hvad kan AI-systemet gøre for enkeltpersoner, grupper og samfundet, der dækker retfærdighed, sikkerhed og grundlæggende rettigheder. Begge er normative, begge skal dokumenteres, og de nærer hinanden. At drive dem som én kombineret aktivitet betyder normalt, at perspektivet på samfundsmæssig effekt går tabt, hvilket er et almindeligt revisionsresultat.

Kan jeg genbruge mit ISO 27001-risikoregister til risikostyring i forbindelse med kunstig intelligens?

Nej, ikke som et enkelt kombineret register. Informationssikkerhedsrisiko (ISO 27005) og AI-risiko (ISO 42001 klausul 6.1.2) har overlappende, men forskellige omfang. Infosec dækker fortrolighed, integritet og tilgængelighed af information. AI-risiko dækker desuden bias, forklarlighed, drift, sikkerhed og samfundsmæssig påvirkning – bekymringer, der ikke passer pænt ind i en CIA-model. Det rigtige mønster er to forbundne registre med krydsreferencer, hvor en enkelt begivenhed har begge dimensioner. ISMS.online støtter præcis denne ordning.

Er NIST AI RMF et alternativ til ISO 42001 til risikostyring?

De er komplementære, ikke alternativer. NIST AI RMF er et frivilligt amerikansk rammeværk organiseret omkring Govern, Map, Measure og Manage-funktioner med fremragende vejledning fra praktikere. ISO 42001 er en internationalt certificerbar ledelsessystemstandard. Organisationer bruger ofte NIST AI RMF-vokabular og -håndbøger til at udføre de aktiviteter, som ISO 42001 kræver. De to systemer er nøje knyttet til hinanden, og mange organisationer implementerer begge parallelt.

Hvilke kategorier af AI-risiko skal jeg dække i mit register?

Som minimum: bias og retfærdighed, forklarlighed og gennemsigtighed, sikkerhed, privatliv, tryghed, samfundsmæssig påvirkning, operationel (drift, ydeevne, tilgængelighed) og forsyningskæde (tredjepartsmodeller, dataleverandører). Bilag C i ISO 42001 indeholder en informativ liste over AI-relaterede risikokilder, der er i overensstemmelse med denne taksonomi. Sektorspecifikke kategorier såsom modelrisikostyring for finansielle tjenesteydelser eller klinisk sikkerhed for sundhedspleje bør tilføjes, hvor det er relevant.

Hvor ofte skal jeg gennemgå AI-risikoregisteret?

Mindst årligt som en fuld gennemgang, der indgår i ledelsens gennemgang i henhold til punkt 9.3. Individuelle risici bør have deres egne gennemgangscyklusser baseret på kritiskhed - typisk kvartalsvis for høje risici og halvårligt for mellemstore risici. Enhver væsentlig ændring bør udløse en ad hoc-gennemgang: ny AI-use case, væsentlig modelopdatering, ny regulering, en rapporteret hændelse eller en ændring af en vigtig tredjepartsleverandør. Registeret er et levende dokument, ikke en årlig compliance-artefakt.

Kræver ISO 42001 automatiseret risikoovervågning af kunstig intelligens?

Standarden foreskriver ikke automatisering, men den kræver løbende overvågning af AI-systemers ydeevne og kontroleffektivitet (afsnit 9.1 og bilag A.6.2.6 til A.6.2.8). For alt ud over en håndfuld lavrisiko-AI-systemer er automatiseret overvågning af modelydeevne, datadrift og kontroleffektivitet den eneste måde at opfylde kravet i praksis. Manuel overvågning i stor skala har en tendens til at producere forældede data og oversete hændelser, som dukker op som afvigelser ved overvågningsrevisioner.

Hvem bør være ansvarlig for AI-risikostyring i organisationen?

Ansvarligheden bør ligge hos en udpeget direktør, normalt CISO'en, Chief Risk Officer eller en dedikeret chef for AI Governance, afhængigt af organisationens størrelse og AI-modenhed. Det daglige ejerskab ligger hos et AI-governanceudvalg eller en tilsvarende tværfunktionel gruppe bestående af datavidenskab, teknik, sikkerhed, jura, privatliv og de forretningsenheder, der bruger AI. Individuelle risici har hver især en udpeget ejer, der er ansvarlig for behandling og overvågning. Punkt 5.3 kræver, at disse roller, ansvarsområder og beføjelser formelt tildeles og kommunikeres.

AI-risikostyring: Identificer, vurder og kontroller AI-risici