Mange af de endelige bestemmelser i EU's AI-lovgivning træder i kraft i 2026. Den 2. august vil størstedelen af EU's AI-lovgivning gælde for operatører af AI-systemer på alle niveauer, med undtagelse af artikel 6(1) og systemer omhandlet i artikel 111(1). På nuværende tidspunkt vil loven gælde for operatører af højrisiko-AI-systemer, der er markedsført eller taget i brug før denne dato.
For at støtte virksomheder i at tilpasse sig gennemsigtighedskravene i artikel 50 har Europa-Kommissionen offentliggjort det andet udkast til praksiskodeksen for gennemsigtighed af AI-genereret indhold. Kodeksen er et frivilligt værktøj udarbejdet af uafhængige eksperter, der omhandler centrale overvejelser for udbydere og distributører af AI-systemer, der genererer indhold, der falder ind under anvendelsesområdet for artikel 50; den støtter organisationer i at påvise overholdelse af loven.
Kodekset består af to afsnit. Afsnit 1 indeholder regler for mærkning og detektion af AI-genereret og manipuleret indhold, der gælder for udbydere af AI-systemer. Afsnit 2 indeholder regler for mærkning af deepfakes og AI-genereret og manipuleret offentliggjort tekst, der gælder for distributører af AI-systemer.
Nøgleudtryk anvendt i praksiskodekset
Betragtning – Indledende tekst i begyndelsen af et afsnit, der beskriver begrundelsen for dets dispositive bestemmelser.
Forpligtelser: De forpligtelser, som underskrivere af praksiskodeksen forpligter sig til, f.eks. implementering af visse foranstaltninger for at sikre, at outputtet fra deres AI-systemer kan detekteres som AI-genereret eller manipuleret.
Foranstaltninger og delforanstaltninger: De specifikke handlinger, som underskrivere skal træffe for at overholde de forpligtelser, der er beskrevet i praksiskodekset.
Afsnit 1: Regler for mærkning og detektion af AI-genereret og manipuleret indhold
Afsnit 1 finder anvendelse på udbydere af AI-systemer og vedrører artikel 50, stk. 2 og 5, i EU's AI-lovgivning.
De specifikke mål med afsnit 1 i kodeksen er at tjene som et vejledende dokument til at demonstrere overholdelse af forpligtelserne i loven, selvom overholdelse af kodeksen ikke er afgørende bevis for overholdelse af disse forpligtelser. Dette afsnit er udformet til at hjælpe udbydere af AI-systemer, der genererer syntetisk lyd, billede, video eller tekst, med at overholde deres forpligtelser og til at sætte markedsovervågningsmyndighederne i stand til at vurdere overholdelsen.
Forpligtelse 1: Flerlagsmærkning af AI-genereret indhold
I Forpligtelse 1 forpligter sig underskriverne af kodeksen til at mærke alt lyd-, billed-, video- eller tekstindhold, der genereres eller manipuleres af de AI-systemer, som de bringer på markedet eller i brug i Den Europæiske Union, på en maskinlæsbar måde. Dette gælder for outputtet fra generative AI-systemer og omfatter generelle AI-systemer.
Derfor omfatter foranstaltningerne i Forpligtelse 1:
Implementering af en flerlagsmarkeringstilgang, hvilket sikrer, at disse output er markeret med mindst to lag maskinlæsbar aktiv markering.
Digitalt signerede metadata, umærkelige vandmærkningsteknikker flettet ind i indholdet og fingeraftryks- eller logningsfaciliteter er alle nødvendige metoder til at mærke AI-genereret indhold, hvis indhold genereres eller eksporteres i et format, der understøtter disse teknikker. For eksempel bør underskrivere af kodeksen tilføje oplysninger om, hvorvidt indholdet er AI-genereret eller AI-manipuleret, som en del af metadataene for en lyd-, billed-, video- eller dokumentfil.
Ikke-fjerning af maskinlæsbar mærkning kræver, at underskriverne "gør deres bedste" for at bevare varemærker på indhold genereret eller manipuleret af deres AI-system ved at afstå fra at ændre eller fjerne eksisterende metadata, hvor det er teknisk muligt.
Gennemsigtighed i provenienskæden er en valgfri foranstaltning, der opfordrer underskriverne til at anvende proveniensstandarder, der giver yderligere oplysninger om provenienskæden for AI-genereret eller manipuleret indhold på tværs af arbejdsgange, hvor det er teknisk muligt.
Valgfri funktionalitet til mærkbare markeringer (til deep fakes og AI-genereret og manipuleret publiceret tekst) opfordrer udbydere af generative AI-systemer, der er i stand til at generere deepfakes og AI-genereret og manipuleret offentliggjort tekst, til at tilbyde en valgfri funktionalitet i deres systemgrænseflade og implementere en integreret mulighed, der giver distributører og andre brugere mulighed for direkte at anvende et mærkbart maskinlæsbart mærke eller en etiket på et genereret output efter eget skøn.
Forpligtelse 2 – Detektion af mærkning af AI-genereret indhold
Forpligtelse 2 kræver, at underskrivere af kodeksen implementerer foranstaltninger, der muliggør detektering af lyd-, billed-, video- eller tekstindhold (eller en kombination af disse), som genereret eller manipuleret af deres AI-system. De skal også sikre, at disse oplysninger leveres på en klar, skelnebar og tilgængelig måde via værktøjer eller API'er.
Foranstaltningerne i Forpligtelse 2 omfatter:
Detektionsmekanismer til aktiv markering stillet til rådighed for distributører, slutbrugere og andre tredjeparter. Denne foranstaltning kræver, at underskriverne sikrer, at der stilles en gratis grænseflade til rådighed, der giver implementører, brugere, slutbrugere og andre legitime parter af AI-systemer mulighed for at verificere, om indhold er blevet genereret eller manipuleret af deres AI-system.
Retsmedicinske detektionsmekanismer er en valgfri foranstaltning, der opfordrer underskriverne til at støtte udviklingen af retsmedicinske detektorer, der er i stand til at detektere outputtet fra generative AI-modeller, der er tilgængelige på EU-markedet, herunder når de er integreret i systemer.
Klar og tilgængelig offentliggørelse af verifikations- og detektionsresultater kræver, at underskriverne sikrer, at resultaterne af detektion og verifikation præsenteres klart og på en måde, der er letforståelig for personer, der ønsker at verificere indholdets oprindelse. Dette omfatter at sikre, at resultaterne indeholder oplysninger baseret på et vandmærke, metadata, retsmedicinsk detektion eller andre teknikker.
De bør også sikre, at resultaterne af detektionsmekanismer og deres brugergrænseflader, hvor det er relevant, er tilgængelige for personer med handicap.
Støt færdigheder inden for AI-mærkningsteknologier og verifikation opfordrer underskriverne til at sikre, at lægmandsorienteret dokumentation og andre relevante oplysninger (eksklusive forretningshemmeligheder) stilles til rådighed for udbredere og andre brugere for at støtte dem i at træffe informerede beslutninger om, hvilke mærknings- og detektionsmekanismer de kan bruge. De opfordres også til at stille AI-færdighedsressourcer til rådighed for slutbrugere, hvor det er relevant.
Forpligtelse 3 – Foranstaltninger til at opfylde kravene til mærknings- og detektionsteknikker
Forpligtelse 3 kræver, at underskriverne sikrer, at de anvendte tekniske løsninger til mærkning og detektion af AI-genereret eller manipuleret indhold er effektive, interoperable, robuste og pålidelige. De bør stræbe efter at opnå den højest mulige effektivitet, interoperabilitet, robusthed og pålidelighed af mærknings- og detektionsløsninger og gennemføre disse i det omfang, det er teknisk muligt.
Effektivitet kræver, at underskriverne implementerer mærknings- og detektionsløsninger, der er formålstjenlige og effektivt kan sætte folk i stand til at skelne mellem AI-genereret eller -manipuleret indhold og menneskeskabt indhold.
Pålidelighed kræver, at underskrivere af kodeksen implementerer mærknings- og detektionsløsninger, der opnår et højt niveau af pålidelighed i forskellige kontekster og anvendelsesscenarier. Dette omfatter overvejelse af to komponenter: hvor nøjagtig detektionen af mærkningen er under kontrollerede forhold, og hvordan nøjagtigheden af mærknings- og detektionsløsninger varierer med hensyn til indholdets længde, entropi og semantik.
Robusthed kræver, at underskriverne implementerer markerings- og detektionsløsninger, der opnår en høj grad af robusthed over for almindelige ændringer og angreb fra modstandere. Dette omfatter at sikre, at deres markerings- og detektionsteknikker er robuste over for typiske behandlingsoperationer, herunder spejling, beskæring, komprimering, skærmoptagelse og mere. Underskriverne bør også vurdere den angribende robusthed af deres markerings- og detektionsløsninger og bør opdatere trusselsvurderinger ofte.
Interoperabilitet kræver, at underskriverne af kodeksen implementerer tekniske løsninger til mærkning og detektion af AI-genereret eller manipuleret indhold, der fungerer på tværs af distributionskanaler og teknologiske miljøer. Formålet med denne foranstaltning er at sikre fuld interoperabilitet mellem mærknings- og detektionsløsningerne fra forskellige udbydere af AI-systemer med fælles mærknings- og detektionsstandarder.
Fremskridt inden for mærkning og detektion opfordrer underskriverne til at investere i videnskabelig forskning og udvikling for at fremme den nyeste teknologi inden for mærknings- og detektionsmekanismer for AI-genereret og -manipuleret indhold. Dette afhænger af deres kapacitet og ressourcer.
Forpligtelse 4 – Testning, verifikation og overholdelse
Forpligtelse 4 kræver, at underskriverne forpligter sig til at etablere, holde sig ajour med og implementere test-, verifikations- og overholdelsesprocesser.
Forpligtelsesmål 4 omfatter:
Overholdelsesramme, som kræver, at underskriverne udarbejder, implementerer og opdaterer en overholdelsesramme, der beskriver de mærknings- og detektionsprocesser og -foranstaltninger, som underskriverne implementerer for at sikre overholdelse af artikel 50, stk. 2 og 5, i EU's AI-lov. Denne foranstaltning bør implementeres forholdsmæssigt under hensyntagen til udbyderens størrelse og ressourcer.
testning, verifikation og overvågning Foranstaltningen kræver, at underskriverne tester mærknings- og detektionsløsningerne for at sikre, at de overholder kravene og foranstaltningerne i afsnit 1 i kodeksen under faktiske forhold og inden de bringes i omsætning. Downstream-udbydere af generative AI-systemer kan stole på resultater af test udført af en upstream-model eller en tredjepartsudbyder af mærknings- og detektionsteknikker.
Kurser kræver, at underskriverne sørger for passende uddannelse til personale med roller, der er relevante for at sikre overholdelse af artikel 50, stk. 2 og 5, i EU's AI-lovgivning, som er involveret i design og udvikling af AI-systemer og -modeller, og som er ansvarlige for at sikre, at de foranstaltninger, der er specificeret i afsnit 1 i kodeksen, implementeres effektivt.
Samarbejde med markedsovervågningsmyndigheder kræver, at underskriverne af kodeksen samarbejder med kompetente markedsovervågningsmyndigheder for at påvise overholdelse af artikel 50, stk. 2 og 5, i EU's AI-lovgivning og deres forpligtelser i henhold til afsnit 1 i kodeksen.
Afsnit 2: Regler for mærkning af deepfakes og AI-genereret og manipuleret publiceret tekst
Afsnit 2 finder anvendelse på udbredere af AI-systemer og vedrører artikel 50, stk. 4 og 5, i EU's AI-lovgivning.
De specifikke mål med afsnit 2 i kodeksen er at tjene som et vejledende dokument til at demonstrere overholdelse af forpligtelserne for udbredere af generative AI-systemer i loven, selvom overholdelse af kodeksen ikke er afgørende bevis for overholdelse af disse forpligtelser. Dette afsnit er udformet til at hjælpe udbredere af AI-systemer, der genererer eller manipulerer billed-, lyd- eller videoindhold, der udgør en deepfake eller tekst, med at overholde deres forpligtelser og til at sætte markedsovervågningsmyndighederne i stand til at vurdere overholdelsen.
Forpligtelse 1 – Offentliggørelse af AI-genererede og manipulerede deepfakes og offentliggjort tekst
Forpligtelse 1 kræver, at underskriverne sikrer konsekvent offentliggørelse af den kunstige oprindelse af AI-genererede eller manipulerede deepfake-filer eller offentliggjort tekst om spørgsmål af offentlig interesse.
Underskrivere kan gøre dette ved at bruge det ensartede EU-ikon, når dette er tilgængeligt, eller ved at vælge et alternativt ikon eller en alternativ mærkningsløsning, der opfylder kravene i følgende foranstaltninger:
Designkrav til ikoner, etiketter eller ansvarsfraskrivelser indeholder en liste over krav til design af visuelle ikoner eller etiketter. Dette inkluderer det primære visuelle element i form af et stort "AI", muligvis suppleret med en kort tekstetiket, der beskriver typen af involvering af AI, for eksempel "genereret med AI". For indhold udelukkende med lyd skal underskrivere inkludere en kort hørbar ansvarsfraskrivelse. Yderligere oplysninger om de specifikke krav kan findes i kodekset.
Placeringskrav for ikoner, etiketter eller ansvarsfraskrivelser kræver, at underskrivere viser ikonet, etiketten eller ansvarsfraskrivelsen på en passende og synlig position, der stemmer overens med indholdets format og kontekst. Yderligere oplysninger om de specifikke krav kan findes i kodekset.
Valgfri brug af et EU-ikon og deltagelse i dets udvikling er en valgfri forpligtelse, der opfordrer underskriverne til at bruge det EU-dækkende ikon og støtter udviklingen af en ensartet EU-etiket, der er designet til at give mere avanceret og brugbar information om de AI-genererede eller manipulerede elementer i indholdet.
Forpligtelse 2 – Forholdsmæssig overholdelse, bevidsthed og gennemgang
For at overholde forpligtelse 2 skal underskriverne implementere forholdsmæssige interne processer, oplysningsforanstaltninger og revisionsmekanismer for korrekt implementering af mærkningen af deepfakes og tekstpublikationer inden for rammerne af artikel 50(4) i EU's AI-lovgivning.
Intern overholdelse kræver, at underskriverne etablerer, tilpasser eller vedligeholder forholdsmæssig intern dokumentation for at specificere, hvordan de implementerer oplysningsforpligtelserne i henhold til de førnævnte afsnit i EU's AI-lov.
Bevidsthed og træning kræver, at underskriverne gør en rimelig og forholdsmæssig indsats for at sikre kendskab til oplysningsforpligtelserne i henhold til artikel 50, stk. 4 og 5, i EU's AI-lovgivning blandt personale, der er direkte involveret i gennemførelsen af mærkningsforanstaltninger eller fører tilsyn med overholdelsen af foranstaltningerne i afsnit 2 i kodeksen.
Gennemgang, feedback og samarbejde med myndigheder kræver, at underskriverne støtter en effektiv implementering af oplysningsforpligtelser gennem gennemgang og feedbackmekanismer, såsom at tilvejebringe kanaler, der giver enkeltpersoner eller betroede tredjeparter, såsom uafhængige faktatjekkere, mulighed for at markere ukorrekte eller manglende oplysninger.
Forpligtelse 3 – Passende offentliggørelse af kunstneriske, kreative og lignende værker
Forpligtelse 3 kræver, at underskriverne implementerer foranstaltninger til at offentliggøre deepfake-indhold, der er en del af kunstneriske, kreative, satiriske, fiktive eller analoge værker eller programmer. Offentliggørelse bør ske på en passende måde, der ikke hæmmer visningen eller nydelsen af værket. Specifikke placeringsforslag kan findes i kodekset.
Forpligtelse 4 – Menneskelig gennemgang, redaktionel kontrol og ansvar i forbindelse med AI-genererede eller manipulerede tekstpublikationer
For at sikre overholdelse af Forpligtelse 4 bør underskriverne etablere, tilpasse eller vedligeholde et minimum af dokumentation, der viser, at den AI-genererede eller manipulerede tekst, der er offentliggjort med det formål at informere offentligheden om spørgsmål af offentlig interesse, har været underlagt menneskelig gennemgang eller redaktionel kontrol forud for offentliggørelse, og at en fysisk eller juridisk person har det redaktionelle ansvar for offentliggørelsen.
Dokumentationen bør indeholde identifikation af den person med redaktionelt ansvar, herunder navn, rolle og kontaktoplysninger, samt en oversigt over de foranstaltninger, der er afsat for at sikre, at der udføres tilstrækkelig menneskelig gennemgang.
Overholdelse af praksiskodekset i henhold til ISO 42001
Praksiskodeksen er frivillig. Den giver dog udbydere og distributører af AI-systemer mulighed for at demonstrere deres overholdelse af de juridiske gennemsigtighedsforpligtelser i EU's AI-lov.
ISO 42001-standard giver en ramme for bedste praksis for opbygning, vedligeholdelse og løbende forbedring af et AI-styringssystem (AIMS) og kan også understøtte bredere overholdelse af EU's AI-lovgivning. Standarden er designet til at sikre, at organisationer overvejer specifikke problemstillinger relateret til AI, herunder sikkerhed, tryghed, retfærdighed, gennemsigtighed, datakvalitet og kvaliteten af AI-systemer gennem hele deres livscyklus.
ISO 42001 giver organisationer et grundlag for at implementere et etisk og transparent AIMS, der dækker AI-modeller, -systemer og implementering. Et robust, ISO 42001-kompatibelt AIMS kan gøre det muligt for organisationer nemt at vedligeholde og demonstrere dokumentation for overholdelse af praksiskodeksen og EU's AI-lov.
Overholdelse af EU's AI-lovgivningskodeks for gennemsigtighed af AI-genereret indhold
Det kan være en udfordring at implementere de nødvendige foranstaltninger for at tilpasse sig praksiskodekset. Organisationer bør som minimum vedtage de foranstaltninger, der kræves for transparent AI-mærkning og -detektion, gennemgå dokumentation af menneskelige tilsynsprocesser og identificere huller mellem deres nuværende tilgang til gennemsigtighed og de foranstaltninger, der kræves i praksiskodekset.
Hvis din organisation overvejer at overholde ISO 42001, så kontakt os for at se, hvordan ISMS.online kan hjælpe. Tag det næste skridt mod ansvarlig og metodisk AI-styring, og sørg for, at din organisations brug af AI er i overensstemmelse med de juridiske forpligtelser i EU's AI-lov.
Udvid din viden
Blog: En vigtig frist for EU's AI-lov nærmer sig: Her er hvad virksomheder har brug for at vide
Blog: Kunne ISO 42001 blive Storbritanniens De Facto AI-regulator?
Webinar: Lektioner fra en af verdens første ISO 42001-certificeringer
