Rammekonventionen om kunstig intelligens kommer: Hvad betyder det for din organisation?

Den hastighed, hvormed AI-innovation bevæger sig, har overrasket mange. I nogle lande kæmper lovgivere for at følge med og svinger mellem selvregulering (som USA er fortaler for) og en mere praktisk tilgang (f.eks. EU's AI-lov). Men de fleste anerkender nu potentialet for, at teknologien kan underminere menneskerettighederne og retsstatsprincippet. En ny Europarådets rammekonvention om kunstig intelligens behandler disse bekymringer.

Det sigter mod at komplementere eksisterende globale standarder for menneskerettigheder, demokrati og retsstatsprincippet, samtidig med at de løser eventuelle juridiske huller, der stammer fra hurtige AI-teknologiske fremskridt. Men er det sandsynligt, at dens teknologiagnostiske, vagt formulerede tilgang har den slags indvirkning, dens tilhængere hævder?

Hvad er det og hvorfor nu?

Fem år undervejs beskrives konventionen som den "første internationale juridisk bindende traktat nogensinde", der regulerer AI. Den er skrevet af de 46 medlemslande i Europarådet (inklusive Storbritannien), EU og 11 ikke-medlemsstater, herunder Australien, Japan og USA.

Det kan ses i sammenhæng med et voksende antal forskellige regeringsbestræbelser for at regulere AI på en måde, der afbøder nye risici. Disse omfatter præsident Bidens Bekendtgørelse på AI fra oktober 2023, den Bletchley-erklæringen en måned senere (november 2023), og den Kongens tale meddelelse at den britiske regering planlægger at indføre AI-lovgivning for at regulere kraftige AI-modeller.

Hvordan adskiller det sig fra EU's AI-lov?

Ifølge Europarådet indeholder konventionen flere grundlæggende principper, der skal styre livscyklussen af ​​AI-systemer:

• Menneskelig værdighed og individuel autonomi
• Ligestilling og ikke-forskelsbehandling
• Respekt for privatlivets fred og beskyttelse af personoplysninger
• Gennemsigtighed og overblik
• Ansvarlighed og ansvar
• Pålidelighed
• Sikker innovation

Underskrivere skal dokumentere relevante oplysninger om AI-systemer og stille dem til rådighed for alle berørte. Disse oplysninger skal være detaljerede nok, så folk kan anfægte beslutninger, der er truffet via AI eller endda brugen af ​​AI selv. De skal også kunne indgive en klage til myndighederne. Disse myndigheder skal give "effektive proceduremæssige garantier, garantier og rettigheder" til enhver, der er berørt af AI, som kan påvirke deres menneskerettigheder og friheder. Rådet siger, at brugere af kunstig intelligens også bør informeres om, at de interagerer med ikke-menneskelig intelligens.

Konventionen kræver, at stater også udfører risiko- og konsekvensvurderinger relateret til AI's indvirkning på menneskerettigheder, demokrati og retsstatsprincippet. Som følge heraf skal de etablere "tilstrækkelige forebyggelses- og afhjælpningsforanstaltninger" og endda indføre forbud eller moratorier for visse AI-applikationer.

Så hvordan adskiller dette sig fra EU's AI-lov? Mest åbenlyst gælder det for nationalstater snarere end private virksomheder - selvom det også påvirker private enheder, der handler på vegne af regeringer. Selvom begge sigter mod at beskytte menneskerettighederne i forbindelse med brug af kunstig intelligens, er de "adskilte stykker lovgivning med meget forskellige lovgrundlag", ifølge Sarah Pearce, partner hos Hunton Andrews Kurth.

"EU AI Act er et stykke lovgivning vedtaget af Den Europæiske Union, som vil blive håndhævet direkte. AI-traktaten er en international konvention underskrevet af forskellige nationalstater. Underskrivere forpligter sig til visse principper/forpligtelser og til at arbejde med lovgivere og regulatorer på nationalt niveau for at implementere og håndhæve disse principper/krav,” siger hun til ISMS.online.

"Principperne i AI-konventionen virker ret brede og kræver yderligere handling fra nationalstaternes side for at sikre implementering og håndhævelse, så dens effektivitet er tvivlsom på dette stadium. I modsætning hertil er EU AI-loven gældende lovgivning og indeholder et sæt lovkrav, som organisationer i deres omfang skal overholde eller risikere sanktioner for manglende overholdelse. Det indeholder også bestemmelser om, hvordan lovgivningen vil blive håndhævet."

Vil det gøre en forskel?

Der er flere potentielle udfordringer med konventionen, ifølge en Fugle- og fugleanalyse:

• Stater kan vælge, hvordan de vil anvende deres regler på private aktører – direkte eller via "andre passende foranstaltninger". Dette kan føre til uoverensstemmelser i, hvordan det anvendes over hele kloden, ligesom det faktum, at begrebet "offentlig myndighed" ikke er defineret i teksten.
• Generelt holder konventionen sig til brede principper snarere end specifikke krav, hvilket betyder, at når den omsættes til lokale love, kan der være stor forskel på reglerne.
• Selvom overholdelsesrapportering er påkrævet, gør ingen strenge håndhævelseskriterier konventionen noget tandløs.
• Ingen retsmidler, såsom bøder, er blevet foreslået for brud på menneskerettighederne i forbindelse med konventionen - hvilket betyder, at disse også kan variere betydeligt mellem jurisdiktioner.

"Efter al sandsynlighed vil de fleste organisationer finde overholdelse af konventioner udfordrende på grund af det upræcise sprog og brede pligter," fortæller Cripps partner, Matthew Holman, til ISMS.online.

»EU siger, at det har gjort det ved at implementere EU AI Act, og det er grundlæggende korrekt på det punkt. Den britiske regering siger, at eksisterende nationale love allerede behandler de punkter, der kommer fra konventionen, så der er ikke behov for en selvstændig handling. Om det er rigtigt på det punkt er meget til debat, men jeg vil være tilbøjelig til at være uenig.”

 Hvad er de næste trin?

Den britiske regering synes ivrig efter at opretholde sin position som førende inden for AI-sikkerhed. Den hævder, at eksisterende love og foranstaltninger vil blive "forstærket", når traktaten er ratificeret, og at den vil arbejde tæt sammen med "regulatorer, de decentraliserede administrationer og lokale myndigheder" for at implementere de nye krav.

Indtil da, siger Holman, bør både offentlige og private organisationer, der potentielt er påvirket af konventionen, sikre, at enhver AI-udvikling stemmer overens med Europarådets kerneværdier om menneskerettigheder, demokrati, retsstaten og gennemsigtighed.

"Offentlige myndigheder og private aktører bør sigte mod at øge gennemsigtigheden af ​​processer og samarbejde med offentlige myndigheder for at skabe en ramme for industristandard etisk praksis," slutter han.