Online Safety Bill – Et renere internet til hvilken pris?

Siden fremsættelsen af ​​lovforslaget om onlinesikkerhed er der blevet afholdt debatter ind og ud af Westminster om dets forskellige indhold. Dan Raywood ser på dens nuværende tilstand.

Det er omkring to år siden første udkast af et lovforslag blev fremsat, foreslået af den daværende britiske premierminister Boris Johnson for at regulere onlineindhold bedre.

Med en primær intention om at kontrollere skadeligt og stødende indhold følger Online Safety Bill 2019's Online Harms White Paper for at behandle skadeligt indhold og indhold, der skader individuelle brugere. Denne sag har været særligt udbredt i Storbritannien efter den højtprofilerede sag om Molly Russell, en 14-årig, der tog sit eget liv i 2017 efter at have set selvmord og selvskadende indhold online.

Hensigten med lovforslaget er at skabe en omsorgspligt for websteder og onlineplatforme og kræve, at de griber ind over for både ulovligt og lovligt, men skadeligt indhold, med bøder på op til £18 millioner eller 10 % af den årlige omsætning, alt efter hvad der er højere , til dem, der ikke overholder.

Hvorfor kontroversen

Alt i alt lyder dette rimeligt acceptabelt. Det har til hensigt at rydde op på internettet og bedre beskytte sårbare mennesker mod potentielt skadeligt og stødende indhold, så hvorfor har det forårsaget en sådan kontrovers?

Nå, på den ene side er dette et forslag til et værktøj til voksne til at have større kontrol over de typer indhold, de ser, og hvem de interagerer med online, og hjælpe med at reducere sandsynligheden for, at de vil støde på bestemte typer indhold, der vil blive indstillet ud i lovforslaget. Lovforslaget vil allerede beskytte børn mod at se dette indhold.

På den anden side er dette blevet kaldt en forsøge at tøjle indhold generelt accepteret at forårsage skade, selvom det ikke er i strid med loven.

Mens Storbritannien har love, der forbyder hadefulde ytringer og trusler, vil lovforslaget udsætte beslutningen til Ofcom om at afklare, om store teknologiske platforme på passende vis opfylder deres pligt til omhu ved at udføre risikovurderinger og forklare, hvordan de mindsker risici.

Menneskerettighedsorganisationens artikel 19 siger i sin blog om lovforslaget, at ”outsourcing” af afgørelser om ulovlighed vil kræve, at virksomheder vurderer og tager stilling til, om deres brugeres tale er lovligt eller ej.

"Dette er dybt problematisk, da kun uafhængige retslige myndigheder bør have beføjelse til at træffe en sådan afgørelse," hedder det. "Ud over de legitime bekymringer ved at outsource beslutninger om lovligheden af ​​brugernes tale til private aktører, bemærker vi, at disse vurderinger i de fleste tilfælde er ekstremt komplekse og kontekstafhængige og derfor bør foretages af uddannede personer."

I sidste ende rejser dette spørgsmål om, hvem der bestemmer, hvad der er ulovligt og ikke, da onlineplatforme implementerer algoritmiske modereringssystemer, såsom automatiseret hash-matching og prædiktive maskinlæringsværktøjer, til at udføre indholdsmoderering. På grund af mangel på sofistikering i at skelne lovligt fra ulovligt indhold på en pålidelig måde, "identificerer de rutinemæssigt indhold som ulovligt og fjerner enorme mængder af lovligt indhold."

Breaking End-to-End-kryptering – Data Privacy Conundrum

Det andet knibepunkt for lovforslaget om onlinesikkerhed har været erklæringer om at bryde end-to-end (E2E) kryptering eller i det mindste have adgang til de samtaler, der finder sted via disse sikre applikationer.

Debatten om 'bagdøre' til apps som WhatsApp og Signal er næppe ny. Forgængere til Boris Johnson, såsom David Cameron, diskuterede dette koncept i midten af ​​det sidste årti. Dette kunne dog nu være i et regeringsforslag, og for nogle organisationer har det vist sig at være det vigtigste diskussionspunkt.

I henhold til artikel 19 vil paragraf 103(2)(b) give Ofcom beføjelser til at beordre en udbyder af en bruger-til-bruger-tjeneste til at bruge 'akkrediteret teknologi' til at identificere indhold af seksuel udnyttelse og misbrug af børn (CESA) – uanset om sådant indhold kommunikeres offentligt eller privat.

Artikel 19 hævder: "Den fuldstændige undladelse af lovforslaget med at foretage nogen meningsfuld sondring mellem kravene på offentlige platforme i modsætning til private meddelelsestjenester betyder, at der er en reel risiko for, at tilbud om end-to-end-kryptering vil udgøre en overtrædelse af lovforslaget. ”

Sikker kommunikation truet

Brugen af ​​sikker kommunikation er blevet godt citeret, med menneskerettighedsgrupper, journalister, whistleblowere, ofre for vold i hjemmet og enkeltpersoner fra minoritetsgrupper, alle almindelige brugere af f.eks. WhatsApp, Signal og Telegram, der udtaler sig om lovforslaget, siger de vil hellere blokeres i Storbritannien end at underminere dets teknologi. De kunne endda stoppe med at levere tjenester i Storbritannien, hvis lovforslaget krævede, at de skulle scanne beskeder.

En policy brief fra Open Rights Group hævder, at Ofcom kunne tvinge chatplatforme til at bruge regerings-akkrediteret indholdsmodereringsteknologi. Mens lovforslaget er tavs om den præcise implementering, forstås det generelt som en form for scanning på klientsiden, hvor softwaren vil ligge på brugernes smartphones.

Dr. Monica Horten, policy manager for ytringsfrihed ved Open Rights Group, sagde: "Vi ser derfor på foranstaltninger, der vil resultere i masseovervågning af kommunikationstjenester, der bruges af mere end to tredjedele af den britiske befolkning til private beskeder, herunder video- og taleopkald. De vil gribe ind i britiske borgeres privatliv og ytringsfrihed."

Horten hævder, "parlamentet bliver bedt om at lovgive for uforholdsmæssigt indgribende foranstaltninger, der påvirker vores privatliv og ytringsfrihed, uden nogen specifik information om indvirkningen på hverken brugere eller udbydere." Folk og virksomheder har ret til at vide, hvad foranstaltningerne er, og hvordan de kan gribe ind for at undgå sanktioner, før lovforslaget går videre.

Opnå databeskyttelse og onlinesikkerhed – hvem har svarene

Udrulningen af ​​Online Safety Bill har utvivlsomt været vanskelig – mange hævder, at et bedre internet, som er fri for stødende materiale, er en god ting. Det er måden, hvorpå disse faktorer bliver implementeret, der vækker så meget bekymring, som på den ene side NSPCC opfordrer til "effektiv handling" mod misbrugsmateriale og opfordrede (WhatsApp og Facebook-moderselskab) Meta til at sætte planer om at pause E2E-kryptering af Facebook og Instagram messenger-tjenester på pause, men udtalte også, at "onlinesikkerhedslovforslaget skal ses som en mulighed at tilskynde virksomheder til at investere i teknologiske løsninger til end-to-end-kryptering, der beskytter voksnes privatliv og beskytter børn." Så en mellemvej, der ikke påvirker brugernes privatliv og ikke insisterer på at bryde krypteringsteknologien, men som stadig arbejder for onlinesikkerhed?

Selvfølgelig er debatten om privatlivets fred højest, og menneskerettighedsorganisationer har ført oppositionen til at bryde E2E-kryptering. Alligevel vil fortalere for lovforslaget hævde, at disse platforme er mest brugt til at udveksle dette misbrugsmateriale.

At bestemme slutningen og hvem der sidder på højre side er problematisk. Siden det første gang blev fremsat, har lovforslaget givet anledning til nye diskussioner og fortsatte andre debatter, og det bliver interessant at se, hvordan dette bliver løst og afsluttet.