Gå til innhold

Alegre 2021 – Protecting Freedom of Thought in the Digital Age

Årstall

Citekey sier 2022, men dokumentet er CIGI Policy Brief No. 165 fra mai 2021 (PDF-side 2). Rebekka bør sjekke hvilken versjon hun siterer.

Kort fortalt

Et politikknotat skrevet av en menneskerettsjurist. Det hevder at den digitale teknologiens innvirkning på hvordan vi tenker, føler og handler, krever et nytt reguleringsperspektiv: vern av tanke- og meningsfriheten, ikke bare av personvern (s. 2) [U]. Tankefriheten har tre elementer: retten til å holde tankene for seg selv, retten til ikke å bli manipulert, og retten til ikke å bli straffet for tankene sine (s. 2, 4) [U]. Dette er absolutte rettigheter, som kan kreve forbud mot teknologi som griper ulovlig inn i sinnet vårt (s. 3) [U]. Staten har en positiv plikt til å verne rettigheten mot næringslivet gjennom lover og regulering (s. 2, 4) [U].

Problemstilling og hovedpåstand

  • Notatet spør hva tankefrihet betyr i det tjueførste århundrets dataøkonomi, og hvordan innovasjon kan støtte vår indre frihet (s. 2) [U].
  • Hovedpåstand: reguleringen har så langt handlet om personvern og ytringsfrihet, men det trengs et nytt perspektiv som verner forum internum – sinnets indre rom (s. 2) [U].
  • Myndighetene trenger nye rammeverk som tar hensyn til de bredere samfunnsvirkningene av databruk, i stedet for å konsentrere seg om kontroll over personopplysninger (s. 6) [U].

Teoretisk perspektiv

  • Internasjonal menneskerett: SP artikkel 18 og 19, FNs menneskerettskomité, Den europeiske menneskerettsdomstolen, FNs veiledende prinsipper for næringsliv og menneskerettigheter (s. 3–4) [U].
  • Zuboffs overvåkingskapitalisme og markedet for «human futures» (s. 4) [U].
  • Begrepet «oppmerksomhetsøkonomi» (Herbert Simon) (s. 5) [U].
  • Forfatterens og andres tidligere arbeider om tankefrihet (Alegre 2017; Aswad 2020; Vermeulen 2006) (s. 4) [U].

Empirisk materiale og kontekst

  • Ingen systematisk empiri. Eksempler: Facebook-«likes» som forutsier personlighet, målrettet reklame mot sårbare unge, nettsteder om psykisk helse som deler data, Facebooks eksperiment med følelsessmitte, Cambridge Analytica, prediktivt politiarbeid, et forsikringsselskaps app for prising etter personlighet (s. 4–5) [U].
  • Reguleringseksempler: Spanias forfatningsdomstol om partienes profilering, FNs generelle kommentar nr. 25 om barns rettigheter, det amerikanske FTCs pålegg til sosiale medier (2020), EU-kommisjonens forslag om KI (2021) (s. 6–7) [U].
  • Kontekst: utgitt av Centre for International Governance Innovation (CIGI), en kanadisk tankesmie (s. 2, 11) [U].

Metode

  • Normativt juridisk argument / politikknotat med anbefalinger [T – karakteristikk].

Sentrale begreper

Begrep Hvordan kilden definerer eller bruker det Side U/T
freedom of thought Rettighet i internasjonal menneskerett; absolutt i forum internum 2–4 U
forum internum Sinnets indre rom 2, 4 U
tre elementer Å holde tankene for seg selv; ikke bli manipulert; ikke bli straffet for dem 2, 4 U
absolute right Kan, i motsetning til personvern og ytringsfrihet, ikke begrenses 3–4 U
inferences Antakelser om hva vi tenker, utledet fra metadata, riktige eller ikke 4–5 U
privacy as gateway right Personvern er en inngangsport, men tankefriheten er kjernen i det å være menneske 8 U

Hvordan personvern og private data forstås

  • Personvern er en inngangsport-rettighet (gateway right), men ikke nok alene (s. 8) [U]. Regulering som handler om personvern, fanger ikke virkningen på tankefriheten (s. 2, 7) [U].
  • Personvern kan, i motsetning til tankefrihet, begrenses under visse omstendigheter (s. 4) [U].
  • Den sentrale bekymringen i dataøkonomien er ikke navn eller telefonnummer, men deling og salg av antakelser om hva vi tenker, basert på metadata (s. 4) [U].
  • Personopplysninger brukes til å forutsi og styre atferd i markedet for «human futures» (s. 4) [U].
  • Antakelser brukes både i offentlig og privat sektor til automatiserte beslutninger om folk, for eksempel prediktivt politiarbeid (s. 5) [U].
  • Forfatteren etterlyser regulering som ser på bredere samfunnsvirkninger heller enn kontroll over personopplysninger (s. 6) [U].

Argumenter og funn

  • Selskaper kan ha mange datapunkter om oss selv om vi aldri har brukt plattformene deres (s. 5) [U].
  • Dataanalyse av hvordan vi har det i sanntid, er verdifull fordi den gjør det mulig å utnytte svake øyeblikk for kommersiell eller politisk vinning (s. 5) [U].
  • KI som hevder å analysere sinnsstemning eller tilbøyelighet til kriminalitet, er et verktøy for å straffe folk ut fra antakelser om hva som foregår i hodet deres (s. 5) [U].
  • Statene har så langt ikke gjort noe alvorlig med dette (s. 6) [U].
  • Anbefalinger: forby mikromålrettet politisk reklame og teknologi som utleder politiske syn fra biometriske data; forby ansiktsgjenkjenning med følelsesanalyse, løgndetektorer og «svart boks»-algoritmer for risikovurdering i strafferettspleien; verne barns tankefrihet (s. 6–7) [U].
  • EUs KI-forslag er velkomment, men effekten avhenger av detaljene (s. 7) [U].

Begrensninger kilden selv nevner

  • Å regulere ut fra tankefriheten er nytt og sammensatt (s. 6) [U].
  • Hva FTC vil avdekke, gjenstår å se (s. 7) [U].
  • Ellers: Ikke funnet i teksten.

Hva kilden ikke dekker

  • Norge [T].
  • Empirisk dokumentasjon utover eksempler og nyhetssaker [T].
  • Grundig analyse av om gjeldende personvernrett (GDPR) dekker bekymringene [T].

Mulig relevans for oppgaven

  • Gir en rettighetsbasert forståelse der personvern bare er en «inngangsport» til noe mer grunnleggende; dette kan sammenlignes med hvordan norske dokumenter begrunner personvern [T].
  • Vekten på antakelser heller enn personalia (s. 4) kan hjelpe med å spørre hvilke data dokumentene ser som sensitive [T].
  • Notatet sier uttrykkelig at offentlig sektor bruker antakelser i automatiserte beslutninger (s. 5), noe som berører statens bruk av data [T].

Forbindelser til andre kilder

  • Fourcade 2017 – tematisk: dataøkonomi og atferdsprediksjon [T].
  • Richardson et al. 2019 – tematisk: mikromålretting i valgkamper (s. 6) [T].
  • Hankey et al. 2018 – tematisk: data og demokrati [T].
  • Solove 2011 – tematisk kontrast: Solove mener personvern er et mangfold av problemer, Alegre at personvern er en inngangsport til tankefriheten [T].

Nøkkelsitater

“There are three key elements to the right to freedom of thought and all are affected by technology” (s. 2)

“But a more fundamental concern in the data economy is the sharing and sale of inferences and insights about what we are thinking, whether they are accurate or not.” (s. 4)

“Doing so will require new regulatory frameworks that recognize and respond to the wider societal impacts of the use of data rather than focus on control of personal data.” (s. 6)

“Privacy is a gateway right, but the right to think for ourselves is at the heart of what it means to be human.” (s. 8)

Åpne spørsmål til Rebekka

  • Hvilken versjon siterer du – politikknotatet fra 2021 eller en utgivelse fra 2022?
  • Omtaler norske dokumenter antakelser og profilering, eller mest innsamling av personopplysninger?
  • Dukker tankefrihet i det hele tatt opp i primærdokumentene dine?
  • Er dette en kilde til teori, til kontekst, eller et eksempel på et rettighetsbasert standpunkt?