An Approach for Designing Responsible Privacy Heuristics

Abstract

Privacy compliance is a major concern for legal entities handling Personal Information (PI), as noncompliance leads to substantial fines. Regulations require these entities to implement privacy protection mechanisms (privacy solutions) and inform data subjects (DSs) about PI processing. However, DSs often struggle to understand relevant information and effectively use these mechanisms, leaving their privacy vulnerable. Privacy heuristics (PHs) offer a potential solution by assisting users in making informed decisions. Yet, their design is complex, prone to bias, and, if done irresponsibly, can lead to unethical or manipulative outcomes. This thesis addresses these challenges by developing an approach that provides design principles for guiding and evaluating Responsible Privacy Heuristics (RPHs) in privacy-aware systems. Following the Design Science Research methodology, we formulated the principles to satisfy six meta-requirements derived from ethical principles: Integrity, Non-manipulation, Beneficence and Non-maleficence, Autonomy and Control, Context-aware and Accessible, and Regulatory Compliance. Each principle is paired with acceptance criteria that practitioners can use to verify correct application. The clarity and applicability of the resulting eleven design principles, as well as the validity of their acceptance criteria, were evaluated by privacy domain experts. We demonstrate the applicability of the approach through a practical example, following the steps of the methodological process. The resulting design was validated via a moderated A/B test with 12 end-users. Participants were asked to complete demographic questions, read a scenario, interact with their assigned design version, and then respond to a post-task questionnaire that assessed perceived usability, perceived informed decision, perceived autonomy, and perceived consequences awareness. In addition, we evaluated informed decision and decision-awareness to measure the new privacy solution’s effectiveness. The results show that the RPH version matched the standard PH version in usability, while being slightly more effective in preventing the selection of privacy-invasive options and enabling informed decision-making, without compromising user autonomy.

Privaatsusnõuete järgimine on isikuandmeid (PI) käitlevate juriidiliste isikute jaoks suur murekoht, kuna mittevastavus toob kaasa märkimisväärseid trahve. Määrused nõuavad, et need üksused rakendaksid privaatsuse kaitsemehhanisme (privaatsuslahendusi) ja teavitaksid andmesubjekte (DS-e) PI töötlemisest. DS-idel on aga sageli raskusi asjakohase teabe mõistmise ja nende mehhanismide tõhusa kasutamisega, mis muudab nende privaatsuse haavatavaks. Privaatsusheuristikad (PH-d) pakuvad potentsiaalset lahendust, aidates kasutajatel teha teadlikke otsuseid. Ometi on nende ülesehitus keeruline, altid eelarvamustele ja vastutustundetu tegutsemise korral võivad need viia ebaeetiliste või manipuleerivate tulemusteni. See väitekiri käsitleb neid väljakutseid, töötades välja lähenemisviisi, mis pakub disainipõhimõtteid vastutustundliku privaatsuse heuristika (RPH) juhtimiseks ja hindamiseks privaatsusteadlikes süsteemides. Disainiteaduse uurimistöö metoodikat järgides sõnastasime põhimõtted, mis vastavad kuuele eetilistest põhimõtetest tulenevale metanõudele: terviklikkus, mittemanipuleerimine, heategevus ja mittekahju, autonoomia ja kontroll, kontekstiteadlikkus ja ligipääsetavus ning regulatiivne vastavus. Iga põhimõttega on seotud vastuvõtukriteeriumid, mida praktikud saavad kasutada õige rakendamise kontrollimiseks. Saadud üheteistkümne disainipõhimõtte selgust ja rakendatavust ning nende vastuvõtukriteeriumide kehtivust hindasid privaatsusvaldkonna eksperdid. Me demonstreerime lähenemisviisi rakendatavust praktilise näite abil, järgides metodoloogilise protsessi samme. Saadud disaini valideeriti modereeritud A/B-testi abil 12 lõppkasutajaga. Osalejatel paluti vastata demograafilistele küsimustele, lugeda stsenaariumi, suhelda neile määratud disainiversiooniga ja seejärel vastata ülesandejärgsele küsimustikule, mis hindas tajutavat kasutatavust, tajutavat teadlikku otsust, tajutavat autonoomiat ja tajutavate tagajärgede teadlikkust. Lisaks hindasime teadlikku otsust ja otsusteadlikkust, et mõõta uue privaatsuslahenduse tõhusust. Tulemused näitavad, et RPH versioon vastas kasutatavuse poolest standardsele PH versioonile, olles samal ajal veidi tõhusam privaatsust riivavate valikute valimise ennetamisel ja teadliku otsuste tegemise võimaldamisel, ilma et see kahjustaks kasutaja autonoomiat.