Privacy, big data en het algemeen belang

VERKEERSCAMERA'S
Zijn big data behulpzaam of schadelijk voor het algemeen belang? Die vraag stelt Sandel de deelnemers aan het begin van het derde debat. Als voorbeeld neemt hij het doel van verkeerscamera’s. Bijna iedereen ziet de waarde daarvan in. Behalve Bonne: ‘De politie mag mij controleren, maar ik vind niet dat een machine dat hoort te doen.’

Sandel gaat nog een stapje verder. Wat nou als de politie de beelden van verkeerscamera’s gebruikt om een crimineel op te sporen? Iedereen die op een bepaald moment op een bepaalde weg heeft gereden wordt nagetrokken, om er zo achter te komen wie de dader is. Een kleine minderheid van de deelnemers is hier tegen, waaronder Alexander: 'De politie moet misdaden oplossen, maar niet op deze manier. Het is voor mij een beetje te gevaarlijk. We gaan ervan uit dat de overheid altijd het beste met ons voorheeft, maar wat als er volgend jaar ineens een dictator aan de macht komt? En ik hem niet te veel macht wil geven?’ Bonne voegt daaraan toe: ‘Het maakt van iedereen die op die weg heeft gereden een verdachte.’

Dimitris ziet het probleem niet zolang je niets te verbergen hebt. Maar volgens Meral is het juist nodig om zaken privé te houden. ‘Dat maakt ons menselijk. Ik zie niet in wat daar zo verkeerd aan is.’ Sandel: ‘Maar wil je dan niet dat de politie weet dat jij onschuldig bent?’ ‘Jawel, maar ik wil niet dat dat ten koste gaat van mijn vrijheid en privacy’, aldus Meral. 

En wat te denken van de politie die locatiegegevens van mensen gaat gebruiken om misdadigers op te sporen? ‘Graag,’ zegt Maarten: ‘De algoritmen van een machine zijn veel betrouwbaarder dan mensen. Mensen maken fouten.’ Hij zou zelfs liever door een machine willen worden berecht dan door een rechter.  Dat gaat er bij YMP niet in. Hij heeft twee jaar in de gevangenis gezeten. ‘De verandering die ik in mijn leven heb doorgevoerd, had nooit door een algoritme kunnen worden voorspeld. Volgens de statistieken zou ik tot de 90 procent bajesklanten behoren die recidiveert. Maar door wie ik ben, behoor ik tot de 10 procent. Ik ben vrijgesproken door een rechter met wie ik een menselijke connectie had. Dat is niet mogelijk met een machine.’

CHINA
Tegen het eind van de aflevering brengt Sandel nog het sociale puntensysteem in China ter sprake, waarmee de overheid een betrouwbaarheidsscore voor haar burgers wil creëren. Het is gebaseerd op allerlei soorten geaggregeerde data. Mensen met een hoge score krijgen allerlei (financiële) voordelen en bij een lage score wordt het je bijvoorbeeld lastiger gemaakt een vliegticket te kopen. Isabelle gelooft dat het systeem ervoor kan zorgen dat mensen zich goed gaan gedragen. Lucky brengt daar tegenin dat je je gevoel voor vrijheid kwijtraakt. ‘Het gevaar van een toezichtcultuur, of de motivatie nou goed of slecht is, waarin je continu in de gaten wordt gehouden, is dat het de manier waarop je jezelf ziet beïnvloedt. Het holt op een heel gemene manier je autonomie uit.’

Sandel: ‘Jullie lijken te vergeten dat we nu ook allemaal al een score krijgen. Bijvoorbeeld bij Airbnb, Uber of op Facebook. Dat is niet helemaal met elkaar te vergelijken, vindt Joris. ‘We hebben zelf de vrije keuze om die diensten te gebruiken.’

CONCLUSIE
Algoritmes en big data dringen steeds dieper door in ons leven. Vooral op sociaal en politiek vlak. Maar het gaat er niet om hoe geavanceerd machines kunnen worden, maar of mensen er schade van zouden ondervinden als steeds grotere delen van ons leven en van onze beoordelingen worden overgenomen door kunstmatige intelligentie en algoritmes. Het is een vraagstuk dat vooral onze kijk op de essentie van ons menszijn aangaat.