'We worden voor dood achtergelaten na het roven van onze data'

Op het Brainwash Weekend: Tomorrow's Economy sprak filosoof Haroon Sheikh met Shoshana Zuboff over dit nieuwe tijdperk van het surveillancekapitalisme. Hier lees je een deel van dat gesprek terug. 

"Het kapitalisme heeft zich door de eeuwen heen ontwikkeld door dingen van buiten de markteconomie er binnen te brengen. Zo heeft het industriële kapitalisme de natuur tot onderdeel van de markt gemaakt, door van natuur eerst grond en daarna vastgoed te maken. Dingen die kunnen worden gekocht en verkocht.

In de 21ste eeuw dachten economen dat het kapitalisme zich niet verder uit zou kunnen breiden, omdat alles wat tot koopwaar kon worden gemaakt inmiddels al was ingelijfd. Tot de komst van Silicon Valley en de internetbedrijven. Met de internetzeepbel in 2000 was het gevoel van nood en crisis hoog, en waren briljante mensen met start-ups wanhopig op zoek naar manieren om met hun kleine bedrijfjes in de kapitalistische markt mee te komen.

Ze hadden koopwaar nodig om winst te kunnen maken. Google ontdekte dat persoonlijke informatie de nieuwe koopwaar kon worden. Onze persoonlijke informatie werd van onze privélevens naar een nieuwe markt gesleept, waar het geproduceerd, verkocht en gekocht kon worden.

Zo ontstond surveillancekapitalisme. Het bevat elementen van traditioneel kapitalisme: privé-eigendom, en de nood aan economische groei, winst en markthandel. De twist is dat deze elementen niet kunnen werken zonder de sociale relaties en technologieën van surveillance. Verborgen methodes van dataverzameling besluipen onze privé-ervaringen, die een bron van ruw materiaal vormen om te vertalen in gedragsdata.

Wat er buitengewoon is aan deze snelle en geheime operatie, is dat de gedragsdata die aan onze privélevens wordt onttrokken, onmiddellijk als privé-eigendom en bedrijfsbezitting wordt geclaimd. Het is ontstellend, omdat het zo goed voor ons verborgen wordt gehouden."

"De kern van mijn werk is het betwisten van de eigendomsclaims die deze bedrijven maken. Persoonlijke informatie is de gestolen schat, surveillance is de vluchtauto, en het volledige economische bouwwerk dat over de hele sector wordt verspreid, berust op een wezenlijk illegitiem fundament."

"Nee. Te vaak richten we onze aandacht op de poppetjes, terwijl we naar de poppenspeler moeten kijken. Surveillancekapitalisme is geen technologie. Data is niet onze vijand, het is onze vriend, maar het moet ons dienen en niet andersom. Het probleem is een economische logica die fundamenteel anti-democratisch is, en het digitale en de data die het produceert gehackt heeft om zijn eigen doelen te bereiken.

Surveillancekapitalisme is de afgelopen twee decennia opgebloeid, en misleid ons met het mantra dat dit nu eenmaal is hoe data, zoekmachines en sociale media werken. Get over it, wordt ons gezegd, en zo worden we geïntimideerd en het zwijgen opgelegd.

We verwachtten dat dit de gouden eeuw van de democratisering van kennis zou worden, maar door het economische gebod van data-extractie creëren techbedrijven sociale ongelijkheid. Er is sprake van een grote concentratie van kennis over mensen in het domein van surveillancekapitalisme. Er is een groeiende kloof tussen wat ik kan weten, en wat er over mij te weten kan worden gekomen.

Hoe meer kennis er over mij is, hoe meer er met mij kan worden gedaan door middel van die kennis. We hebben te maken met een shift naar een informatie-samenleving, waarin de sociale orde gedomineerd wordt door de concentratie van kennis en macht van een handjevol bedrijven, en de immense rijkdom die zij hebben weten te vergaren."

"Kapitalisme in de digitale eeuw had zich op vele manieren kunnen ontwikkelen. Het had de zaak van de democratie verder kunnen brengen, maar in plaats daarvan zien we juist het tegenovergestelde. Waarom is dat het geval? De democratie heeft nog niet ingegrepen om ons en onze samenlevingen te dienen, door dit te bestrijden en onwettig te maken, en door een visie van een democratische digitale eeuw te ontwikkelen.

We moeten ons afvragen of we willen toestaan dat de dominantie over kennis nog langer voortduurt en mag blijven groeien. De instrumentele macht verkrijgt kennis door deze data over ons, en leert hoe het ons gedrag verder kan beïnvloeden. Het verruilt democratisch debat voor zekerheid en het doel is altijd om zekerheid zo veel mogelijk te benaderen.

Je hoort vaak: 'If you're not paying for it, you're the product.' Maar in feite is het nog erger: You're the abandoned carcass. Wij zijn het kaalgeroofde karkas, het vlees en bloed dat achterblijft – onze echte levens – nadat de slagtanden buit zijn gemaakt om als schat te kunnen verkopen. De sporen die wij onbewust achterlaten, oftewel de gedragssignalen die wij buiten ons bewustzijn om afgeven, worden tot data gemaakt.

Van daaruit worden gedragsvoorspellingen gedaan over wat wij in de toekomst zullen doen. Deze bedrijven zijn niet geïnteresseerd in onze levens en onze problemen, maar alleen in het voorspellen van ons gedrag, zodat zij dat aan hun klanten kunnen verkopen. Dat is de reden dat alle data die ze verzamelen niet gebruikt worden om onze levens te verbeteren, om onze problemen op te lossen, maar om voorspellingsproducten te maken.

Dat betekent dat ze zekerheid verkopen. De economische prikkel is om menselijk gedrag zekerder en beter voorspelbaar te maken. Het is dus commercieel lucratief om menselijk gedrag te manipuleren en aan te passen, en de technologie is een gereedschap van macht en controle."

"We begrijpen steeds beter hoe deze machine ingezet wordt om complete bevolkingsgroepen te manipuleren. Bij targeting hebben we te maken met de werking van de machine van de instrumentele macht, en worden subliminale boodschappen, psychologisch micro-targeting en gamification ingezet. Deze targeting op persoonlijk niveau transformeerde later tot politieke manipulatie.

Het Cambridge Analytica schandaal onthulde dit. Daarin werd duidelijk dat de Trump-campagne in 2016 Facebook gebruikte om grote hoeveelheden persoonlijke informatie te verzamelen van tweehonderd miljoen kiesgerechtigde Amerikanen. Ze waren in staat een groep te identificeren die het minst waarschijnlijk voor Trump zou stemmen, met name zwarte Amerikanen.

Zij kregen negatieve beelden en disinformatie over Clinton te zien, en de suggestie dat niet stemmen de manier was om protest aan te tekenen. Onderzoek van PEW liet zien dat de zwarte kiezersopkomst het laagst was in twintig jaar, met een afname van zeven procentpunt.

Hier zien we dat Amerikaanse burgers overtuigd werden om afstand te doen van hun meest heilige democratische recht. Dat deden ze zonder dat er iemand met dreigementen aan de deur kwam, maar door digitale instrumenten. Dat is de macht van dit instrumentalisme: zo krijgen ze ons zover om dingen te doen, zonder dat we ooit weten dat deze macht op ons inwerkt. Dat heeft fundamentele consequenties voor het soort samenleving dat we willen."

"Alle wegen leiden naar de wet. Praatjes van techbedrijven over zogenaamde 'ethische' kunstmatige intelligente of meer respect voor de samenleving zijn niets meer dan retoriek, die het leven van dit zelfregulerende paradigma voortzetten. De tijd van zelfregulering is voorbij.

Wij staan nu aan het begin van de informatiesamenleving. Vergelijk het met het begin van de industriële samenleving, toen werknemers en consumenten nog geen rechten hadden, en er geen wetten waren die mensen beschermden tegen de grote concentratie van de macht in monopolies, kartels en trusts. Aan het begin van de industriële samenleving viel alles in handen van werkgevers door de sterke positie van eigendomsrechten.

Zij beslisten wanneer en onder welke voorwaarden en hoeveel uur mensen moesten werken, en of giftige materialen gebruikt werden voor de productie van voedsel en geneesmiddelen. In de VS werden rechten van werknemers en consumenten pas in de jaren veertig van de twintigste eeuw vastgelegd in de wet. We zetten wettelijke kaders op, en instituties die daar toezicht op hielden. Op die manier werden industrieel kapitalisme en democratie compatibel gemaakt voor de rest van de twintigste eeuw. Dat lukte alleen dankzij de wet.

Dat is precies wat we nu nodig hebben. We hebben het nu over epistemische rechten – dat wil zeggen alles wat met kennis te maken heeft – die geclaimd worden als bedrijfseigendom. We moeten ze terugveroveren voor ons en onze samenlevingen. Wij moeten degenen zijn die bepalen welke data gedeeld wordt en met welk doel, en wat privé moet blijven.

Privacy is een gevolg, geen oorzaak. Het kan alleen bestaan als we het recht om te weten in de wet vastleggen, en daarna het wettelijke kader scheppen dat daar toezicht op houdt. In het huis van de democratie moeten rechten en wetten wonen."