Waarom we over AI minder enthousiast moeten zijn

Te gast in deze derde aflevering: hoogleraar ethiek Beate Roessler, mediawetenschapper Sidney Vollmer, datajournalist Dimitri Tokmetzis en Denker des Vaderlands Daan Roovers.

"Ik maak me niet zo'n zorgen om wat advertenties kunnen zien - die kun je bovendien vrij gemakkelijk blokkeren," zegt datajournalist Dimitri Tokmetzis. "Ik maak me meer zorgen om wat bijvoorbeeld zorgverzekeraars met deze data doen. Er wordt bijvoorbeeld bepaald wat voor premie je krijgt. Daar ben ik wel alert op."

Zo kan het gebeuren dat een individu een extra risico vormt, waardoor je meer moet betalen. Dat gebeurt volgens de datajournalist met dezelfde soort systemen als op basis waarvan je bepaalde advertenties te zien krijgt. Maar het probleem is, dat je dit niet op de schouders van individuën kunt leggen.

De implicaties voor de gehele samenleving van zulke systemen is groot, volgens filosoof Daan Roovers. "De informatie over mij of jullie afzonderlijk is niet interessant. Die informatie is pas interessant als die informatie gecombineerd wordt en er patronen ontstaan en er dus systematische beïnvloeding kan plaatsvinden." 

Daan Roovers haalt een voorbeeld aan van thuistesten voor een DNA-profiel. Voor een relatief klein bedrag kun je een testkit ontvangen. Die testkit stuur je, nadat je DNA bij jezelf hebt afgenomen, terug naar een Amerikaans bedrijf en dan krijg je een paar weken later de uitslag. Dan weet je waar volgens dat bedrijf jouw voorouders vandaan komen.

Inmiddels is dat bedrijf overgenomen door een grote farmaceut, GlaxoSmithKline, vertelt Roovers. "Dus al die honderdduizenden dataprofielen zijn in handen van een farmaceutisch bedrijf. Het kan me misschien niet uitmaken als mijn eigen profiel daar ligt, maar als daar honderdduizenden profielen liggen moet ik daar nog eens over nadenken. Bijvoorbeeld over de mate van gelijkheid waarmee we behandeld worden, door bijvoorbeeld verzekeringsmaatschappijen. Dat lijkt mij een enorm gevaar," zegt Daan Roovers.

Bovendien staat daar niemand tegen op. De Nederlandse overheid kan niets doen, want het is een Amerikaans bedrijf. Het is bovendien de vrije keuze van een individu, legt Roovers uit.

Datajournalist Tokmetzis kent de gevaren, hij schrijft er immers dagelijks over. "Maar je kan ook niet de hele dag onder de dekens van je bed blijven liggen om je te beschermen," zegt Tokmetzis. 

Het idee dat computers zelf het denkwerk kunnen doen, kunstmatige intelligentie dus, is de nieuwe hype, volgens Dimitri Tokmetzis: "Grote bedrijven als Amazon, Google en Facebook zijn daar ontzettend goed in, doordat ze overal de beste deskundigen opkopen." 

Met die systemen kunnen bedrijven gigantische hoeveelheden data verzamelen en verwerken. Verbanden zijn veel gemakkelijker te ontdekken. Voor YouTube leert zo'n systeem bijvoorbeeld hoe het mensen zo lang mogelijk op het platform kan houden. "Want hoe langer mensen kijken, hoe meer advertenties YouTube kan tonen, en hoe hoger de omzet van het bedrijf," zegt Tokmetzis.

Mediawetenschapper Sidney Vollmer is verbaasd dat volgens hem veel mensen zo lyrisch zijn over kunstmatige intelligentie. "Als het inderdaad zo slim, goed en efficiënt zou zijn, zou YouTube veel beter zijn. Nu is het een vuilnisbak die in de hens staat." Mensen zo lang mogelijk vasthouden blijkt het beste te werken op basis van woede en polarisatie, legt Vollmer uit. 

Tokmetzis vindt het een mooi voorbeeld van wat er mis kan gaan als je de commercie laat manipuleren. Het systeem van YouTube is totaal geoptimaliseerd voor commercie: geld verdienen. "Dat is prima als het gaat over hamsters," zegt Tokmetzis. "Als je van hamsters houdt, kun je je helemaal verliezen in hamsterfilmpjes. Maar het wordt een probleem als het om politieke content gaat."

Toch is Dimitri Tokmetzis niet al te negatief. Hij haalt hoop uit de Europese Unie. "Dat is de enige instantie die genoeg tegenwicht kan bieden aan deze enorme giganten," zegt de datajournalist en historicus. 

Mediawetenschpaper Vollmer voegt daar het personeel van de giganten aan toe. "Niemand wil meer bij Facebook werken," stelt Vollmer. “Iets meer dan 56 procent wil daar weg." Tokmetzis hoort hetzelfde, zegt hij. Vollmer vervolgt: "Het is, naast de EU, de enige grote tegenkracht: mensen die bij techreuzen heel erg nodig zijn die zeggen: ‘Dit is de sigaret van de 21ste eeuw, laat maar zitten.’"

Ethicus Beate Roessler hoopt dat een beweging ontstaat, buiten de politiek, die tegen de techgiganten opstaat. "Je moet meer NGO's hebben," stelt Roessler voor. "Kijk ook naar racisme: als mensen begrijpen wat er aan de hand is, gaan ze wel de straat op. Als er grote, gevaarlijke privacyschendingen komen, zoals met alle zorgdata die nu verzameld worden, hoop ik toch dat we zeggen: wij willen dit niet. Je hebt politieke veranderingen nodig, om structureel iets te veranderen."

Vollmer ziet daar dus, net als Tokmetzis, een taak voor de EU. "Politici in Nederland hebben gewoon niet de tijd en kennis, of het mandaat om daar iets aan te doen."

Benieuwd naar de hele aflevering?