Het is tijd om van onze techno-angst af te komen

Stikker - te gast in de vijfde aflevering van Het Filosofisch Kwintet – stelt dat de mystificatie van AI verhult dat private bedrijven met enorme hoeveelheden data aan de haal gaan. Hoog tijd dus, meent ze, dat we ons allemaal engageren: “Het is ongebruikelijk om in culturele kringen te verkondigen dat je niet belezen bent, maar het is wel gebruikelijk om te zeggen: ik weet niets van technologie. Dat zou echt niet meer mogen.”

"Het voedt wantrouwen in de samenleving. Om te beginnen met desinformatie. De gratis versies van ChatGPT fabuleren erop los, inclusief bronmateriaal. Het komt aanzetten met professoren of politici die helemaal niet bestaan. Ik heb ChatGPT ook weleens om mijn cv gevraagd: wie is Marleen Stikker? Dan beweert het van alles over mij wat niet klopt.

Kunstmatige intelligentie is een set van instructies, net als een recept. Je zegt: zet het in deze toon, neem dit en dit mee. En als je aan die instructies iets verandert, zal het je iets anders vertellen. Dat betekent dat er ook geen neutrale instructies zijn, want er is altijd iemand de opdrachtgever. Als je als opdracht winstmaximalisatie geeft, doet het dat. Als je het vraagt om te zorgen voor desinformatie, doet het dat. Het heeft geen bewustzijn, geen geweten. Wij wel, omdat we biologische wezens zijn.

Dat is het fundamentele vraagstuk. AI is een set van data die interessante resultaten op kan leveren, maar net zo goed allerlei nonsens voort kan brengen. En voor die nonsens zijn er geen consequenties. Dat is waarom mensen zich ook klote kunnen voelen wanneer ze met een computer hebben gecommuniceerd. Het heeft geen gevoel, geen verdriet, geen schuld. Voor die machine staat er niets op het spel. En daar heb jij dan je hele ziel en zaligheid mee gedeeld."

"AI heeft een specifieke toepassing, in een specifiek domein. Of het nou een spelletje schaak of een potje Go is. Daarbij kun je overtroefd worden door een computer die zich heeft toegelegd op die ene taak, en zich heeft gevoed met alle schaakspelletjes ooit. Maar het blijft statistiek. Je moet je afvragen: wat is intelligentie?

Je zou kunnen zeggen dat statistiek en deep learning een vorm van intelligentie is, maar die vorm is zeker niet superieur aan die van mensen. AI die de mens in alles overstijgt bestaat niet en zal ook nooit bestaan. Dat er toch met die suggestie wordt gespeeld, is puur economisch eigenbelang. Er is een beweging die artificiële intelligentie mystificeert door er menselijke aspecten aan toe te schrijven. Alsof het denkt, redeneert en voelt.

Ja, artificiële intelligentie levert mooie taal op en is leesbaar. Het lijkt alsof het gevoelens beschrijft. Maar Elon Musk – en met hem vele anderen die met AI werken, hebben een strategie. Door het te mystificeren denken mensen: het is een soort kracht, alsof het door God zelf naar de mens gezonden is.  Door mensen bang te maken, hoop je dat ze zelf geen vraagtekens gaan zetten. Want wat door die mystificatie wordt bedekt, zijn simpele vraagstukken: van wie is het? Waarom geven we deze partijen zoveel macht? En waarom eigent een private partij zich onze data toe?"

"Ja. Het internet als zodanig is een waanzinnige doorbraak geweest. Na de boekdrukkunst heeft het gezorgd voor een gigantische verbetering wat betreft het kunnen delen van informatie. In hoe mensen hun verhaal kunnen vertellen, hoe je kennis kunt vergaren, hoe mensen met elkaar kunnen communiceren. Maar het heeft ook nieuwe machtsconstellaties tot stand gebracht. Alles wat we ooit hebben gecreëerd en online hebben gezet en al onze persoonlijke data zit nu in de databases van Big Tech-bedrijven.

Hebben wij daar ooit toestemming voor gegeven? We hadden het kunnen voorkomen als we op tijd hadden geïnvesteerd in een publiek digitaal domein, met duidelijke regels over wat wel en niet door marktpartijen mag worden gedaan met data. Nu rennen we achter de ontwikkelingen aan. AI wordt gevoed door de enorme hoeveelheden data die onrechtmatig is verkregen. Ook content van ons onderzoeksinstituut, Waag.org, wordt gebruikt.

Vinden we het logisch dat alles wat de mensheid ooit heeft gedigitaliseerd wordt opgeslorpt door een aantal bedrijven? Die vervolgens definiëren wat ermee kan gebeuren? Inclusief alles wat intellectueel eigendom is? Hebben kunstenaars toestemming gegeven voor het opnemen van hun kunst in datasets? Ze hebben die beelden nooit verstrekt met het idee dat het door een derde partij voor AI gebruikt zou worden. Dat is absurd. Waarom laten we dat toe? Waarom mogen ze er onbeperkt geld mee verdienen? En neem taal, dat is een ‘common good’. Je kunt geen privaat eigendom hebben over de talen in de wereld. Is het dan wel zo logisch dat private partijen, die ook nog eens geen belasting betalen, zich die taal toe-eigenen?"

"Een groot deel van de mensen denkt nog dat het nu eenmaal zo is. Dat kunstmatige intelligentie niet te reguleren is. Maar dat kan wel. Over wetten en regels wordt door tech-bro’s gezegd: 'Jullie snappen het niet, jullie zijn bang voor de toekomst.' Het ronkende narratief is steeds hetzelfde: jij hoeft het niet te snappen, jij mag gewoon gebruikmaken van deze fantastische oplossing. Maar je kunt je afvragen of problemen niet eenvoudiger op te lossen zijn door er juist geen technologie tegenaan te gooien.

Kijk naar de ecologische voetafdruk van AI. Hoeveel energie het kost. Hoeveel stikstof en uitstoot er is om AI te trainen, om die machines te laten ronken. We hebben een te grote veestapel, maar ook een te grote datastapel. De ecologische footprint van technologie, inclusief het winnen van grondstoffen zoals coltan en goud, dat hoort allemaal bij het probleem."

"Vanuit onze democratische rechtsstaat, publieke waarden en publiek eigenaarschap kunnen we regels opleggen aan algoritmen, data en AI. Bijvoorbeeld door een verbod te leggen op het toe-eigenen van content via het internet. Door technologie vanuit publieke waarden te ontwikkelen. Het beteugelen van bedrijven, betekent niet dat de overheid het dan moet gaan doen. Vroeger hadden we het maatschappelijk middenveld, waarin veel dingen coöperatief werden georganiseerd. Dat is dus niet de staat, en ook niet de markt.

Die andere weg wordt ook wel ‘commons’ genoemd. Commons zijn gedeelde resources. Een belangrijk deel van het internet draait al op commons-technologie. Linux, het systeem voor internetservers, is bijvoorbeeld open source. Moeten we datzelfde niet ook doen voor data en cultuurgoed? Een publiek digitaal domein waarin data en content wordt beheerd als een ‘commons’? Waar data niet als handelswaar wordt gezien. Niet alles is transactioneel. We verkopen ook onze nieren niet.

We hebben zoiets vastgesteld als de integriteit van het lichaam, maar we moeten ook kijken naar de integriteit van de persoon. Data over waar ik ben, wat ik lees en met wie ik communiceer hoort geen handel te zijn. Doordat we het toestaan dat deze data geoogst worden, ontstaat ook een grote disbalans in macht tussen individu eten opzichte van bedrijven en samenleving ten opzichte van de overheid. Neem het toeslagenschandaal. De overheid heeft de macht om de algoritmes te bepalen waarmee men fraude beoogde op te sporen. Maar de slachtoffers hebben geen data of algoritmes om analyses uit te voeren. Ze hebben geen toegang tot de data die de belastingdienst heeft.

Er is geen open algoritme, waarmee ze kunnen inzien hoe ze getypecast zijn, of welke data met elkaar verbonden zijn. Als er zo’n machtsdisbalans is tussen de samenleving en de overheid, kan je niet spreken van een democratie. Algoritmes zouden per definitie open moeten zijn. Je moet kunnen analyseren hoe iets tot stand is gekomen. Je zou ook kunnen besluiten dat algoritmen en AI niet mogen worden ingezet bij besluitvorming over personen en groepen.

De Autoriteit Persoonsgegevens probeert met de algoritmetoezichthouder nu vat te krijgen op de ontwikkelingen. Het zijn eerste stappen in de goede richting, maar het houdt geen maat met de achterstand die er in de samenleving is. De overheid investeert ruim twee miljard in een programma Werken aan Uitvoer, naar aanleiding van de toeslagenaffaire. Eenzelfde bedrag zou in de samenleving moeten worden geïnvesteerd om de machtsdisbalans te corrigeren."

"Het probleem begint al in het onderwijs. Je wordt meteen opgesplitst in alfa of bèta. Ik was met mijn dochter naar een voorlichting voor informatica. Ze heeft mij moeten vastpinnen op mijn stoel, omdat ik bijna ontplofte. Er werd beweerd dat je voor informatica goed moet zijn in wiskunde, scheikunde en natuurkunde. Onzin! Ik zie het dagelijks bij Waag. Wij zijn een technologische speelplaats met biotechnologie, digitale fabricatie en robotica. Mensen die er geen enkele achtergrond in hebben, zijn binnen twee, drie dagen van hun technologie-angst af. En snappen de principes. Niet dat iedereen direct een expert is, natuurlijk, maar je ontwikkelt competenties en een gezamenlijke bron van kennis.

Je moet jezelf dus niet zien als buitenstaander of slachtoffer, maar zelf deelnemen aan het domein van technologie. Mensen die nu technologieangst hebben, moeten daar iets aan doen. Het is ongebruikelijk om in culturele kringen te verkondingen dat je niet belezen bent, maar het is wel gebruikelijk om te zeggen: ik weet niets van technologie. Ongeletterd zijn vinden we erg, maar ‘ongecijferd’ zijn is acceptabel. Dat zou echt niet meer mogen. Je moet je ertoe verhouden, je betrokken voelen, geïnformeerd zijn.

We hebben op Waag een programma rondom kwantumfysica, ook zo'n gebied waarvan mensen snel zeggen, ik snap het niet. Maar je kunt het prima begrijpen, als je wat moeite doet. Wat we nodig hebben, zijn mensen die technologisch onderlegd zijn. Zodat ze kunnen meesturen en formuleren wat we wel en niet willen. Ik hoor te vaak intelligente mensen domme dingen zeggen, alleen maar omdat ze zich niet echt engageren."

De snelheid en schaal van kunstmatige intelligentie opent ongekende mogelijkheden. Hoe fijn is dat? Of zijn we bezig een legertje monsters van Frankenstein te creëren, die de democratie en de rechtstaat bedreigen? In de vijfde aflevering van Het Filosofisch Kwintet gaat het over het Algemeen Belang en de rol van kunstmatige intelligentie. Presentator Clairy Polak Marleen Stikker (directeur van Waag en oprichter van de Digitale stad), Bart van der Sloot (techniekfilosoof in Tilburg), Tjark Tjin-A-Tsoi (CEO van TNO) en Reijer Passchier (hoogleraar Digitalisering en de democratische rechtstaat).