Een toekomst zonder datahonger

Zie hier het filmverslag:
https://vimeo.com/645980186

“Ik mis een vegetarische burger van de datawereld…” (Roos Groothuizen)

Onlangs vond het debat plaats van RUW en VERSE ALGORITMES onder de naam ‘Een toekomst zonder datahonger’. Tijdens het debat zochten we samen met Europarlementariër (GroenLinks) Kim van Sparrentak (1989), filosoof en schrijver Hans Schnitzler (1968) en mediakunstenaar Roos Groothuizen (1992) naar antwoorden op de vragen; Hoe is het internet ingericht? Wat betekent dat voor ons als gebruiker? En op welke manier kunnen wij internet een ander gezicht geven?

Filosoof en schrijver, Hans Schnitzler

Ons geloof in tech
Hans Schnitzler houdt zich als filosoof en schrijver al jaren bezig met de ontwikkelingen op het gebied van de technologie. Zijn essays en columns verschenen onder meer in de Volkskrant, en Hard Gras. Hij is columnist voor journalistiek platform Follow the Money en docent aan de Bildung Academie. Na zijn debuut Het digitale proletariaat (2015) verscheen in 2017 zijn Kleine filosofie van de digitale onthouding. In oktober 2021 is zijn nieuwste boek Wij nihilisten, een zoektocht naar de geest van digitalisering, uitgebracht. Hierin stelt Hans zich de vraag waarom wij ons steeds laten verleiden door de digitale platforms, terwijl we inmiddels de nadelen kennen. “Wellicht vinden we onze eigen filterbubbel wel fijn”, aldus Hans. “Het is wel prettig misschien dat we het idee krijgen dat we het niet helemaal alleen moeten doen.” Deze gedachte sluit aan bij de filosofie van Nietzsche, God is dood.” Nietzsche bedoelt met deze uitspraak dat God vervangen is door een andere entiteit, namelijk wetenschap en door een ander geloof, de technologie.

Europarlementariër en lid van de Commissie Kunstmatige Intelligentie, Kim van Sparrentak

Nieuwe datawet heeft prioriteit
Als Europarlementariër en als lid van de Commissie Kunstmatige Intelligentie, houdt Kim van Sparrentak zich bezig met wetgeving rondom het gebruik van data en de ontwikkelingen op het gebied van technologie. Als activist begon zij jaren geleden met een actie voor de Albert Heijn. Daar vroeg zij mensen om van Bonuskaart te ruilen zodat alle data in de war zou raken. Sindsdien is zij geïnteresseerd in het onderwerp. “Regelgeving maken op het gebied van technologie is op dit moment één van de twee prioriteiten binnen het Europees Parlement”, aldus van Sparrentak. “We moeten de puinhoop van de afgelopen tien jaar opruimen. Op dit moment zijn er drie grote problemen. Ten eerste bepalen een paar grote bedrijven zoals Facebook en Youtube wat wij zien. En deze bedrijven hebben maar één doel en dat is winst maken. In sommige landen staat Facebook zelfs standaard geïnstalleerd op je telefoon. Het tweede probleem is dat we allemaal gecategoriseerd worden door bedrijven. We worden ingedeeld in hokjes. Dat doen niet alleen bedrijven, maar ook de overheid. Het laatste probleem is dat er op internet patronen geïnstalleerd worden die ons verslaafd maken en ons zo lang mogelijk online houden. Verhalen worden steeds extremer net zoals het publieke debat. Hierdoor worden discussies steeds minder inhoudelijk. Extreem rechts heeft het hoogst natuurlijke bereik op internet door hun ongenuanceerde boodschappen en dat maakt politiek zeer eenzijdig op social media.”

Het internet als venster
“En dat is zorgelijk”, reageert Hans Schnitzler. “Het internet is het venster waardoor we naar buiten kijken en als we dat venster niet repareren, kunnen we problematieken zoals de klimaatverandering niet aanpakken. Wij als burger verhouden ons wel degelijk tot technologie. Het is daarom ook onze taak om goed te kijken van welke platforms we gebruik maken.

Durven, doen-of-je-data-spel van Roos Groothuizen
” Roos Groothuizen is multimediakunstenaar en neemt ons mee in een werk dat zij maakte met slimme algoritmes, algoritmes die zelflerend zijn. Zij heeft een band samengesteld van enkel instrumenten en een algoritme dat zichzelf aanleert om nummers te schrijven. Een band zonder muzikanten. Bij een algoritme voer je als mens stappen in die je wilt dat het algoritme zet, om tot een resultaat te komen. Bij een slim algoritme geef je aan dat deze het zelf moet aanleren aan de hand van data die je invoert. “Daar kun je heel toffe dingen mee doen zoals het maken van muziek”, aldus Roos Groothuizen. “Maar je kunt je misschien wel voorstellen dat het ook eng kan worden als je het hebt over privézaken zoals toeslagen of belastingaangiften.” “Dit noem je ook wel Kunstmatige Intelligentie” gaat Kim van Sparrentak verder. “Machine Learning is een voorbeeld van Kunstmatige Intelligentie. Aan de hand van data gaat zo’n slim algoritme zoeken naar een profiel. Techneuten proberen op deze manier het proces van computers te optimaliseren. Maar het idee dat computers slimmer zijn dan wij, dat is er nog lang niet. En de data die wordt ingevoerd en wordt uitgelezen blijft nog steeds mensenwerk. Dat is ook een belangrijk onderdeel van de nieuwe wetgeving overigens. Wij stellen ons de vraag, moet er niet altijd een menselijke maat tussen het invoeren en uitlezen van gegevens blijven bestaan? Of is er uiteindelijk niemand meer verantwoordelijk? ”

Mediakunstenaar Roos Groothuizen

Mogelijke oplossingen
Wie waar verantwoordelijk voor is, blijkt een interessant gegeven. Roos Groothuizen geeft aan dat 9 van de 10 mensen gebruik maken van Whatsapp en/ of Facebook. “En iedereen is zich bewust dat hun data gebruikt wordt”, aldus Roos. “En toch keren we ons niet tegen deze diensten. Als je kijkt naar de klimaatcrisis dan willen mensen wel in actie komen. Ik mis eigenlijk nog de vegetarische burger van de datawereld. We hebben genoeg alternatieven die beter zijn voor ons. Denk bijvoorbeeld aan de appservice Signal. Maar om één of andere reden is de nood niet hoog genoeg om over te stappen op zo’n service.” Kim vult aan: “Dat is het probleem van de huidige platforms. Ze staan niet in verbinding met elkaar. Als je een service weghaalt, mis je alles. Maar als platformen met elkaar communiceren zit je minder vast aan één app. Ook heb je zelf meer macht over social media dan je misschien denkt. Als je iets ziet wat niet kan, bijvoorbeeld een racistische opmerking, dan kun je aan het platform vragen om deze opmerking eraf te halen. Als dat niet gebeurt, kun je uitleg vragen waarom niet. Een ander voorstel binnen de nieuwe wetgeving is om een verbod te leggen op het delen van persoonlijke data met bedrijven. Dat geldt ook voor gezichtsherkenning. Slimme camera’s kunnen nu gezichten herkennen in bijvoorbeeld het geval van een terroristische aanslag. Wij willen dat verbieden. De kans dat de gezichtsherkenning werkt door vooroordelen (generalisatie) is te groot. Uit onderzoek blijkt namelijk dat de gezichtsherkenning het beste werkt op blanke mannen en het slechtst op zwarte vrouwen.”

Waarden van ons menszijn
Hans sluit de avond af met een overweging. “Technologieën zijn nooit neutraal”, zo begint hij. “Er zitten altijd waarden in, die wij mensen invoeren. Wij zouden dus meer moeten nadenken over welke waarden wij als samenleving belangrijk vinden. Op die manier kun je echt op zoek gaan op welke manier technologie ons kan helpen en waar technologie ons ondermijnt. Ik hoop dat als we zover zijn om echte waarden toe te voegen aan data, dat we meer menselijkheid terugbrengen in de technologie van vandaag. Echt aandacht hebben daarvoor is daarin een onmisbaar begrip.”