
Hoe het ratingsysteem de menselijke autonomie ontwricht
Individuele keuzes hangen vaak af van eerder gegeven scores aan product of dienst
Door Hannah Tomasowa
In een aflevering van de televisieserie Black Mirror wordt een samenleving geschetst waarin de jonge vrouw Lacie obsessief bezig is met haar mobiele telefoon. Hierop houdt ze namelijk een digitaal ratingsysteem bij. Voor iedere interactie met anderen kan zij punten geven. Maar ook Lacie wordt beoordeeld. Betere interacties leiden tot een hogere waardering, terwijl slechte interacties leiden tot een lagere score. Wie weinig punten scoort, heeft minder kansen, privileges en mogelijkheden in de maatschappij. In hoeverre heeft een dergelijk systeem invloed op de menselijke autonomie?
De aflevering Nosedive van de televisieserie Black Mirror lijkt een vrij dystopisch toekomstbeeld te schetsen. Maar het ratingsysteem is eigenlijk geen toekomstbeeld meer: het bestaat al. De vraag is of het ratingsysteem inderdaad zo dystopisch is, of dat mensen zich juist beter gedragen wanneer sprake is van een ratingsysteem. En als een ratingsysteem bepaalt hoe iemand zich als individu zal gedragen, in hoeverre heeft het dan eigenlijk invloed op de menselijke autonomie?
Verder lezen? Deze casus gaat door in ons boek ‘Smart & Leefbaar’, dat hier (gratis) te bestellen is.
Wilt u in 1 dag alles over data, ontwerp, beleid en ethiek? Kom dan woensdag 26 juni 2019 naar het seminar ‘Smart & Leefbaar’ in Amersfoort. Klik hier voor meer informatie en aanmelden.