Bendert Zevenbergen: Governing Algorithms – Begrip, Ethiek, en Regulering

Terug naar articles

24 maart, 2016

Er bestaat een zekere fictie dat technologie per definitie waardeneutraal of a-politiek is. Een voorbeeld dat vaak wordt gebruikt om dit te illustreren is een mes: een mes kan gebruikt worden om groente mee te snijden, maar het kan ook worden gebruikt om mensen te verwonden. Er zit een zekere kern van waarheid in de gedachte dat de moraliteit van technologie afhankelijk is van het doel waarvoor het wordt gebruikt, maar dit gaat minder op voor internettechnolgie. Apps, platformen en worden ontwikkeld door mensen die de logica vastleggen waarbinnen anderen kunnen werken, waarbij concepten zoals afstand en tot op zekere hoogte zelfs tijd vervagen. Ontwikkelaars zijn vrij de beslissingen te nemen over hoe de technologie functioneert, welke technische regels gelden voor informatiestromen, en wat de voorzienbare gevolgen zijn voor de gebruikers en de maatschappij als geheel. Dit zijn de politieke en waardeoordelen die worden behandeld in de speciale uitgave van Science, Technology, & Human Values, getiteld “Governing Algorithms”.

Malte Ziewitz start de analyse met de vraag wat een algoritme precies is, en hoe algoritmes hun invloed uitoefenen. Mike Ananny beoogt hier een antwoord op te geven, waarbij hij focust op “networked information algorithms” (NIAs). Hij definieert NIAs ruim als “een verzameling van code, normen en gebruiken met het vermogen om relaties tussen mensen en data te creëren, aan te tonen en te onderhouden, door middel van vrijwel onwaarneembare, semiautonome handelingen”. Kort gezegd: algoritmes zijn niet alleen technologisch, ze zijn sociaaltechnologisch. Een morele beoordeling van algoritmes moet zich daarom richten op de wisselwerking tussen mensen en technologie, in plaats van te proberen om de achterliggende waardeoordelen in de technologie te achterhalen.

Door middel van een aantal voorbeelden laat Kate Crawford treffend zien hoe algoritmes autoriteit creëren en macht kunnen verschuiven of juist versterken, waardoor algoritmes fundamenteel politiek zijn – een technologische afspiegeling van een bepaald wereldbeeld. Zij laat, in overeenstemming met Annany, zien dat het belangrijkste object voor bestudering en regulering niet de technologie of het apparaat zelf is, maar juist de machtsstructuren die zij kunnen mobiliseren. Zij pleit ervoor dat ontwikkelaars van algoritmes hun werk moeten beoordelen op basis van ‘agonistisch pluralisme’. Ontwikkelaars moeten rekening houden met de omgeving en de maatschappij waarin hun producten gaan functioneren, in plaats van enkel te focussen op pure innovatie.

Tal Zarsky onderzoekt de mogelijkheden tot regulering wanneer algoritmes leiden tot onrechtvaardigheid of ongelijkheid. Commentatoren roepen vaak om verplichte transparantie van de ‘black box’, zoals een algoritme vaak wordt gezien. Hij voorziet echter dat transparantie weer tot andere ongelijkheid kan leiden, bijvoorbeeld doordat special interests of technisch onderlegde personen het systeem kunnen beïnvloeden, terwijl anderen de tijd niet nemen of de expertise niet hebben om het transparante algoritme te doorgronden. Zijn economische analyse laat zien dat sommige nadelige gevolgen kunnen worden ondervangen door middel van regulering, maar dat daardoor weer andere nadelen ontstaan of blijven bestaan in andere eigenschappen van het algoritme.

Bruno Latour stelt dat de bestudering van sociaaltechnologische systemen verder moet gaan dan de enkele feiten, en juist in moet gaan op de achterliggende belangen (. Door middel van duurzame samenwerking kunnen de wetgevende en uitvoerende macht leren begrijpen hoe het internet werkt, en –nog belangrijker- wat het effect daarvan is.

bendert_zevenbergen_considerati_2
Bendert Zevenbergen

Academic Liaison at Princeton University

Gerelateerde blogs

Dinsdag 4 november: Bart Schermer te gast bij TekTok late night

Op dinsdag 4 november aanstaande is Bart Schermer, partner bij Considerati, te gast bij TekTok late...

Lees meer

Weinig bescherming persoonsgegevens minderjarigen op apps en websites

Uit een internationale scan van apps en websites voor kinderen is gebleken dat er in veel gevallen...

Lees meer

Op de hoogte blijven?

Schrijf je dan in voor onze nieuwsbrief. Zie ons privacy statement.