Een nieuwe regering en de regulering van algoritmen

04/05/'21- Overheidsorganisaties hebben een eigen rol te vervullen in de voorlichting over het belang van algoritmen. Zo zijn algoritmen tegenwoordig onlosmakelijk verbonden met ons dagelijks leven en worden ze steeds belangrijker in de digitale transformatie van de samenleving. Van de Toeslagenaffaire tot discriminerende chatbots: regelmatig verschijnen in het nieuws berichten van hoe het fout kan gaan met algoritmen en artificiële intelligentie (AI). Wat betekent dit voor het beeld van de politiek op algoritmen? En met welke regels kunnen we bij een nieuw te vormen regering rekening houden?

Het gebruik van algoritmen neemt toe door de steeds vergaande digitalisering en zal met de jaren blijven groeien. Algoritmen worden steeds complexer en zelflerend. Een uitvoerder staat daardoor steeds verder op afstand van de besluiten die het systeem neemt. Ook de Algemene Rekenkamer stelde in januari van dit jaar in haar rapport ‘Aandacht voor algoritmes’ dat het belangrijk is om meer eisen te stellen en grip te krijgen op de kwaliteit van algoritmen.

De stelling die de Algemene Rekenkamer neemt is niet uniek: er is namelijk een toenemende bewustwording bij overheidsorganisaties over het creëren van aandacht aan algoritmen. Maar wat betekent dit voor de praktijk?  Zal de komende regering zich richten op een actievere regulatie van algoritmen? En zo ja, welke eisen gelden hier dan voor?

Algoritmen en AI in verkiezingsprogramma’s

De verkennende formatiegesprekken zijn van start gegaan. En hoewel we waarschijnlijk nog even moeten wachten op een coalitie, bespreken politieke partijen de komende tijd hoe zij de komende vier jaar vorm willen geven aan Nederland. De verkiezingsprogramma’s lichten een tipje van de sluier op over hoe de partijen over algoritmen en AI denken. Dit hebben we hier voor het gemak even op een rijtje gezet.

Algoritmen_en_AI_Considerati

Het is belangrijk om te beseffen dat de partijen die de regering gaan vormen, ook gaan bepalen hoe we in Nederland om moeten gaan met de ontwikkeling en regulering van algoritmen en AI. Wat weten we tot nu toe?

Inzet van algoritmen in de juiste banen leiden

Opmerkelijk is dat de meeste partijen het vooral hebben over ‘digitalisering’, ook als ze praten over algoritmen en AI. De precieze definitie is echter nog onduidelijk. Toch zien we dat alle partijen in 2021 meer aandacht besteden aan de thema’s algoritmen en digitalisering van de samenleving dan tijdens de vorige verkiezingen. Waar moeten we denken bij de termen ‘algoritmen en digitalisering’?

Bijvoorbeeld dat veel bedrijfsprocessen op dit moment gebruik maken van algoritmen of deze aan het ontwikkelen zijn. Wie e-mailnieuwsbrieven personaliseert of klantgegevens uit een loyalty-programma gebruikt om gerichte aanbiedingen te doen, werkt vaak al met algoritmen. Ook bedrijven die automatisch CV’s laat scannen door middel van een algoritmen vallen hieronder. Het is daarom de vraag in hoeverre toekomstige wetten algemeen of heel specifiek worden als het gaat om de regulering van algoritmen en digitalisering.

De politiek gaat de komende jaren ongetwijfeld meer aandacht besteden aan hoe de overheid en het bedrijfsleven de ontwikkeling en inzet van die algoritmen in de juiste banen kunnen leiden. Zo lezen we bijvoorbeeld dat de PvdA, wil dat de overheid gebruikmaakt van open algoritmes. D66 wenst de aanstelling van een toezichthouder op algoritmen. Ook vragen over AI en ethiek zullen aan de orde komen.

Op woensdag 21 april publiceerde de Europese Commissie (EC) haar voorstel voor AI-regulering. De regulering kan een grote impact hebben op gebruikers en ontwikkelaars van ‘hoog-risico’ AI-systemen. Het zal nog even duren voordat dit wetgeving gaat worden, maar deze regels leggen zowel de ontwikkeling als het gebruik van AI aan banden.

Blogserie: toekomstige regulering van algoritmen in beeld

Om een beter beeld te krijgen van de (toekomstige) regels rondom het gebruik en de ontwikkeling van algoritmen, publiceren we in aanloop naar het regeerakkoord de komende maanden een blogserie. Daarin behandelen we de volgende vragen:

  • Hoe kijken de grootste politieke partijen naar de regulering van algoritmen in hun verkiezingsprogramma?
  • Wat gaat er fout bij algoritmen, waardoor de politiek dit wil reguleren?
  • Wat kunnen organisaties zelf doen om fouten en schade bij de inzet van algoritmen te voorkomen?
  • Welke verantwoordelijkheden krijgen ontwikkelaars en inzetters van AI-systemen op basis van de voorgestelde AI-verordening?

Masterclass Data science en AI 

In samenwerking met de data science experts van Cmotions organiseert Considerati de cursus ‘data science en AI voor (privacy) professionals’. Schrijf u in en leer meer over de AVG-wetgeving, data science, machine learning en algoritmische besluitvorming.

Masterclass AI en AVG privacy professional >

Masterclass AI en AVG data scientist >

Ka Wing Falkena Legal Consultant

Meer weten?

Zet uw organisatie algoritmen in of denkt u erover na om dit te doen? Wilt u weten hoe u deze compliant en ethisch verantwoord ontwikkelt en inzet? Wit u weten welke wet- en regelgeving nu speelt en gaat spelen? Neem dan contact met ons op via onderstaand formulier.