Dit zijn de succesfactoren voor waardevolle algoritmes

16/11/2020 - Algoritmen hebben impact, daarom worden ze al op veel plekken ingezet. Van het herkennen van bepaalde patronen, analyseren van data, tot automatiseren van besluiten: deze taken kunnen in vrijwel elk domein impact maken. Maar om de waarde van algoritmen te realiseren moet ook rekening gehouden worden met effecten die niet direct bijdragen (of zelfs afbreuk doen) aan die waarde.

Het Responsible AI team van Considerati onderzocht in opdracht van het Ministerie van Economische Zaken en Klimaat hoe ongewenste effecten van algoritmen kunnen worden opgespoord, voorkomen of verzacht. Het hele onderzoek is hier te lezen.

Uit het onderzoek blijkt dat er drie succesfactoren zijn om algoritmen met minimale onvoorziene effecten in te zetten:

Het algoritme wordt ontwikkeld met adequate domeinkennis. Algoritmes zijn waardevol omdat ze bepaalde taken uit handen nemen van mensen. Kennis van het toepassingsgebied is onontbeerlijk om ervoor te zorgen dat het algoritme het gewenste effect heeft, relevante data gebruikt, en met de uitzonderingen en afwijkingen die altijd voorkomen kan omgaan.
Het algoritme is voldoende toegerust om met de complexiteit van toepassingsgebied om te gaan. Een algoritme dat effectief is in de ene context is dat niet automatisch in de andere. Een zelfrijdende auto op een fabrieksterrein opereert in een veel minder complexe omgeving dan de openbare weg. Het is dus niet genoeg om te begrijpen wat een algoritme moet doen, het algoritme moet ook ontworpen zijn dat doel te kunnen bereiken in de specifieke context waar het ingezet wordt.
Het algoritme is zorgvuldig ingepast in de omgeving. Algoritmes staan niet op zichzelf. Ze worden gemaakt om in aanraking te komen met andere systemen (technische maar ook organisatorische). En ze spelen een rol in de leefwereld van mensen die het algoritme inzetten of ermee in aanraking komen. Een algoritme moet dus niet alleen ontwikkeld worden, maar daarna ook worden ingepast in haar omgeving. Want je hebt niks aan een algoritme dat opereert op basis van onbetrouwbare sensoren, waarvan de werking niet begrepen wordt, en ook niet als mensen de uitkomsten niet vertrouwen.

Algoritmes bieden grote kansen om waardevol te zijn voor organisaties en individuen. Maar dat betekent niet dat de ontwikkeling van algoritmes ook vanzelf gaat. In tegendeel, het onderzoek laat zien dat alleen met begrip van de taak, de techniek en de omgeving de waarde van algoritmes groot kan worden. Gelukkig kun je daarvoor zorgen. Hoe eerder je dat doet, hoe makkelijker het is.

Waardevol by design

De succesfactoren spelen namelijk een rol in het hele ontwikkeltraject, van business case en ontwikkeling tot de inzet en evaluatie van de toepassing. Door in elke fase maatregelen te nemen die de succesfactoren vergroten kan de grootste waarde gerealiseerd worden. Het onderzoek identificeert een aantal van deze technische- en organisatorische maatregelen. Bijvoorbeeld het inrichten van governance en monitoring van aspecten van de succesfactoren in het hele ontwikkeltraject. Specifieke maatregelen zijn effectbeoordelingen (impact assessments), (ethische) review boards en het betrekken van belanghebbenden om meer inzicht op de effecten van een toepassing te krijgen. Naast organisatorische maatregelen zijn technische maatregelen nodig die zich richten op de evaluatie van de gebruikte data (bijvoorbeeld fairness assessments) en de uitkomsten van het algoritme (transparantie en uitlegbaarheid).

Hulp bij verantwoorde ontwikkeling

U ziet natuurlijk ook de kansen van de inzet van algoritmen, maar snapt dat de drie genoemde factoren van grote invloed zijn hoe succesvol uw innovatie is. U kent uw business en sector, en ook technisch heeft u een goed team klaar staan. De adviseurs van Considerati Responsible AI, helpen u graag om de laatste succesfactor toe te voegen. Onze expertise met vraagstukken rond de juridische, maatschappelijke, en ethische aspecten van nieuwe technologieën zorgt ervoor dat u de waarde van uw algoritmes kunt realiseren. Dat doen we met u, bij het bepalen van de business case, tijdens de ontwikkeling, en bij de inzet van uw innovatie.