Algoritmes worden vaak als iets engs gezien. Is dat terecht?

We hebben de neiging menselijke eigenschappen aan algoritmes te geven. Alleen een algoritme is toch niet meer dan enkel een wiskundige formule die wordt gebruikt om complexe berekeningen te maken? Toch wordt er met veel achterdocht naar algoritmes gekeken.

Om een algoritme te creëren is een bepaalde hoeveelheid aan data nodig. Deze data wordt bijvoorbeeld verzameld wanneer veel mensen een bepaalde app gebruiken. Op het moment van het accepteren van de voorwaarden of Cookies, begint vaak het verzamelen binnen een app of op een webiste. Neem bijvoorbeeld de CoronaMelder app. Veel mensen dachten negatief over deze applicatie, maar was dit wel terecht? Het past volgens Christian Verhagen, data lead bij VKA, in de algehele discussie van overheden die algoritmes en technologie gebruiken.

Collectieve angst

Het boek van George Orwell, 1984, is hier een goed voorbeeld van. Krijgen we door de CoronaMelder app dan direct een surveillancestaat? Hoogstwaarschijnlijk niet! In Nederland is de overheid verplicht om zich te houden aan wet- en regelgeving. Daarbij komt kijken dat privacy een van de belangrijkste rechten is binnen ons land, waardoor de kans dat deze app verkeerd wordt gebruikt klein is. Maar wat gebeurt er precies wanneer men, op basis van een algoritme, een bericht krijgt dat zij té lang in de buurt is geweest van een persoon die (misschien) besmet is? Is het algoritme altijd juist? Maakt een computer dan echt nooit een fout?

Men ziet een algoritme als iets engs. Iets dat ervoor kan zorgen dat wij niet meer een eigen besluit kunnen nemen. Neem bijvoorbeeld de kwestie rondom de belastingdienst en de kinderbijslag. Dit werd gezien als een fout door algoritmes en data. Echter, was dit vooral het verkeerd interpreteren van zachte signalen als hard bewijs. Het is nog steeds een mens die een uiteindelijk besluit maakt. ‘Bij het gebruik van algoritmes moet goed worden nagedacht over het doel ervan en de data die daarvoor nodig is. De werking van het algoritme wordt immers in grote mate bepaald door menselijke ontwerpkeuzes of bias (vooringenomenheid) in de data.’ vertelt Christian Verhagen in Het Parool (2020).

Nalopen van algoritmes

Het is dan ook belangrijk dat er wordt gekeken of een algoritme iets vertelt wat wij, als mens, ook logisch vinden en daarbij als iets redelijks zien. Het is altijd nog aan de mens om op basis van data en algoritmes een keuze te maken. Een algoritme zelf is niet eng, maar we moeten ervoor waken dat deze technologie gemakkelijk een zondebok wordt gemaakt, terwijl wij zelf degene zijn die iets verweten kan worden.

Dutch Data Forum

Christian Verhagen vertelt in een videotalk op het online event Dutch Data Forum meer over de collectieve angst rondom algoritmes en het gebruik ervan door de overheid. Wil jij hier meer over weten? Meld je dan aan voor het 30 daagse online event dat op 9 december van start gaat. Kijk hier on demand exclusieve data video’s wanneer het jou uitkomt en duik in de wereld van data om jouw organisatie futureproof te maken!