Algoritmes worden vaak als iets engs gezien. Is dat terecht?

We hebben de neiging menselijke eigenschappen aan algoritmes te geven. Alleen een algoritme is toch niet meer dan wiskundige formule die wordt gebruikt om complexe berekeningen te maken? Toch wordt met veel achterdocht naar algoritmes gekeken.

Om een algoritme te creëren is een bepaalde hoeveelheid aan data nodig. Deze data wordt bijvoorbeeld verzameld wanneer veel mensen een bepaalde app gebruiken. Op het moment van het accepteren van de voorwaarden, begint vaak het verzamelen. Neem bijvoorbeeld de CoronaMelder app. Veel mensen stonden negatief tegenover deze applicatie, maar was dit wel terecht? Het past volgens Christian Verhagen, data lead bij VKA, in de algehele discussie van overheden die algoritmes en technologie gebruiken.

Collectieve angst

Het boek van George Orwell, 1984, is hier een goed voorbeeld van. Krijgen we door de CoronaMelder app dan direct een surveillancestaat? Natuurlijk niet. In Nederland is de overheid verplicht om zich te houden aan wet- en regelgeving. Daarbij komt kijken dat privacy en mensenrechten een van de belangrijkste rechten zijn, waardoor de kans dat deze app verkeerd wordt gebruikt kleiner is. Maar wat gebeurt er precies wanneer men, op basis van een algoritme, een bericht krijgt dat zij té lang in de buurt is geweest van een persoon die (misschien) besmet is? Dit is dan ook direct het algehele probleem.

Men ziet een algoritme als iets engs. Iets dat ervoor kan zorgen dat wij niet meer een eigen besluit kunnen nemen. Neem bijvoorbeeld de kwestie rondom de belastingdienst en de kinderbijslag. Dit werd gezien als een fout door algoritmes en data. Echter, was dit het verkeerd interpreteren van zachte signalen als hard bewijs. Het is nog steeds een mens die een uiteindelijk besluit maakt. ‘Bij het gebruik van algoritmes moet goed worden nagedacht over het doel ervan en de data die daarvoor nodig is. De werking van het algoritme wordt immers in grote mate bepaald door menselijke ontwerpkeuzes of bias (vooringenomenheid) in de data.’ vertelt Christian Verhagen in Het Parool 2020)

Nalopen van algoritmes

Het is dan ook belangrijk dat er wordt gekeken of een algoritme iets vertelt dat wij ook als redelijk zien. Het is altijd nog aan de mens die op basis van data en een algoritme een keuze maakt. Een algoritme zelf is niet eng, maar we moeten ervoor waken dat deze technologie gemakkelijk een zondebok wordt gemaakt.

Christian Verhagen vertelt in een videotalk op het online event Dutch Data Forum meer over de collectieve angst rondom algoritmes en het gebruik ervan door de overheid. Wil jij hier meer over weten? Meld je dan gratis* aan voor het 30 daagse online event dat op 9 december van start gaat. Kijk on demand exclusieve video’s wanneer het jou uitkomt en duik in de wereld van data om jouw organisatie futureproof te maken!

*Deelname is volledig kosteloos, indien je behoort tot de doelgroep van het event.

Meld je hier direct aan

Bron:

https://www.trouw.nl/nieuws/angst-voor-algoritmes-is-onterecht-discriminerend-algoritme-geeft-slechts-weer-wat-mensen-denken~b3179e7b/
(Trouw 1 juli 2019)

https://www.parool.nl/columns-opinie/bij-de-juiste-keuzes-is-de-app-coronamelder-niet-eng~be96348e/
(Het Parool 3 september 2020)