Managed hosting door True

Rekenkamer: sluit discriminerende algoritmes uit

 

Ministeries hebben bij de inzet van algoritmen te weinig aandacht voor ethische aspecten zoals profilering. In de praktijk ontbreekt het vaak aan maatregelen om vooroordelen te beperken. Het risico van discriminatie ligt daarom op de loer.

Dit is de voornaamste conclusie die de Algemene Rekenkamer trekt in het rapport ‘Aandacht voor algoritmes’. In het onderzoek worden de kansen, bedreigingen en mythes over algoritmen belicht. Een betere kwaliteitscontrole is nodig. Hanny Kemna, it-auditor en lid van dit toezichthoudend orgaan, constateert dat ambtenaren zich vaak achter computermodellen verschuilen. Ze moeten er beter op letten dat algoritmen niet discrimineren.

Kemna gaat niet specifiek in op de Toeslagenaffaire die leidde tot de val van het kabinet. Wel zegt ze dat bij gebruik van algoritmen een meer kritische blik past op wat daar uitkomt. Dit geldt zeker als die algoritmen tot besluiten leiden die veel impact op burgers en bedrijven hebben. Algoritmes zijn sets van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen.  

Anti-fraudesysteem

"Afgelopen zomer oordeelde de Autoriteit Persoonsgegevens (AP) dat de werkwijze van de Belastingdienst tussen januari 2014 en mei 2018 in strijd met de wet was"

Voorbeeld daarvan is Syri (Systeem Risico Indicatie), een systeem dat de overheid gebruikte om fraude op te sporen met algoritmes. Een jaar geleden werd op last van de Haagse rechtbank de stekker uit dit anti-fraudesysteem gehaald vanwege een te grote inbreuk op het leven van burgers. 

Afgelopen zomer oordeelde de Autoriteit Persoonsgegevens (AP) dat de werkwijze van de Belastingdienst tussen januari 2014 en mei 2018 op bepaalde onderdelen discriminerend en in strijd met de wet was. Het ging daarbij om de verwerking van data door de Afdeling Toeslagen. Vorige week vrijdag bleek na vragen van Computable dat de AP door personeelsgebrek nog geen boete of sanctie heeft opgelegd, terwijl de deadline al lang is verlopen.  

Ook in de Tweede Kamer leven zorgen over discriminatie en vooringenomenheid die bij de inzet van algoritmes op de loer zouden liggen. Die ongerustheid werd afgelopen maandag extra aangewakkerd door Aleid Wolfsen. De AP-voorzitter waarschuwde tijdens een gesprek met Kamerleden herhaaldelijk voor discriminerende algoritmes. Volgens hem biedt de overheid haar burgers op dit punt onvoldoende rechtsbescherming. Hij sprak van een groot gat door het massale gebruik van algoritmes.  

Rekenregels

De Rekenkamer constateert dat de rijksoverheid inderdaad veel algoritmes inzet, maar deze zijn doorgaans vrij simpel. De effecten hiervan op de burgers zijn beperkt, luidt de conclusie. Meestal gaat het om het automatiseren van een administratieve handelingen zoals het versturen van brieven en een ontvangstbevestiging. Volledig zelflerende algoritmes werden niet aangetroffen. De ‘rekenregels’ die de Rekenkamer bekeek, namen zelf geen besluiten. Altijd kwam er nog een ambtenaar aan te pas. Maar als algoritmes straks wel zelflerend en daardoor complexer worden, moeten deze rekenregels veel beter op kwaliteit worden gecontroleerd, aldus de Rekenkamer. 

Daarom ontwikkelde het orgaan een manier om de gebruikte algoritmes te toetsen. Dit toetsingskader bevat ook ethische vragen. De toets test een algoritme op aspecten van sturing en verantwoording, model en data, alsmede de privacy-waarborgen. Ook de kwaliteit van de It General Controls (ITGC) komt aan de orde, zoals wie toegang heeft en hoe met backups wordt omgegaan. Doel van de test is het opsporen van mogelijke zwakheden bij het gebruik van algoritmes. 

Verder stelt de Rekenkamer dat bij algoritmes de burger onvoldoende centraal staat. Burgers moeten het gebruik en de werking van een algoritme kunnen begrijpen. Ook moeten zij weten waar zij terecht kunnen met vragen of bezwaren. Nu is voor hen onduidelijk waar ze moeten aankloppen. Zorgen of twijfels over algoritmes verdienen serieuze aandacht. Hanny Kemna: ‘De bezwaar- en beroepsmogelijkheden moeten scherper.’ 

Dit artikel is afkomstig van Channelweb.nl (https://www.channelweb.nl/artikel/7128200). © Jaarbeurs IT Media.

?

 

Jouw reactie


Je bent niet ingelogd. Je kunt als gast reageren, maar dan wordt je reactie pas zichtbaar na goedkeuring door de redactie. Om je reactie direct geplaatst te krijgen, moet je eerst rechtsboven inloggen of je registreren

Je naam ontbreekt
Je e-mailadres ontbreekt
Je reactie ontbreekt

Stuur door

Stuur dit artikel door

Je naam ontbreekt
Je e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.