Vanaf 2021 scherpere regels tegen discriminatie door algoritmes
Om te voorkomen dat burgers slachtoffer worden van discriminatie door digitale systemen van de overheid, komen er vanaf volgend jaar meer maatregelen om algoritmes van te voren te toetsen.
Vanaf 2021 kijkt de overheid scherper naar de impact van algoritmes en zijn er duidelijkere richtlijnen waar ze aan moeten voldoen, zei staatssecretaris Raymond Knops (Binnenlandse Zaken) tijdens een debat over digitalisering.
Een algoritme is een stappenplan dat een computer uitvoert. In dit stappenplan zitten vaak een of meerdere keuzemomenten, bijvoorbeeld op basis van kenmerken als leeftijd, geslacht, of jaarlijks salaris. Zo kan een algoritme verschillende keuzes voor verschillende gevallen maken.
Technische Universiteit Eindhoven
Volgens Knops ontwikkelt de Technische Universiteit Eindhoven plannen waarmee programmeurs betere algoritmes kunnen ontwikkelen. Ook gelden volgend jaar de toetsingskaders waarmee de Algemene Rekenkamer algoritmes beoordeelt. Daarin zijn onder andere het bewustzijn op de risico's en de bescherming van de privacy opgenomen.
De Tweede Kamer maakt zich al langer zorgen over de problemen die algoritmes bij de overheid kunnen veroorzaken. Zo maakte de reclassering gebruik van een systeem om recidive te voorspellen, dat burgers mogelijk op grond van ras benadeelde. Ook werd eerder het anti-fraudesysteem SyRi (Systeem Risico Indicatie) stopgezet, omdat niet duidelijk was op welke basis burgers als fraudeur werden aangewezen.
Meldplicht
D66-Kamerlid Kees Verhoeven verzuchtte woensdag nog weinig grip te hebben op de huidige algoritmes die de rijksoverheid gebruikt. Hij wil een meldplicht voor nieuwe algoritmes bij de Autoriteit Persoonsgegevens.
Nevin Özütok (GroenLinks) wilde weten of ook bestaande programma's opnieuw tegen het licht worden gehouden. De staatssecretaris zei "het gevoel van ongemak te delen" en wil verder inzetten op transparantie van de programma's.