De overheid maakt steeds meer gebruik van algoritmes om processen te automatiseren, zoals het aanvragen van subsidies of het detecteren van fraude. Handig, efficiënt en snel. Maar er zijn ook risico’s. ‘Algoritmes kunnen soms nadelige effecten hebben op mensen’, waarschuwt AI-specialist Anne Schuth. Als engineering manager bij het Rijks ICT Gilde (RIG) maakt hij zich sterk voor verantwoorde inzet van algoritmes door de Rijksoverheid.
Zo ga je als data- en AI-specialist discriminerende algoritmes te lijf
Publicatiedatum 31-10-2024
Terugkerend probleem
De toeslagenaffaire was een harde wake-up call. De schade die discriminerende algoritmes kunnen aanrichten, werd pijnlijk duidelijk. Ook andere overheidsorganisaties hebben laten zien hoe discriminerende algoritmes onbewust in hun processen kunnen sluipen. Deze ervaringen benadrukken de noodzaak van verbetering en bieden waardevolle inzichten om algoritmes eerlijker en transparanter te maken.
‘Werken bij het RIG is werken aan digitale oplossingen voor Nederland’
Vooroordelen opsporen als data- en AI-specialist
Hoe ontstaan algoritmes die discrimineren? ‘Dat heeft meerdere oorzaken,’ legt AI-specialist Anne uit. ‘Als de data waarop een algoritme is getraind vooroordelen bevat, ontstaan problemen. Dan worden personen met bepaalde eigenschappen als risico bestempeld zonder dat ze iets hebben gedaan. Soms worden ook variabelen gebruikt die geen rol zouden moeten spelen in het nemen van beslissingen, zoals iemands migratieachtergrond.’
Initiatieven nemen en staan voor je mening
Op verzoek van de rijksorganisaties zetten de data- en AI-specialisten van het RIG hun expertise in bij het opzetten van nieuwe opdrachten. Bijvoorbeeld om het initiatief te nemen om iets op een andere manier te organiseren of een stevige mening te geven. ‘Dat is heel gebruikelijk bij het RIG. Bijzonder aan mijn huidige opdracht bij de directie Digitale Samenleving is dat we als engineers werken op een beleidsafdeling, we doen het samen. We hebben de input van onze beleidscollega’s hard nodig. Maar wij scrummen en werken in sprints en we zijn vooral gericht op de langere termijn. Terwijl beleidsmakers naast de lange termijnstrategie ook vaak moeten reageren op de waan van de dag, zoals Kamervragen. Het is de kunst die verschillende snelheden op elkaar af te stemmen.’
‘Het afwisselend op kantoor en thuis werken helpt me een goede balans te creëren’
AI-specialist werkt aan verschillende opdrachten
Anne komt uit de commerciële wereld. Hij werkte onder andere bij Spotify, maar verlangde naar meer maatschappelijke impact. De AI-specialist zag dat steeds meer rijksorganisaties werkten met open source software en overstapten naar een DevOps-werkwijze. ‘Dat trok mij over de streep. En het mooie is: bij het RIG werk je aan digitale oplossingen voor heel Nederland. Ik verheug me op alle verschillende opdrachten die ik hier kan doen.’ Bovendien biedt het RIG Anne veel kansen om zichzelf te ontwikkelen. Van trainingen tot congressen. ‘Zo bezocht ik onlangs de ACM Conference on Fairness, Accountability, and Transparency in Rio de Janeiro. Ik heb daar verteld over het project dat ik bij de directie Digitale Samenleving doe.’
Gedreven collega’s
‘Aanvankelijk had ik wel een beetje een stereotype beeld van de Rijksoverheid: stoffig, negen-tot-vijf. Maar het tegendeel is waar. Mijn collega’s zijn allemaal enorm gedreven en werken hard. Gelukkig werken we hybride: het afwisselend op kantoor en thuis werken helpt me een goede balans te creëren tussen reistijd besparen en collega’s ontmoeten. Ik ben blij dat ik de stap gezet hebt en nu werk voor Nederland.’