Wat ga je doen?
De ontwikkelingen op het gebied van AI gaan in sneltreinvaart en kunnen fundamentele impact hebben op de wereld om ons heen. Vanuit jouw expertise ga je binnen de Directie Coördinatie Algoritmes van de AP bijdragen aan onze coördinerende rol om vanuit toezichthoudersperspectief deze ontwikkelingen in goede banen te leiden.
Op het gebied van regelgeving voor algoritmes en AI vinden veel ontwikkelingen plaats. Denk aan de totstandkoming van algoritmekaders op nationaal niveau en de AI-verordening op Europees niveau. Deze regelgeving biedt houvast door te specificeren wat nodig is voor een goede beheersing van algoritmische processen en AI-systemen. Tegelijkertijd moet veel nadere uitwerking nog plaatsvinden, bijvoorbeeld door te concretiseren (i) wat transparante en “explainable” AI nu precies inhoudt, (ii) hoe de performance van een AI-systeem of algoritme objectief gemeten kan worden of (iii) op welke manier – en hoe vaak en op welke moment – bias en fairnesstoetsingen plaats moeten vinden. Onder andere via de uitwerking van standaarden worden hier verdere stappen gezet. Zodra die duidelijkheid is er is, is de volgende uitdaging natuurlijk ook te zorgen dat dit concreet in de praktijk wordt gebracht en dat er toezicht op wordt gehouden. De komende jaren zijn bepalend voor de praktische uitwerking van dit alles: een kritieke fase. Door je technische kennis op deze manier in te zetten werk je naar een situatie waarbij AI de maatschappij ondersteunt in plaats van onder druk zet.
Kortom, het werkveld van toezicht op algoritmes en AI bevindt zich op het snijvlak van de dagelijkse praktijk waarin data scientists en ML-engineers opereren en de praktijk van regulering, beleidsvorming en toezicht. We zoeken voor ons groeiende team iemand die vanuit de praktijkervaring met machine learning in productie de brug kan slaan naar de uitdagingen waaraan wij werken op het gebied van risicomonitoring, beleidsvorming en toezicht.
Als technisch ML-expert draag je met fundamentele kennis bij aan de beheersing van AI en algoritme inzet in Nederland. Je hebt kennis over actuele ontwikkelingen en inzet van AI-systemen, door deze te analyseren identificeer je risico’s en help je daarnaast het team met meer duidelijkheid naar de toekomst te kijken. Verder gebruik je jouw expertise om te beoordelen of verantwoorde oplossingen van hoge kwaliteit en realistisch zijn. Je werkt binnen een zeer interdisciplinair team met daarin andere technisch experts om het werk samen mee op te pakken en te sparren waar nodig.
Praktisch voorzien we dat je aan de volgende activiteiten gaat werken, met veel ruimte voor eigen invulling:
- Vanuit technisch perspectief in kaart brengen en beschrijven wat de nieuwste ontwikkelingen, uitdagingen en risico’s op het gebied van AI en algoritmes zijn.
- Technische onderbouwing van sturing op verantwoorde inzet van AI en algoritmen. Bijvoorbeeld via methoden om (i) discriminatie te detecteren en corrigeren, (ii) uitlegbaarheid van systemen te waarborgen of (iii) experimenten veilig op te zetten.
- Ontwikkeling van technische capaciteiten voor toezicht, waaronder AI-testfaciliteiten.
- Bijdragen aan technische standaarden voor de AI-verordening.
- Bijdragen aan publieksvoorlichting over AI en algoritmes.