Gemak dient de ambtenaar, niet de inwoner
Een binaire uitkomst (het mag of het mag niet) is lekker makkelijk, maar Sandra Palmen (NSC) verwacht méér van een ambtenaar.
Ze was verantwoordelijk voor de ‘memo Palmen’, waarin ze al in 2017 alarm sloeg over wat het Toeslagenschandaal is gaan heten. Nu zet Sandra Palmen zich namens Nieuw Sociaal Contract (NSC) in de Tweede Kamer in voor een rechtvaardig samenleving. Tijdens een Gemeentelijk i-Café, georganiseerd door de VNG, ging ze op donderdag 27 juni in gesprek met gemeenten en ict-leveranciers over verantwoord gebruik van ict door de overheid. Tot haar verrassing erkennen ook de marktpartijen de knelpunten die ze opwierp.
Zelflerende algoritmes
‘Mijn pleidooi is dat zelflerende algoritmes op dit moment niet goed passen bij de overheidsbesluitvorming,’ zegt Palmen. ‘Maar ik weet niet of het verschil met meer traditionele algoritmes al overal is doorgedrongen.’
BB Zijn zelflerende algoritmes helemaal niet bruikbaar voor de overheid? Ook niet in een voortraject waar vervolgens een mens aan te pas komt?
Dan zou je het zo moeten inrichten dat volstrekt helder is van wat het algoritme doet, wat het selecteert en hoe het zichzelf leert. Maar bij zelflerende algoritmes is dat juist het probleem: je weet niet wat het leert. De wet en onze rechtsbeginselen vereisen wel dat een beschikking goed gemotiveerd is en dat die kenbaar en duidelijk navolgbaar is. Daarmee kom je dus al snel in de knel. Zolang wij dat volledige inzicht niet hebben, kunnen we dergelijke algoritmes niet inzetten.
BB Welke algoritmes zijn niet problematisch?
De traditionele algoritmes lijken wat meer op een intelligente aselecte steekproef. Je kunt bijvoorbeeld zeggen: bij eigen woningen kan het niet zo zijn dat beide partners een volledige renteaftrek hebben. Daar kun je een algoritme op zetten, dat partners moet selecteren die twee keer een hoog bedrag aan rente opvoeren. Dat is uitlegbaar.
Jong Sofinummer
Hoe makkelijk het onbedoeld mis kan gaan, legt ze uit aan de hand van een voorbeeld.
‘Vroeger voerde de Belastingdienst 1 procent-steekproeven uit. Aan de hand daarvan wisten ze bijvoorbeeld dat startende ondernemers vaker fouten maken. Als je die bevinding wil neerslaan in een algoritme, dan zou je kunnen zeggen: let op de aangiften van startende ondernemers. Maar het kenmerk van een startende ondernemer is ook dat hij een jong sofinummer heeft. Als je dat vertaalt in de regel ‘een jong sofinummer is een risico’, dan heb je voordat je het weet alle immigranten als risicofactor in een database zitten. Vandaar dat je de vertaalslag van beleid naar systemen moet koppelen aan de grondslagen in je wet. Daar zouden we veel nauwgezetter in moeten willen acteren.’
Vertaalslag
De mensen die regelingen en beleid omzetten in computercode hebben onevenredig veel macht, stelt Palmen in haar speech. Bij overheden ligt een zware taak om te zorgen dat die vertalingen op rechtsstatelijke wijze worden gemaakt. ‘In de praktijk heb je één afdeling die zich bezighoudt met data-analyses of het bouwen van algoritmes en één afdeling die zich bezighoudt met juridische kwalificatie en ze spreken elkaars taal niet.’
BB Is het überhaupt mogelijk om frauderisicoanalyses te doen met algoritmes zonder te discrimineren?
‘Je bent pas een fraudeur als er een strafrechtelijke veroordeling is geweest. Je mag niet, vooruitlopend op een veroordeling, mensen al op die manier benaderen. Dat is heel kwalijk, vooral als het dan ook gekoppeld wordt aan dingen die niet specifiek de in de grondslag te vinden zijn, zoals jonge sofinummers, of moeilijke achternamen. Dan zit je al snel in de discriminatiehoek.’
Je bent pas een fraudeur als er een strafrechtelijke veroordeling is geweest.
Multidisciplinaire teams
Een deel van de oplossing ligt volgens haar in het vormen van multidisciplinaire teams bij gemeenten. ‘Het gaat er onder andere om dat je je goed realiseert met welke taak je bezig bent. Ik heb bijvoorbeeld meegemaakt dat taxateurs voor vastgoed een Excel-bestand hadden aangelegd van adressen, inclusief namen en sofinummers. Ga je mij nou wijsmaken dat de waarde van een woning afhankelijk is van de naam van de degene die er woont, vroeg ik. Nee, nee, dat was niet zo.’
BB Wat is dan de overweging om dat erin te zetten?
Het is makkelijker. De menselijke neiging tot gemak is toch vaak sterk.
Afdwingbare vorm van ethiek
Tot haar aangename verrassing bleek tijdens het rondetafelgesprek dat niet alleen de gemeenten, maar ook de ict-leveranciers de dilemma’s die ze schetste herkennen. ‘Met name Microsoft begreep heel goed wat ik ter berde bracht. Interessant dat dit ook vanuit de technische hoek zo wordt ervaren. Hoe mooi is het als je die werelden bij elkaar kunt brengen?’ Microsoft werkt al met ethische teams, die zich buigen over vraagstukken vanuit de vraag of het mag en of het wenselijk is.
‘Maar vergeet niet dat de rechtsbeginselen een gestolde en daarmee een afdwingbare vorm van ethiek zijn,’ zegt Palmen. ‘Dat zorgt er voor dat je niet meer zo afhankelijk bent van de persoonlijke moraal van een mens, maar dat je een gedeeld moreel kompas hebt.’
BB Dat is geen taal die een ICT-afdeling dagelijks bezigt.
Daarom heb je elkaar ook nodig om open het gesprek aan te gaan over de taken die je samen uitvoert, ten dienste van het maatschappelijk belang.
Het is makkelijker om je vooral te richten op de uitvoering van de wet, in plaats van het toepassen van het recht, wat veel breder is.
BB Is het realistisch om van onderbezette gemeenten te verwachten dat ze multidisciplinaire teams opzetten om vraagstukken van alle kanten bekijken?
Ik denk dat het al heel moeilijk is voor de rijksoverheid. Ik zie de gemeenten worstelen. Het is makkelijker om je vooral te richten op de uitvoering van je wet, in plaats van het toepassen van het recht, wat veel breder is. De binaire uitkomst (het mag of het mag niet – red.) brengt ook een stukje gemak en eenduidigheid met zich mee. Daardoor kun je er, met alle respect, wat lager opgeleiden op zetten.
BB Of computers.
Ja, of een chatbot. Daarom denk ik dat we de oplossing meer zullen moeten zoeken in het vooringevuld aanbieden van inkomstenafhankelijke regelingen. Daar kan de nieuwe bewindspersonenploeg vol goede moed mee aan de slag.
Geen opmerkingen:
Een reactie posten
Opmerking: Alleen leden van deze blog kunnen een reactie posten.