Inzicht #4: De rol van het algoritme
Het inzichtelijk maken van algoritmen en het behouden van vertrouwen tussen overheid en burger
Algoritmen worden steeds vaker gebruikt, ook door de overheid. Algoritmen automatiseren besluiten, waardoor de mens vaak niet meer nodig is. Hoe maken we algoritmen inzichtelijk, zodat het vertrouwen tussen overheid en burger behouden blijft en de menselijke maat niet verdwijnt?
-
Meer weten over algoritmen en regelgeving?Verder lezen op de website van Pels Rijcken Advocaten
-
Meer weten over algoritmen en ethiek?Verder lezen op de website van TNO
Eén van de grootste uitdagingen van het werken met algoritmen is doorwerking. Als het systeem dat wij hebben ingericht een perspectief van de werkelijkheid hanteert dat bij rationeel nadenken niet het juiste perspectief blijkt te zijn, moeten we dat perspectief uit kunnen schakelen. Maatwerk binnen het systeem.
"Als we niet weten welke black box er door de overheid is toegepast bij het uitvoeren van beleid, dan weten we ook niet of we die overheid in haar handelen kunnen vertrouwen. Onze rechtsstaat is gebouwd op het vertrouwen van burgers. Ook nieuwe technologieën moeten dus transparant blijven."
Cases
-
Computer says no
De film I, Daniel Blake, geeft een indringend beeld van de worsteling van een oudere, arbeidsongeschikte timmerman met de moderne bureaucratie. Terwijl hij nog herstellende is van een zware hartaanval, wordt hij op basis van een standaardtest weer arbeidsgeschikt verklaard. Hij raakt vervolgens vermalen in de digitale ambtelijke molens, omdat hij niet goed om kan gaan met computers. Het verhaal van Daniel Blake is een gedramatiseerde illustratie van een trend die in Nederland al decennia terug in gang is gezet. De media presenteren artificiële intelligentie, algoritmes en geautomatiseerde besluitvorming nogal eens als actuele trend of zelfs als ‘science fiction’. Burgers zijn niet meer afhankelijk van de vooroordelen en humeuren van bureaucraten. Algoritmen beslissen zonder aanzien des persoons en de besluitvorming is voorspelbaar en transparant. Maar deze transformatie roept ook nieuwe vragen op over discretionaire ruimte en over de controle op de bureaucratie. Meer lezen over deze nieuwe vragen?
-
De voorspellende overheid
Data zijn het nieuwe goud, ook in de publieke sector. De overheid realiseert zich dat meer data de effectiviteit en efficiëntie van overheidsbeleid kunnen vergroten. Big data is goed te vergelijken met een zwarte doos, er gaat van alles in en er komt iets uit zonder dat duidelijk is wat het verband tussen in- en uitgang is. Dat is ontoelaatbaar voor voorspellende en beslissende systemen in de publieke sector. Transparantie en verantwoording zijn noodzakelijk in het licht van beginselen van de democratische rechtsstaat, de vraag is alleen hoe. Ronald Leenes inventariseert een aantal factoren die relevant zijn voor deze vraag.
-
Een zoektocht naar instituties
Het begrip ‘big data’ heeft een zekere magie. Het herbergt een belofte van de grote hoeveelheid gegevens die we hebben, waar we bij wijze van spreken op zitten, en die we slechts hoeven te benutten om verbeteringen aan te brengen in diverse aspecten van ons leven. Toch klinken ook waarschuwingen over de gevaren van big data, veelal over privacy. Haiko van der Voort en Joep Crompvoets gaan nader in op een aantal essentiële begrippen rond big data en op de relevantie van de vraag naar instituties.