Inzicht #4: De rol van het algoritme

Het inzichtelijk maken van algoritmen en het behouden van vertrouwen tussen overheid en burger

Algoritmen worden steeds vaker gebruikt, ook door de overheid. Algoritmen automatiseren besluiten, waardoor de mens vaak niet meer nodig is. Hoe maken we algoritmen inzichtelijk, zodat het vertrouwen tussen overheid en burger behouden blijft en de menselijke maat niet verdwijnt?

Onderdeel van de MOOC Digitalisering doet ertoe
Deze MOOC loopt van 15 januari 2019 tot 19 februari 2019
#4
Arjan Widlak | Sandra van Heukelom-Verhage
Directeur bij de Stichting Kafkabrigade | Advocaat-partner bij Pels Rijcken Advocaten
Wouter Welling gaat in gesprek met Arjan Widlak, directeur bij de Kafkabrigade, over de steeds groter wordende rol van algoritmen binnen de overheid. Ook gaat Welling in gesprek met Sandra van Heukelom-Verhage, advocaat-partner bij Pels Rijcken Advocaten, over de juridisch aspecten die bij het gebruik van algoritmen komen kijken. Wie is er verantwoordelijk voor algoritmen als zij foute beslissingen nemen?

Eén van de grootste uitdagingen van het werken met algoritmen is doorwerking. Als het systeem dat wij hebben ingericht een perspectief van de werkelijkheid hanteert dat bij rationeel nadenken niet het juiste perspectief blijkt te zijn, moeten we dat perspectief uit kunnen schakelen. Maatwerk binnen het systeem.

Weet jij al alles over algoritmen?
Doe de quiz en ontdek of je alle kennis in huis hebt!
Na deze quiz ben je volledig op de hoogte van dit inzicht.

"Als we niet weten welke black box er door de overheid is toegepast bij het uitvoeren van beleid, dan weten we ook niet of we die overheid in haar handelen kunnen vertrouwen. Onze rechtsstaat is gebouwd op het vertrouwen van burgers. Ook nieuwe technologieën moeten dus transparant blijven."

- Sandra van Heukelom-Verhage, advocaat-partner bij Pels Rijcken Advocaten
Inzicht #4: De rol van het algoritme | MOOC ‘Digitalisering doet ertoe’

Cases

  • Computer says no

    De film I, Daniel Blake, geeft een indringend beeld van de worsteling van een oudere, arbeidsongeschikte timmerman met de moderne bureaucratie. Terwijl hij nog herstellende is van een zware hartaanval, wordt hij op basis van een standaardtest weer arbeidsgeschikt verklaard. Hij raakt vervolgens vermalen in de digitale ambtelijke molens, omdat hij niet goed om kan gaan met computers. Het verhaal van Daniel Blake is een gedramatiseerde illustratie van een trend die in Nederland al decennia terug in gang is gezet. De media presenteren artificiële intelligentie, algoritmes en geautomatiseerde besluitvorming nogal eens als actuele trend of zelfs als ‘science fiction’. Burgers zijn niet meer afhankelijk van de vooroordelen en humeuren van bureaucraten. Algoritmen beslissen zonder aanzien des persoons en de besluitvorming is voorspelbaar en transparant. Maar deze transformatie roept ook nieuwe vragen op over discretionaire ruimte en over de controle op de bureaucratie. Meer lezen over deze nieuwe vragen?

    Download het stuk (.PDF)

  • De voorspellende overheid

    Data zijn het nieuwe goud, ook in de publieke sector. De overheid realiseert zich dat meer data de effectiviteit en efficiëntie van overheidsbeleid kunnen vergroten. Big data is goed te vergelijken met een zwarte doos, er gaat van alles in en er komt iets uit zonder dat duidelijk is wat het verband tussen in- en uitgang is. Dat is ontoelaatbaar voor voorspellende en beslissende systemen in de publieke sector. Transparantie en verantwoording zijn noodzakelijk in het licht van beginselen van de democratische rechtsstaat, de vraag is alleen hoe. Ronald Leenes inventariseert een aantal factoren die relevant zijn voor deze vraag.

    Download het artikel (.PDF)

  • Een zoektocht naar instituties

    Het begrip ‘big data’ heeft een zekere magie. Het herbergt een belofte van de grote hoeveelheid gegevens die we hebben, waar we bij wijze van spreken op zitten, en die we slechts hoeven te benutten om verbeteringen aan te brengen in diverse aspecten van ons leven. Toch klinken ook waarschuwingen over de gevaren van big data, veelal over privacy. Haiko van der Voort en Joep Crompvoets gaan nader in op een aantal essentiële begrippen rond big data en op de relevantie van de vraag naar instituties.

    Download het artikel (.PDF)