Transparantie over AI-toepassingen bij overheid

Het Algoritmeregister als voorbeeld voor Europa

'Het wordt steeds duidelijker waar de AI-toepassingen zich bij de overheid bevinden, welke ontwikkelingen zich voordoen, waar de kansen liggen. Dankzij het Algoritmeregister, waar overheden informatie over hun algoritmes publiceren, kan elke geïnteresseerde ook zien wat er allemaal gebeurt. Ons land loopt daarin binnen Europa voorop. Het register geeft onder meer beleidsmakers, politici, journalisten en bedrijven inzicht in wat de overheid met AI doet', vertelt Elja Daae, coördinator AI en algoritmen bij het ministerie van BZK.

Nieuwe quickscan

De cijfers over het aantal AI-toepassingen komen uit onderzoek dat TNO deed op verzoek van de werkgroep Publieke Diensten van de Nederlandse AI Coalitie, waarvan Elja tevens voorzitter is.

Het is een vervolg op de quickscan AI in de publieke dienstverlening uit 2019 en 2021 die TNO uitvoerde in opdracht van het ministerie van BZK. Voor de toepassing van AI in de publieke dienstverlening zocht TNO antwoord op de vraag waar AI binnen de publieke sector wordt toegepast, wat er sinds 2021 is veranderd en welke inzichten de afgelopen jaren zijn opgedaan over AI bij de overheid.

Waar AI het meeste voor gebruikt wordt

De komst van generatieve AI, de taal- en spraaktechnologie die het mogelijk maakt om geautomatiseerd content te maken als teksten, stemmen of video, heeft ertoe geleid dat het veel makkelijker is geworden om als individu met AI aan de slag te gaan. Dat was een extra reden het onderzoek voor de derde keer te doen.

Marissa Hoekstra, onderzoeker bij TNO Vector: 'AI wordt het meest gebruikt voor kennisverwerking, archivering en anonimisering; gevolgd door inspectie en handhaving. De meest gebruikte technieken zijn beeldherkenning, met spraak- en tekstherkenning als tweede.'

102 van de 266 toepassingen zijn daadwerkelijk geïmplementeerd, terwijl er 95 experimenten met AI gaande zijn.

Verbeteren dienstverlening met AI

'Het aantal toepassingen is dus enorm toegenomen, terwijl we AI juist strakker hebben gedefinieerd', zegt Martijn Bekking van de werkgroep Publieke Diensten van de AI Coalitie.

'In 2019 waren het nog maar 75 toepassingen, inmiddels 266, in verschillende stadia van ontwikkeling. Het percentage daadwerkelijk gerealiseerde toepassingen en experimenten is ook flink gegroeid. Het laat zien dat AI bij de overheid volwassener is geworden. Tijdens mijn rondgang langs overheidsinstanties merk ik dat er echt heel veel in gang is gezet.

Er wordt alleen nog niet veel over gecommuniceerd. AI heeft veel potentie, van de aanpak van fraude tot het verbeteren van de dienstverlening vanuit de overheid. Generatieve AI biedt tal van kansen om complexe informatie toegankelijker kan maken en daarmee burgers en bedrijfsleven beter van dienst te zijn. Ik denk dat we de komende jaren nog veel mooie toepassingen gaan tegenkomen.’

Nog weinig complexe toepassingen

De meeste gevonden toepassingen binnen het overheidsapparaat zijn vrij eenvoudig te noemen, concluderen we bij TNO. Het doel is dan duidelijk en de gebruikte AI-technologie relatief simpel. Complexe toepassingen zijn er nog weinig.

Anne Fleur van Veenstra, wetenschappelijk directeur van TNO Vector: 'Met als kanttekening dat de mate van complexiteit van een toepassing niet alles zegt. Een simpel algoritme kan discrimineren en een heel complexe toepassing die goed is uitgewerkt en gevalideerd kan een fantastisch instrument zijn. Zo zwart-wit ligt dus niet altijd.'

Elja Daae: "Dat verklaart misschien ook de terughoudendheid om over AI-toepassingen te communiceren. Dat gebeurt vaak helemaal niet bewust. Bij de overheid wordt op een open en transparante manier hard aan AI gewerkt, maar je wilt niet direct van de daken schreeuwen hoe geweldig jouw toepassing is.”

Award voor briljante mislukkingen

Transparantie en communicatie heeft daarom alle aandacht van de werkgroep Publieke Diensten. Martijn: "Omdat AI nog volop in ontwikkeling is lijkt het veiliger hier niet te veel over te communiceren. Dat is wel jammer. Gemeenten hebben weliswaar de meeste toepassingen gerealiseerd, maar direct daarna komen tientallen voorbeelden bij samenwerkingsverbanden tussen overheidsinstanties. Daar leren mensen dus veel van elkaar en dat is broodnodig.

Wij pleiten er dan ook voor om meer te communiceren, ook als het nog niet honderd procent af is. Sterker nog, vertel ook wat er niet goed gelukt is en waarom. Elja en ik reiken daarom jaarlijks de award voor briljante mislukkingen in het publieke domein uit. We moeten veel meer van elkaar leren.”

Succesvolle toepassingen in Quickscan AI-rapport

In het rapport worden allerlei voorbeelden van succesvolle toepassingen in het publieke domein genoemd. Waaronder een anonimiseringstool om vertrouwelijke gegevens te kunnen afschermen, een algoritme dat met camerabeelden scheepsbewegingen in de haven detecteert, één voor visserij- en voor weginspecties, een virtuele beleidsassistent voor het sneller en beter beantwoorden van Kamervragen, en een chatbot.