Van waterval naar zandbak: digitalisering leidt tot nieuwe innovatiemethoden

Het veelbesproken rapport van de voormalig voorzitter van de Europese Bank Mario Draghi over de concurrentiekracht van de Europese economie noemt digitalisering een belangrijke kans voor innovatie. Het rapport analyseert dat het gebrek aan een sterke Europese ICT sector een belangrijke oorzaak is van de ‘innovatie-achterstand’ van de Europese Unie ten opzichte van de Verenigde Staten. De ontwikkeling van Europese kunstmatige intelligentie (AI) wordt door Draghi dan ook als manier gezien om deze achterstand in te lopen. Onder andere door het toepassen van generatieve AI in de industrie en zo een meer innovatieve maakindustrie mogelijk te maken. Daarbij wordt het als vanzelfsprekend gezien dat deze technologie gebaseerd is op Europese waarden.

De ontwikkeling van verantwoordelijke digitale technologie, producten en diensten, gebaseerd op Europese waarden, is een veelgehoorde doelstelling – ook al voordat het Draghi rapport verscheen. Zo richtte de Europese Commissie in 2019 een High level Interest Group voor AI op die voorwaarden voor verantwoordelijke (‘responsible’) AI opstelde, waaronder transparantie, veiligheid, rechtvaardigheid en menselijke controle en toezicht. Met de opkomst van generatieve AI zijn deze voorwaarden alleen maar belangrijker geworden en ze zijn dan ook verankerd in de Europese AI Verordening die onlangs in werking is getreden. Veel organisaties zijn nu zoekende hoe je dergelijke verantwoordelijke AI systemen – gebaseerd op Europese waarden – ontwikkelt of gebruikt.

Organisaties zoeken een oplossing hiervoor in het toepassen van ‘waarden-gedreven ontwerpen’ (‘value sensitive design’). In deze ontwerpmethode zijn specifieke waarden, zoals transparantie of rechtvaardigheid, sturend in de ontwikkeling en toepassing van (digitale) technologie. Voorheen werd deze doorgaans stapsgewijs ontwikkeld door middel van de ‘watervalmethode’, waarin de ontwerpcriteria werden opgesteld en uitgewerkt. Bij waarden-gedreven ontwerpen worden eerst de onderliggende waarden waaraan de technologie moet voldoen, geïdentificeerd. Een manier om hiervoor te zorgen, is om alle betrokken partijen (‘stakeholders’) bij elkaar te brengen en hen te laten bepalen waaraan de technologie moet voldoen. Om vast te stellen of de technologie ook daadwerkelijk aan deze waarden voldoet, wordt voorafgaand aan de toepassing een experiment uitgevoerd in een gecontroleerde omgeving (de ‘zandbak’).

De Europese AI Verordening die ervoor moet zorgen dat de AI ontwikkeling gebaseerd is op Europese waarden heeft dan ook een aantal principes van waarden-gedreven ontwerpen overgenomen. Een belangrijke is dat (hoog-risico) AI-systemen voorafgaand aan het gebruik moeten worden getoetst in een ‘regulatory sandbox’. Dit gebeurt om te bepalen of een systeem aan de Europese regels voldoet en welke (potentiële) gevolgen het systeem heeft voor gebruikers, consumenten en burgers. Zo wordt bepaald welke AI systemen gebaseerd zijn op Europese waarden en dus worden toegelaten op de Europese markt. Op deze manier zorgt digitalisering dus niet alleen voor innovatie bij bedrijven of organisaties, maar ook tot innovatie in de manier waarop digitale systemen tot stand komen.

Deze reflectie is gebaseerd op de column van Anne Fleur in iBestuur van 24 januari 2025.