Toekomstbestendige AI met een focus op maatschappelijke impact

De tijdlijn van AI

In de jaren 50 en 60 vormen AI en algoritmen een groeiende discipline in de wetenschap, maar hebben ze nog weinig impact op het dagelijks leven van het grote publiek.

Alan Turing, een pionier in AI, publiceert in 1950 het baanbrekende paper “Computing Machinery and Intelligence” en introduceert de Turingtest om te bepalen of de intelligentie van een computer te onderscheiden is van die van een mens.

Gordon Moore voorspelt in 1965 dat de prestaties van computerhardware exponentieel zullen verbeteren, wat later bekend wordt als de wet van Moore.

In de jaren 70 en 80 stagneert de ontwikkeling van AI door technologische beperkingen en hoge onderzoekskosten, bekend als de “AI-winter”.

Rond 2000 maakt de opkomst van Big Data machinaal leren mogelijk en evolueert AI zich snel volgens de wet van Moore. Deep Learning en Neural Networks markeren een keerpunt met verbeteringen in gezichtsherkenning, en de opkomst van sociale media en Industrie 4.0. Tegelijkertijd leiden datalekken tot zorgen over persoonsgegevens.

Na 2020 winnen Generatieve AI (GenAI) en grote taalmodellen aan belang en worden op grotere schaal ingezet door overheden, bedrijven en burgers. Dit leidt tot aandacht voor de negatieve gevolgen van AI, zoals bias, schending van intellectueel eigendom en afhankelijkheid van grote technologiebedrijven. Er ontstaat een dringende behoefte aan regulering en bestuur.

We bevinden ons in een spannende fase van toenemend gebruik van GenAI, met voordelen en veel vragen over het waarborgen van publieke waarden als autonomie, veiligheid en rechtvaardigheid.

Wat is de bijdrage van TNO Vector?

Bij TNO Vector werken sociale en exacte wetenschappers samen aan maatschappelijke transities, zoals de digitale, energie- en grondstoffentransitie. AI vereist door zijn maatschappelijke impact ook kennis van bestuurskunde, psychologie, sociologie, economie en recht.

Naast technologische innovatie is er behoefte aan strategische afwegingen en vernieuwingen in governance, regelgeving en beleid rondom AI.

TNO Vector-onderzoekers werken binnen TNO mee aan verschillende proposities. TNO Vector werkt zelf op het impactgebied waarden-gebaseerde digitale samenleving aan kennisopbouw en toepassing hiervan in de praktijk.

Ter illustratie enkele recente TNO Vector-projecten:

1. Nederlandse en Europese digitale soevereiniteit vergroten

De grootste AI-doorbraken komen uit de VS, waardoor we afhankelijk zijn van enkele Big Tech-bedrijven. Nederland en Europa streven daarom naar meer digitale soevereiniteit.

TNO draagt bij door technologie te ontwikkelen, advies te geven over beleid en businessmodellen, en publieke en private partijen samen te brengen voor gezamenlijke oplossingen.

In het rapport Towards a sovereign digital future – the Netherlands in Europe laten wij zien hoe wij bijdragen aan digitale soevereiniteit, door onder meer in te gaan op de rol die RTOs zoals TNO hierin vervullen.

2. Vergelijkend onderzoek naar AI-strategieën Nederland, Finland en Zweden

Europese landen als Nederland, Finland en Zweden bevinden zich in de voorhoede bij de ontwikkeling van kunstmatige intelligentie. Dat maakt het interessant te bezien welke AI-strategie deze landen hebben en wat we van elkaar kunnen leren.

Voor dit onderzoek werkte TNO Vector samen met het Technical Research Centre of Finland (VTT) en de Research Institutes of Sweden (RISE). Op basis daarvan identificeren we zes belangrijke dimensies waarlangs AI-strategieën vergeleken kunnen worden. We hebben de verschillen en overeenkomsten ontrafeld, beschreven hoe de strategieën tot stand zijn gekomen en wat de verwachte en gerealiseerde resultaten zijn.

We concluderen dat er geen standaardmodel is voor AI-strategieën, maar dat het nuttig is dat landen ervaringen uitwisselen om het potentieel van AI optimaal te benutten.

3. Studie over AI-wetgeving voor Europees Parlement

De snelle toename van AI-gebaseerde producten en systemen vraagt om regulering op Europees niveau. In opdracht van het Panel for the Future of Science and Technology (STOA) van het Europees Parlement deed TNO Vector daarom onderzoek naar AI-wetgeving die in de EU is voorbereid.

We bestudeerden de verschillen die er zijn tussen verplichtingen van de publieke en private sector bij het gebruik van bepaalde AI-systemen. We hebben ons daarbij op drie toepassingen van AI gericht: biometrisch, sociale score en manipulatieve AI.

We bepaalden risico's, wanneer systemen moeten worden toegestaan of verboden, en welke verplichtingen ontstaan. De studie biedt een uitgebreide analyse en aanbevelingen voor adequaat beleid.

4. Op zoek naar de mens in AI

In het paper Op zoek naar de mens in AIanalyseren we vijftien veelgebruikte normenkaders. Het blijkt dat deze kaders veel verschillende normen bevatten maar niet duidelijk maken wie bepaalt hoe ze worden toegepast.

Daarnaast zijn veel normenkaders niet gericht op degenen die de technologie toepassen maar op de ontwikkelaars. Dit zijn vaak commerciële partijen die slechts op onderdelen betrokken zijn bij de uitvoering van de besluitvorming.

De eindverantwoordelijkheid voor het systeem ligt in veel gevallen echter bij partijen die de AI-systemen toepassen voor geautomatiseerde besluitvorming. Veel gehanteerde methodieken zijn daarom meestal beter geschikt om achteraf te beoordelen welke impact AI-systemen hebben.

De belangrijkste aanbeveling in dit paper is dat er experimentele omgevingen moeten komen om AI-systemen voor algoritmische besluitvorming stapsgewijs te testen.

5. Quickscan AI in de publieke dienstverlening

TNO Vector heeft drie keer onderzocht hoe de overheid AI gebruikt. In 2019 werd een longlist opgesteld van AI-toepassingen in de publieke dienstverlening.

De tweede verkenning in 2021 keek naar AI ontwikkelingen sinds 2019, de impact van AI-toepassingen, en de kansen en uitdagingen voor de overheid.

AI werd steeds meer gebruikt voor maatschappelijke vraagstukken en besluitvorming, zoals inzicht in armoede of schulden, opsporing van criminaliteit en onderhoud aan infrastructuur.

Drie case studies werden uitgewerkt. De derde verkenning in 2024 onderzoekt de veranderingen sinds 2021. De resultaten zijn op 25 juni 2024 gepubliceerd.

Conclusie

TNO Vector doet onderzoek naar de verantwoorde ontwikkeling en inzet van AI en ontwikkelt samen met stakeholders bruikbare frameworks en tools voor AI governance.

Daarnaast verwachten we dat thema’s als de gevolgen voor de arbeidsmarkt, digitale autonomie en duurzaamheid de komende jaren steeds belangrijker worden.

Wat zijn de gevolgen van AI op de vraag naar arbeid en hoe reageert het aanbod hierop? Hoe gaan we om met de groeiende afhankelijkheid van grote, niet-Europese Tech bedrijven? Welke mogelijkheden zijn er om digitaal autonomer te worden? En wat betekent het groeiende gebruik van datagedreven tools en AI voor onze voetafdruk, en welke manieren zijn er om dit te beïnvloeden?

Meer informatie over het AI-onderzoek? Bezoek het AI-gedeelte op de TNO-website.