Mythos laat de noodzaak van Europese samenwerking op het gebied van AI zien

Mythos als wereldnieuws

De cybersecurity wereld werd vorige maand opgeschud door het nieuws dat het Amerikaanse AI-bedrijf Anthropic een nieuw AI-model heeft ontwikkeld, ‘Mythos’ genaamd. Dit model is volgens het bedrijf zodanig goed in het opsporen van kwetsbaarheden in software dat wanneer het openbaar gemaakt zou worden, de risico’s voor cybersecurity zeer groot zijn. Zo zou het een dreiging kunnen vormen voor het wereldwijde betalingssysteem. Niet voor niets werd Mythos uitgebreid besproken tijdens de voorjaarsvergadering van het Internationaal Monetair Fonds.

Antropic, het bedrijf dat eerder al een grens stelde aan het gebruik van hun AI-modellen voor automatische wapensystemen, heeft laten weten het model voorlopig niet openbaar te maken, vanwege de maatschappelijke risico’s. Wel heeft het bedrijf het model beschikbaar gesteld aan een aantal wereldwijd leidende Amerikaanse softwarepartijen als Microsoft, OpenAI en Amazon. Het doel van ‘project Glasswing’ is om deze partijen in de gelegenheid te stellen met Mythos kwetsbaarheden op te sporen en vervolgens te ‘patchen’. Dat zijn reparaties in de software om deze veilig te maken.

AI als bedreiging voor cybersecurity

Er zijn inmiddels ook experts die de berichtgeving van Anthropic over Mythos vooral zien als een marketingstunt om de AI modellen van het bedrijf aan te prijzen. De bevindingen die Anthropic over Mythos heeft gepubliceerd, kunnen – omdat het model niet openbaar is, niet geverifieerd worden. Desondanks nemen softwarebedrijven, software-intensieve bedrijven en overheden de risico’s van de toepassing van AI voor offensieve cybersecurity erg serieus.

De reden hiervoor is dat er meer bedrijven werken aan dergelijke AI-modellen. Zelfs wanneer Mythos minder krachtig is dan aangekondigd, lijkt het een kwestie van tijd voordat er een AI-model komt dat in staat is om sneller dan ervaren software-experts dergelijke kwetsbaarheden op te sporen. Door experts wordt dan ook voorspeld dat de tijd tussen het publiek maken van kwetsbaarheden in software én het daadwerkelijk exploiteren van deze kwetsbaarheden door hackers seconden wordt in plaats van dagen. Dit zou de wereld van softwarebeveiliging op z’n kop zetten: hoe kunnen software-aanbieders en gebruikers zich hiertegen wapenen?

“"Het probleem is dat bij AI het gebruik sneller toeneemt dan de regulering.”

_{Anne Fleur van Veenstra, Wetenschappelijk directeur}

AI lijkt ons steeds te overvallen

Ondanks dat kunstmatige intelligentie al enkele decennia oud is en veel toepassingen van de technologie allang zijn voorspeld, lijkt het alsof elke doorbraak opnieuw verbazing oproept. Dit was zo toen een schaakcomputer voor het eerst een wereldkampioen schaken versloeg, toen OpenAI de generatieve AI-assistent ChatGPT lanceerde en daarmee een bedreiging vormde voor zoekmachines en nu ook weer bij de aankondiging van Mythos.

Het gevolg is dat elke nieuwe – en vaak ingrijpende – AI-ontwikkeling als individueel geval wordt gezien. En er dus ook voor elke AI-ontwikkeling wordt gezocht naar een individuele oplossing voor de risico’s en bedreigingen. Maar AI lijkt ‘here to stay’: volgens het CBS gebruikte in 2024 al 22,7 procent van de bedrijven met 10 of meer werkzame personen één of meer AI-technologieën. Het probleem is echter dat bij AI het gebruik ervan sneller toeneemt dan de regulering ervan. De regels en de handhaving van AI lopen dus steeds achter bij de ontwikkeling en het gebruik.

Zo werd de Europese AI Verordening in 2019 aangekondigd door Ursula von der Leyen als kersversie voorzitter van de Europese Commissie, maar trad deze pas in augustus 2024 in werking. In de tussentijd werd generatieve AI gemeengoed en moest de AI Verordening die al in ontwikkeling was, worden aangepast. En in Nederland is twee jaar gewerkt aan de uitvoeringswet AI Verordening, waarin ook het toezichtstelsel op AI wordt geregeld.

Samenwerking als antwoord

Dat de weg naar de ontwikkeling en inrichting van wetgeving, implementatie en handhaving lang is, is niet verrassend. Maar de ongelijkheid tussen de snelheid waarmee AI als technologie zich ontwikkelt en de wijze waarop overheden en bedrijven in staat zijn te reageren op de risico’s, is wel heel groot geworden. Het is daarom nodig dat praktisch ‘realtime’ een antwoord wordt gevonden voor de ongewenste gevolgen van AI – zoals voor cybersecurity-dreigingen.

Vanwege de grote snelheid die geboden is bij het monitoren en inspelen op de gevolgen van AI – zeker voor cruciale toepassingen als onze kritieke infrastructuur, is het niet waarschijnlijk dat één partij al deze kennis kan opbouwen. Samenwerking tussen overheid, kennisinstellingen, toezichthouders en bedrijven zal daarvoor heel hard nodig zijn – en niet alleen in Nederland maar in heel Europa.

Samenwerken aan ‘by design’

Deze samenwerking zou zich moeten richten op het ontwikkelen van structurele capaciteit op het gebied van ‘by design’. Zoals – om de dreiging van Mythos te keren – in ‘cybersecurity by design’. Dat wil zeggen dat cybersecurity-experts samenwerken met AI-experts, software-experts maar ook juristen en ethici om te zorgen dat softwaresystemen al tijdens de ontwikkeling veiligheid meenemen in het ontwerp. Deze samenwerking zal snel opgezet moeten worden en wendbaar moeten zijn om de steeds veranderende dreiging van AI te adresseren. Alleen dan is het mogelijk om tijdig bij te sturen op risico’s van AI voor onze kritieke informatie-infrastructuur, zoals het wereldwijde betaalsysteem.