Brakka Mang
Badass junkie
Ik las op een nieuwssite een proef voor implementatie digitale twin wat later overal zal worden uitgerold maar hiervoor wordt nog gewacht op de uitrol van 6V omdat dit hiervan afhankelijk is en compleet geïntegreerd wordt.
Na een soar sessie met chatgpt 6.1 sol Max in een work sessie ben ik tot dit stuk gekomen;
# Digital Twins, 6G en AI: bouwen we aan technologische vooruitgang of aan een samenleving waarin fundamentele mensenrechten onder druk komen te staan?
**Hoe kan een ingrijpende digitale transformatie worden doorgevoerd zonder breed maatschappelijk debat, terwijl het vertrouwen in de politiek onder druk staat en bepaalde onderdelen van deze technologie nu al op wettelijke grenzen stuiten?**
We bevinden ons midden in een technologische ontwikkeling die de verhouding tussen burgers, overheden en grote technologiebedrijven ingrijpend kan veranderen. Kunstmatige intelligentie, Digital Twins, toekomstige 6G-netwerken, biometrische identificatie en grootschalige gegevensverwerking worden steeds verder ontwikkeld en geïntegreerd.
De mogelijkheden zijn indrukwekkend. Steden kunnen efficiënter functioneren, medische behandelingen kunnen verbeteren en infrastructuur kan veiliger worden. Maar achter die technologische vooruitgang schuilt een fundamentele maatschappelijke vraag: wie bepaalt uiteindelijk hoe ver deze technologie mag gaan, wie krijgt er controle over de verzamelde gegevens en wat blijft er over van onze individuele vrijheid wanneer steeds meer aspecten van ons leven digitaal kunnen worden geregistreerd, geanalyseerd en voorspeld?
Deze vragen worden extra belangrijk in een tijd waarin veel burgers weinig vertrouwen hebben in politieke bestuurders, internationale instellingen en grote ondernemingen. Dat wantrouwen verschilt per land en is niet overal even groot, maar het vormt wel een belangrijk onderdeel van het maatschappelijke debat.
Juist tegen die achtergrond is het opmerkelijk hoe weinig publieke aandacht er uitgaat naar de langetermijngevolgen van de digitale infrastructuur die momenteel wordt ontwikkeld.
Want het gaat niet alleen om sneller internet of slimmere computers. Het gaat om technologie die, afhankelijk van de toepassing, de verhouding tussen burger en overheid fundamenteel kan veranderen.
## Van digitale infrastructuur naar een digitale afspiegeling van de werkelijkheid
Een Digital Twin is een digitale representatie van een fysiek object, proces, systeem of omgeving. Door gegevens uit sensoren, camera's en andere bronnen te combineren, kan zo'n model worden gebruikt om ontwikkelingen te volgen, situaties te simuleren en toekomstige gebeurtenissen te voorspellen.
Bij een brug kan dat betekenen dat slijtage tijdig wordt ontdekt. Bij een elektriciteitsnet kan het helpen om storingen te voorkomen. Bij medische toepassingen kan een digitaal model bijdragen aan betere diagnoses of behandelingen.
Maar dezelfde onderliggende technologie kan ook worden gebruikt om menselijke activiteiten en gedragspatronen te analyseren.
Daar komt 6G bij.
De toekomstige generatie mobiele netwerken wordt niet alleen ontwikkeld om sneller gegevens te verzenden. Onderzoekers werken ook aan AI-geïntegreerde netwerken, zeer nauwkeurige positionering en zogenoemde *Integrated Sensing and Communication*. Daarbij kunnen radiosignalen onder bepaalde omstandigheden niet alleen voor communicatie, maar ook voor detectie van bewegingen en objecten worden gebruikt.
Dat betekent niet dat 6G automatisch iedereen kan identificeren of dat er straks van iedere burger een volledige digitale kopie bestaat. Daarvoor zouden aanvullende gegevensbronnen, identificatiesystemen en technische voorzieningen nodig zijn.
Maar wanneer zulke technologieën worden gecombineerd met cameranetwerken, digitale identiteiten, financiële gegevens, gezondheidsinformatie en AI, ontstaat wel de technische mogelijkheid om steeds uitgebreidere persoonsprofielen samen te stellen.
En precies daar begint het mensenrechtelijke vraagstuk.
Want er bestaat een wereld van verschil tussen technologie die mensen ondersteunt en technologie die mensen voortdurend observeert, beoordeelt of probeert te beïnvloeden.
## Wie bepaalt de richting van deze ontwikkeling?
De ontwikkeling van 6G, AI en Digital Twins wordt mede vormgegeven door overheden, onderzoeksinstellingen, technologiebedrijven en internationale samenwerkingsverbanden.
De Europese Unie investeert via onderzoeksprogramma's en publiek-private samenwerkingen aanzienlijke bedragen in deze technologieën. Dat gebeurt met economische, wetenschappelijke en maatschappelijke doelstellingen.
Tegelijkertijd spelen internationale netwerken zoals het World Economic Forum, de Trilateral Commission en de Bilderberg-bijeenkomsten een rol in de bredere uitwisseling van ideeën tussen invloedrijke politici, ondernemers, wetenschappers en bestuurders.
Deze organisaties zijn niet democratisch gekozen. Ze hebben ook niet zelfstandig de bevoegdheid om Nederlandse of Europese wetgeving vast te stellen.
Dat onderscheid is belangrijk.
Maar het ontbreken van formele wetgevende macht betekent niet dat dergelijke netwerken geen invloed kunnen hebben op beleidsvorming, politieke prioriteiten of internationale samenwerking.
Wanneer invloedrijke personen elkaar regelmatig ontmoeten, gezamenlijk beleidsideeën ontwikkelen en toegang hebben tot besluitvormers, ontstaan legitieme vragen over transparantie, belangenverstrengeling en democratische verantwoording.
Dat bewijst niet dat deze organisaties gezamenlijk een geheim plan uitvoeren om de bevolking te controleren. Voor zo'n conclusie is concreet bewijs nodig.
Maar het roept wel een andere, minstens zo belangrijke vraag op:
**Hoe democratisch is een besluitvormingsproces wanneer de richting van ingrijpende maatschappelijke veranderingen grotendeels wordt voorbereid binnen netwerken waartoe gewone burgers nauwelijks toegang hebben?**
Er bestaan Europese consultaties en democratische besluitvormingsprocedures rond digitale technologie. Het zou daarom onjuist zijn om te stellen dat burgers helemaal geen mogelijkheden tot inspraak hebben.
De vraag is echter of die mogelijkheden voldoende zijn.
Een openbare consultatie is niet automatisch hetzelfde als daadwerkelijke invloed op fundamentele keuzes. Zeker niet wanneer technische standaarden, financieringsprogramma's en infrastructuurinvesteringen al vergevorderd zijn.
Wanneer technologie gevolgen kan hebben voor privacy, autonomie, vrijheid van meningsuiting en de verhouding tussen overheid en burger, mag democratische betrokkenheid geen formaliteit worden.
## Een samenleving waarin de burger steeds transparanter wordt, maar de macht niet
Een van de grootste risico's van deze ontwikkelingen is de toenemende informatieongelijkheid tussen burgers en machtige instellingen.
Overheden en bedrijven kunnen steeds meer gegevens verzamelen over ons gedrag, onze bewegingen, onze financiële situatie, onze gezondheid en onze persoonlijke voorkeuren.
Tegelijkertijd is het voor burgers vaak bijzonder moeilijk om te achterhalen welke gegevens precies worden verwerkt, hoe algoritmen functioneren en welke conclusies daaruit worden getrokken.
Dat kan leiden tot een situatie waarin burgers steeds transparanter worden voor organisaties, terwijl de besluitvorming van die organisaties juist moeilijk controleerbaar blijft.
En dat is een fundamenteel democratisch probleem.
In een vrije samenleving hoort de overheid verantwoording af te leggen aan de burger. Niet andersom.
Een overheid mag bevoegdheden uitoefenen binnen de grenzen van de wet, maar moet daarbij de fundamentele rechten van burgers respecteren. Die rechten zijn er juist om individuen te beschermen tegen willekeur en machtsmisbruik.
Het zou daarom bijzonder problematisch zijn wanneer een technologische infrastructuur ontstaat waarmee burgers voortdurend kunnen worden gevolgd, geprofileerd of beoordeeld, zonder dat daar voldoende wettelijke waarborgen tegenover staan.
De vraag is niet alleen of huidige bestuurders zulke mogelijkheden zouden misbruiken.
De vraag is ook welke bevoegdheden toekomstige bestuurders erven.
**Een samenleving moet haar vrijheden niet afhankelijk maken van de goede bedoelingen van degenen die op een bepaald moment aan de macht zijn.**
## De mensenrechten stellen al duidelijke grenzen
Wat in het debat over deze technologie vaak onderbelicht blijft, is dat verschillende mogelijke toepassingen niet alleen ethisch omstreden zijn, maar onder bepaalde voorwaarden nu al juridisch verboden.
De fundamentele rechten waarop onze democratische rechtsstaat is gebouwd, gelden immers ook in een digitale samenleving.
Artikel 12 van de Universele Verklaring van de Rechten van de Mens beschermt tegen willekeurige inmenging in het privéleven.
Artikel 17 van het Internationaal Verdrag inzake burgerrechten en politieke rechten biedt eveneens bescherming tegen willekeurige of onrechtmatige inmenging in het privéleven.
Artikel 8 van het Europees Verdrag voor de Rechten van de Mens beschermt het privéleven, gezinsleven, de woning en correspondentie.
Daarnaast beschermen de artikelen 7 en 8 van het EU-Handvest respectievelijk het privéleven en persoonsgegevens.
In Nederland vormt artikel 10 van de Grondwet een belangrijke basis voor de bescherming van de persoonlijke levenssfeer.
Deze rechten zijn niet absoluut. Onder bepaalde omstandigheden mogen beperkingen worden opgelegd. Maar daarvoor moeten strikte voorwaarden worden vervuld.
Een inmenging moet een voldoende duidelijke wettelijke basis hebben, een legitiem doel dienen en noodzakelijk en evenredig zijn. Ook moeten er effectieve waarborgen tegen willekeur en misbruik bestaan.
Dat betekent dat een overheid niet onbeperkt persoonsgegevens mag verzamelen enkel omdat de technologie daarvoor beschikbaar is.
Technische mogelijkheden vormen geen zelfstandige juridische rechtvaardiging.
## Sommige AI-systemen zijn nu al verboden
De Europese AI-verordening, Verordening (EU) 2024/1689, bevat in artikel 5 expliciete verboden op bepaalde AI-praktijken. Deze verboden zijn sinds 2 februari 2025 van toepassing.
Dat is bijzonder relevant voor de ontwikkeling van digitale persoonsmodellen en systemen die menselijk gedrag analyseren.
**Social scoring**
AI-systemen die personen gedurende een bepaalde periode beoordelen op basis van sociaal gedrag of bekende, afgeleide of voorspelde persoonlijke kenmerken, kunnen onder het wettelijke verbod op sociale scoring vallen.
Het verbod ziet op systemen die leiden tot bepaalde vormen van nadelige of ongunstige behandeling, bijvoorbeeld in een niet-gerelateerde sociale context of op een ongerechtvaardigde of onevenredige manier.
Een overheid of onderneming kan dus niet zomaar een algemeen systeem ontwikkelen waarin burgers op basis van gedragspatronen worden beoordeeld en vervolgens ongerechtvaardigd worden benadeeld.
**Schadelijke manipulatie**
De AI-verordening verbiedt bepaalde AI-systemen die manipulatieve of misleidende technieken gebruiken en daarmee de mogelijkheid van personen om geïnformeerde beslissingen te nemen wezenlijk aantasten, wanneer daardoor aanzienlijke schade ontstaat of redelijkerwijs waarschijnlijk is.
Hier raakt de wet direct aan het principe van menselijke autonomie.
**Ongerichte verzameling van gezichtsbeelden**
De AI-verordening verbiedt het op de markt brengen, in gebruik stellen voor dit specifieke doel of gebruiken van AI-systemen die databanken voor gezichtsherkenning creëren of uitbreiden door ongericht gezichtsbeelden van internet of camerabeelden te verzamelen.
**Biometrische categorisering van gevoelige kenmerken**
Ook AI-systemen die biometrische gegevens gebruiken om bepaalde gevoelige eigenschappen van personen af te leiden, waaronder politieke opvattingen en religieuze overtuigingen, vallen binnen de wettelijke omschrijving van verboden praktijken, behoudens de relevante afbakeningen en uitzonderingen.
**Voorspellende criminaliteitsprofilering**
AI-systemen die het risico beoordelen dat een natuurlijke persoon een strafbaar feit zal plegen, uitsluitend op basis van profilering of beoordeling van persoonlijkheidskenmerken, zijn eveneens onder de omschreven voorwaarden verboden.
Dat is een bijzonder belangrijke grens.
In een rechtsstaat mag iemand niet worden behandeld alsof hij een misdrijf heeft gepleegd enkel omdat een algoritme voorspelt dat hij dat misschien ooit zal doen.
Deze verboden betekenen niet dat iedere Digital Twin of iedere vorm van AI-profilering verboden is. Maar ze betekenen wel dat sommige mogelijke toepassingen van een grootschalig digitaal controlesysteem al op voorhand buiten de wettelijke grenzen vallen.
En bij de expliciet verboden AI-praktijken hoeft niet eerst te worden gewacht totdat een individuele burger aantoonbare schade heeft geleden om de wettelijke verboden te kunnen handhaven.
## Nederland heeft al een belangrijk precedent: de SyRI-uitspraak
Dat deze juridische bezwaren niet uitsluitend theoretisch zijn, blijkt uit een belangrijke Nederlandse rechtszaak.
Op 5 februari 2020 deed de rechtbank Den Haag uitspraak over SyRI, het Systeem Risico Indicatie.
Met SyRI wilde de Nederlandse overheid gegevens uit verschillende overheidsbronnen combineren om risico's op fraude met onder andere uitkeringen, toeslagen en belastingen te identificeren.
Het systeem werkte met risicomeldingen op basis van gegevensanalyse.
De rechtbank oordeelde dat de wettelijke regeling onvoldoende transparant en controleerbaar was en niet voldeed aan de eisen van artikel 8 van het Europees Verdrag voor de Rechten van de Mens.
De SyRI-regelgeving werd daarom onverbindend verklaard.
Dit was geen algemeen verbod op algoritmische fraudedetectie. Maar de uitspraak laat wel zien dat een overheidssysteem voor grootschalige risicoprofilering juridisch kan worden tegengehouden wanneer de wettelijke waarborgen tekortschieten.
En daarvoor hoefde niet eerst iedere individuele burger afzonderlijk schade aan te tonen.
De betekenis voor toekomstige digitale infrastructuur is duidelijk: ook wanneer een overheid een systeem ontwikkelt met een op zichzelf legitiem doel, zoals fraudebestrijding of veiligheid, blijft zij gebonden aan fundamentele mensenrechten.
Een goedbedoeld doel maakt niet automatisch ieder middel rechtmatig.
## De wet stelt al eisen voordat systemen worden uitgerold
Ook de Algemene verordening gegevensbescherming, de AVG, is hier van groot belang.
Artikel 5 bevat onder andere de beginselen van rechtmatigheid, transparantie, doelbinding en dataminimalisatie.
Artikel 6 vereist een geldige rechtsgrond voor de verwerking van persoonsgegevens.
Artikel 9 biedt extra bescherming voor bijzondere categorieën persoonsgegevens, zoals gezondheidsgegevens en gegevens over politieke of religieuze overtuigingen.
Artikel 25 verplicht organisaties rekening te houden met gegevensbescherming door ontwerp en door standaardinstellingen.
En artikel 35 vereist bij bepaalde verwerkingen met een hoog risico een gegevensbeschermingseffectbeoordeling voordat de verwerking begint.
Wanneer een hoog risico niet voldoende kan worden beperkt, kan voorafgaande raadpleging van de toezichthouder op grond van artikel 36 noodzakelijk zijn.
Dit betekent dat privacy en gegevensbescherming niet pas relevant worden wanneer een systeem volledig operationeel is.
Ze moeten al worden meegenomen tijdens de ontwikkeling en inrichting.
Een overheid of technologiebedrijf kan dus niet zonder meer een systeem bouwen, het in gebruik nemen en pas daarna onderzoeken of de verwerking van persoonsgegevens rechtmatig is.
## Welke projecten worden momenteel daadwerkelijk ontwikkeld?
Er bestaan al concrete Europese onderzoeksinitiatieven die laten zien hoe ver de ontwikkeling van deze technologie is gevorderd.
Het Europese project **6G-TWIN** richt zich op digitale modellen van toekomstige 6G-netwerken, onder andere voor AI-gestuurde optimalisatie en netwerkbeheer.
Daarnaast ondersteunt de Europese Commissie het **European Virtual Human Twins Initiative**, gericht op digitale modellen van het menselijk lichaam voor medische toepassingen.
Via de **Smart Networks and Services Joint Undertaking** worden bovendien onderzoeksprojecten naar toekomstige communicatienetwerken, AI-integratie en nieuwe netwerktoepassingen gefinancierd.
Dit zijn bestaande, publiek beschreven onderzoeksinitiatieven.
Op basis van hun algemene projectbeschrijvingen kan niet worden geconcludeerd dat ze mensenrechten schenden of bedoeld zijn om burgers te controleren.
Maar juist daarom is een diepgaand onafhankelijk onderzoek naar technische ontwerpdocumenten, datastromen, financieringsvoorwaarden en juridische waarborgen noodzakelijk.
Want de vraag is niet alleen wat organisaties zeggen dat ze willen bereiken.
De vraag is ook welke mogelijkheden de systemen daadwerkelijk creëren, hoe ze later kunnen worden uitgebreid en welke partijen toegang krijgen tot de infrastructuur en gegevens.
## Wanneer wordt het juridisch ontoelaatbaar?
Er moet onderscheid worden gemaakt tussen drie situaties.
De eerste situatie is een systeem dat rechtstreeks onder een wettelijk verbod valt, bijvoorbeeld bepaalde vormen van sociale scoring of verboden biometrische categorisering.
In dat geval kan het op de markt brengen, in gebruik stellen of gebruiken al verboden zijn. De precieze reikwijdte hangt af van de wettelijke omschrijving.
De tweede situatie betreft systemen die op zichzelf niet verboden zijn, maar waarbij de voorgenomen verwerking van persoonsgegevens geen geldige rechtsgrond heeft of niet voldoet aan de eisen van noodzakelijkheid, proportionaliteit en gegevensbescherming.
Dergelijke systemen kunnen niet rechtmatig worden ingezet zolang die tekortkomingen niet zijn opgelost.
De derde situatie betreft systemen die maatschappelijk of democratisch omstreden zijn, maar niet rechtstreeks onder een wettelijk verbod vallen.
Daar is het aan burgers, volksvertegenwoordigers, toezichthouders en maatschappelijke organisaties om te beoordelen of aanvullende wettelijke beperkingen nodig zijn.
Niet iedere ethische zorg is automatisch een juridische overtreding.
Maar omgekeerd geldt ook dat een systeem niet automatisch maatschappelijk wenselijk is omdat het binnen de huidige wetgeving past.
## De fundamentele vraag: wie controleert de controleurs?
De combinatie van AI, Digital Twins, biometrische technologie, digitale identiteiten en toekomstige communicatienetwerken kan een samenleving enorme voordelen bieden.
Maar dezelfde combinatie kan, wanneer wettelijke en democratische grenzen onvoldoende worden bewaakt, ook een infrastructuur creëren waarmee burgers op ongekende schaal kunnen worden geobserveerd en beoordeeld.
Het grootste gevaar hoeft daarvoor niet eens voort te komen uit een gezamenlijk geheim plan.
Een technologiebedrijf wil meer gegevens om zijn dienstverlening te verbeteren. Een overheid wil fraude efficiënter opsporen. Een verzekeraar wil risico's nauwkeuriger inschatten. Een werkgever wil prestaties meten. Een veiligheidsdienst wil dreigingen eerder herkennen.
Elk afzonderlijk doel kan verdedigbaar zijn.
Maar wanneer al die systemen uiteindelijk aan elkaar worden gekoppeld, kan een infrastructuur ontstaan waarin het individu steeds minder controle heeft over zijn eigen gegevens en de beslissingen die op basis daarvan worden genomen.
Dat is precies waarom democratische controle en fundamentele rechten geen bijzaak mogen zijn.
De mensenrechten zijn immers niet uitsluitend bedoeld om burgers te beschermen tegen machthebbers die vandaag verkeerde bedoelingen hebben.
Ze zijn bedoeld om te voorkomen dat macht ooit onbeperkt kan worden uitgeoefend.
Daarom zou iedere grootschalige implementatie van technologie die menselijke activiteiten kan volgen, profileren of beïnvloeden vooraf moeten worden getoetst aan de fundamentele rechten van de mens.
Niet alleen door de organisaties die de technologie ontwikk
Na een soar sessie met chatgpt 6.1 sol Max in een work sessie ben ik tot dit stuk gekomen;
# Digital Twins, 6G en AI: bouwen we aan technologische vooruitgang of aan een samenleving waarin fundamentele mensenrechten onder druk komen te staan?
**Hoe kan een ingrijpende digitale transformatie worden doorgevoerd zonder breed maatschappelijk debat, terwijl het vertrouwen in de politiek onder druk staat en bepaalde onderdelen van deze technologie nu al op wettelijke grenzen stuiten?**
We bevinden ons midden in een technologische ontwikkeling die de verhouding tussen burgers, overheden en grote technologiebedrijven ingrijpend kan veranderen. Kunstmatige intelligentie, Digital Twins, toekomstige 6G-netwerken, biometrische identificatie en grootschalige gegevensverwerking worden steeds verder ontwikkeld en geïntegreerd.
De mogelijkheden zijn indrukwekkend. Steden kunnen efficiënter functioneren, medische behandelingen kunnen verbeteren en infrastructuur kan veiliger worden. Maar achter die technologische vooruitgang schuilt een fundamentele maatschappelijke vraag: wie bepaalt uiteindelijk hoe ver deze technologie mag gaan, wie krijgt er controle over de verzamelde gegevens en wat blijft er over van onze individuele vrijheid wanneer steeds meer aspecten van ons leven digitaal kunnen worden geregistreerd, geanalyseerd en voorspeld?
Deze vragen worden extra belangrijk in een tijd waarin veel burgers weinig vertrouwen hebben in politieke bestuurders, internationale instellingen en grote ondernemingen. Dat wantrouwen verschilt per land en is niet overal even groot, maar het vormt wel een belangrijk onderdeel van het maatschappelijke debat.
Juist tegen die achtergrond is het opmerkelijk hoe weinig publieke aandacht er uitgaat naar de langetermijngevolgen van de digitale infrastructuur die momenteel wordt ontwikkeld.
Want het gaat niet alleen om sneller internet of slimmere computers. Het gaat om technologie die, afhankelijk van de toepassing, de verhouding tussen burger en overheid fundamenteel kan veranderen.
## Van digitale infrastructuur naar een digitale afspiegeling van de werkelijkheid
Een Digital Twin is een digitale representatie van een fysiek object, proces, systeem of omgeving. Door gegevens uit sensoren, camera's en andere bronnen te combineren, kan zo'n model worden gebruikt om ontwikkelingen te volgen, situaties te simuleren en toekomstige gebeurtenissen te voorspellen.
Bij een brug kan dat betekenen dat slijtage tijdig wordt ontdekt. Bij een elektriciteitsnet kan het helpen om storingen te voorkomen. Bij medische toepassingen kan een digitaal model bijdragen aan betere diagnoses of behandelingen.
Maar dezelfde onderliggende technologie kan ook worden gebruikt om menselijke activiteiten en gedragspatronen te analyseren.
Daar komt 6G bij.
De toekomstige generatie mobiele netwerken wordt niet alleen ontwikkeld om sneller gegevens te verzenden. Onderzoekers werken ook aan AI-geïntegreerde netwerken, zeer nauwkeurige positionering en zogenoemde *Integrated Sensing and Communication*. Daarbij kunnen radiosignalen onder bepaalde omstandigheden niet alleen voor communicatie, maar ook voor detectie van bewegingen en objecten worden gebruikt.
Dat betekent niet dat 6G automatisch iedereen kan identificeren of dat er straks van iedere burger een volledige digitale kopie bestaat. Daarvoor zouden aanvullende gegevensbronnen, identificatiesystemen en technische voorzieningen nodig zijn.
Maar wanneer zulke technologieën worden gecombineerd met cameranetwerken, digitale identiteiten, financiële gegevens, gezondheidsinformatie en AI, ontstaat wel de technische mogelijkheid om steeds uitgebreidere persoonsprofielen samen te stellen.
En precies daar begint het mensenrechtelijke vraagstuk.
Want er bestaat een wereld van verschil tussen technologie die mensen ondersteunt en technologie die mensen voortdurend observeert, beoordeelt of probeert te beïnvloeden.
## Wie bepaalt de richting van deze ontwikkeling?
De ontwikkeling van 6G, AI en Digital Twins wordt mede vormgegeven door overheden, onderzoeksinstellingen, technologiebedrijven en internationale samenwerkingsverbanden.
De Europese Unie investeert via onderzoeksprogramma's en publiek-private samenwerkingen aanzienlijke bedragen in deze technologieën. Dat gebeurt met economische, wetenschappelijke en maatschappelijke doelstellingen.
Tegelijkertijd spelen internationale netwerken zoals het World Economic Forum, de Trilateral Commission en de Bilderberg-bijeenkomsten een rol in de bredere uitwisseling van ideeën tussen invloedrijke politici, ondernemers, wetenschappers en bestuurders.
Deze organisaties zijn niet democratisch gekozen. Ze hebben ook niet zelfstandig de bevoegdheid om Nederlandse of Europese wetgeving vast te stellen.
Dat onderscheid is belangrijk.
Maar het ontbreken van formele wetgevende macht betekent niet dat dergelijke netwerken geen invloed kunnen hebben op beleidsvorming, politieke prioriteiten of internationale samenwerking.
Wanneer invloedrijke personen elkaar regelmatig ontmoeten, gezamenlijk beleidsideeën ontwikkelen en toegang hebben tot besluitvormers, ontstaan legitieme vragen over transparantie, belangenverstrengeling en democratische verantwoording.
Dat bewijst niet dat deze organisaties gezamenlijk een geheim plan uitvoeren om de bevolking te controleren. Voor zo'n conclusie is concreet bewijs nodig.
Maar het roept wel een andere, minstens zo belangrijke vraag op:
**Hoe democratisch is een besluitvormingsproces wanneer de richting van ingrijpende maatschappelijke veranderingen grotendeels wordt voorbereid binnen netwerken waartoe gewone burgers nauwelijks toegang hebben?**
Er bestaan Europese consultaties en democratische besluitvormingsprocedures rond digitale technologie. Het zou daarom onjuist zijn om te stellen dat burgers helemaal geen mogelijkheden tot inspraak hebben.
De vraag is echter of die mogelijkheden voldoende zijn.
Een openbare consultatie is niet automatisch hetzelfde als daadwerkelijke invloed op fundamentele keuzes. Zeker niet wanneer technische standaarden, financieringsprogramma's en infrastructuurinvesteringen al vergevorderd zijn.
Wanneer technologie gevolgen kan hebben voor privacy, autonomie, vrijheid van meningsuiting en de verhouding tussen overheid en burger, mag democratische betrokkenheid geen formaliteit worden.
## Een samenleving waarin de burger steeds transparanter wordt, maar de macht niet
Een van de grootste risico's van deze ontwikkelingen is de toenemende informatieongelijkheid tussen burgers en machtige instellingen.
Overheden en bedrijven kunnen steeds meer gegevens verzamelen over ons gedrag, onze bewegingen, onze financiële situatie, onze gezondheid en onze persoonlijke voorkeuren.
Tegelijkertijd is het voor burgers vaak bijzonder moeilijk om te achterhalen welke gegevens precies worden verwerkt, hoe algoritmen functioneren en welke conclusies daaruit worden getrokken.
Dat kan leiden tot een situatie waarin burgers steeds transparanter worden voor organisaties, terwijl de besluitvorming van die organisaties juist moeilijk controleerbaar blijft.
En dat is een fundamenteel democratisch probleem.
In een vrije samenleving hoort de overheid verantwoording af te leggen aan de burger. Niet andersom.
Een overheid mag bevoegdheden uitoefenen binnen de grenzen van de wet, maar moet daarbij de fundamentele rechten van burgers respecteren. Die rechten zijn er juist om individuen te beschermen tegen willekeur en machtsmisbruik.
Het zou daarom bijzonder problematisch zijn wanneer een technologische infrastructuur ontstaat waarmee burgers voortdurend kunnen worden gevolgd, geprofileerd of beoordeeld, zonder dat daar voldoende wettelijke waarborgen tegenover staan.
De vraag is niet alleen of huidige bestuurders zulke mogelijkheden zouden misbruiken.
De vraag is ook welke bevoegdheden toekomstige bestuurders erven.
**Een samenleving moet haar vrijheden niet afhankelijk maken van de goede bedoelingen van degenen die op een bepaald moment aan de macht zijn.**
## De mensenrechten stellen al duidelijke grenzen
Wat in het debat over deze technologie vaak onderbelicht blijft, is dat verschillende mogelijke toepassingen niet alleen ethisch omstreden zijn, maar onder bepaalde voorwaarden nu al juridisch verboden.
De fundamentele rechten waarop onze democratische rechtsstaat is gebouwd, gelden immers ook in een digitale samenleving.
Artikel 12 van de Universele Verklaring van de Rechten van de Mens beschermt tegen willekeurige inmenging in het privéleven.
Artikel 17 van het Internationaal Verdrag inzake burgerrechten en politieke rechten biedt eveneens bescherming tegen willekeurige of onrechtmatige inmenging in het privéleven.
Artikel 8 van het Europees Verdrag voor de Rechten van de Mens beschermt het privéleven, gezinsleven, de woning en correspondentie.
Daarnaast beschermen de artikelen 7 en 8 van het EU-Handvest respectievelijk het privéleven en persoonsgegevens.
In Nederland vormt artikel 10 van de Grondwet een belangrijke basis voor de bescherming van de persoonlijke levenssfeer.
Deze rechten zijn niet absoluut. Onder bepaalde omstandigheden mogen beperkingen worden opgelegd. Maar daarvoor moeten strikte voorwaarden worden vervuld.
Een inmenging moet een voldoende duidelijke wettelijke basis hebben, een legitiem doel dienen en noodzakelijk en evenredig zijn. Ook moeten er effectieve waarborgen tegen willekeur en misbruik bestaan.
Dat betekent dat een overheid niet onbeperkt persoonsgegevens mag verzamelen enkel omdat de technologie daarvoor beschikbaar is.
Technische mogelijkheden vormen geen zelfstandige juridische rechtvaardiging.
## Sommige AI-systemen zijn nu al verboden
De Europese AI-verordening, Verordening (EU) 2024/1689, bevat in artikel 5 expliciete verboden op bepaalde AI-praktijken. Deze verboden zijn sinds 2 februari 2025 van toepassing.
Dat is bijzonder relevant voor de ontwikkeling van digitale persoonsmodellen en systemen die menselijk gedrag analyseren.
**Social scoring**
AI-systemen die personen gedurende een bepaalde periode beoordelen op basis van sociaal gedrag of bekende, afgeleide of voorspelde persoonlijke kenmerken, kunnen onder het wettelijke verbod op sociale scoring vallen.
Het verbod ziet op systemen die leiden tot bepaalde vormen van nadelige of ongunstige behandeling, bijvoorbeeld in een niet-gerelateerde sociale context of op een ongerechtvaardigde of onevenredige manier.
Een overheid of onderneming kan dus niet zomaar een algemeen systeem ontwikkelen waarin burgers op basis van gedragspatronen worden beoordeeld en vervolgens ongerechtvaardigd worden benadeeld.
**Schadelijke manipulatie**
De AI-verordening verbiedt bepaalde AI-systemen die manipulatieve of misleidende technieken gebruiken en daarmee de mogelijkheid van personen om geïnformeerde beslissingen te nemen wezenlijk aantasten, wanneer daardoor aanzienlijke schade ontstaat of redelijkerwijs waarschijnlijk is.
Hier raakt de wet direct aan het principe van menselijke autonomie.
**Ongerichte verzameling van gezichtsbeelden**
De AI-verordening verbiedt het op de markt brengen, in gebruik stellen voor dit specifieke doel of gebruiken van AI-systemen die databanken voor gezichtsherkenning creëren of uitbreiden door ongericht gezichtsbeelden van internet of camerabeelden te verzamelen.
**Biometrische categorisering van gevoelige kenmerken**
Ook AI-systemen die biometrische gegevens gebruiken om bepaalde gevoelige eigenschappen van personen af te leiden, waaronder politieke opvattingen en religieuze overtuigingen, vallen binnen de wettelijke omschrijving van verboden praktijken, behoudens de relevante afbakeningen en uitzonderingen.
**Voorspellende criminaliteitsprofilering**
AI-systemen die het risico beoordelen dat een natuurlijke persoon een strafbaar feit zal plegen, uitsluitend op basis van profilering of beoordeling van persoonlijkheidskenmerken, zijn eveneens onder de omschreven voorwaarden verboden.
Dat is een bijzonder belangrijke grens.
In een rechtsstaat mag iemand niet worden behandeld alsof hij een misdrijf heeft gepleegd enkel omdat een algoritme voorspelt dat hij dat misschien ooit zal doen.
Deze verboden betekenen niet dat iedere Digital Twin of iedere vorm van AI-profilering verboden is. Maar ze betekenen wel dat sommige mogelijke toepassingen van een grootschalig digitaal controlesysteem al op voorhand buiten de wettelijke grenzen vallen.
En bij de expliciet verboden AI-praktijken hoeft niet eerst te worden gewacht totdat een individuele burger aantoonbare schade heeft geleden om de wettelijke verboden te kunnen handhaven.
## Nederland heeft al een belangrijk precedent: de SyRI-uitspraak
Dat deze juridische bezwaren niet uitsluitend theoretisch zijn, blijkt uit een belangrijke Nederlandse rechtszaak.
Op 5 februari 2020 deed de rechtbank Den Haag uitspraak over SyRI, het Systeem Risico Indicatie.
Met SyRI wilde de Nederlandse overheid gegevens uit verschillende overheidsbronnen combineren om risico's op fraude met onder andere uitkeringen, toeslagen en belastingen te identificeren.
Het systeem werkte met risicomeldingen op basis van gegevensanalyse.
De rechtbank oordeelde dat de wettelijke regeling onvoldoende transparant en controleerbaar was en niet voldeed aan de eisen van artikel 8 van het Europees Verdrag voor de Rechten van de Mens.
De SyRI-regelgeving werd daarom onverbindend verklaard.
Dit was geen algemeen verbod op algoritmische fraudedetectie. Maar de uitspraak laat wel zien dat een overheidssysteem voor grootschalige risicoprofilering juridisch kan worden tegengehouden wanneer de wettelijke waarborgen tekortschieten.
En daarvoor hoefde niet eerst iedere individuele burger afzonderlijk schade aan te tonen.
De betekenis voor toekomstige digitale infrastructuur is duidelijk: ook wanneer een overheid een systeem ontwikkelt met een op zichzelf legitiem doel, zoals fraudebestrijding of veiligheid, blijft zij gebonden aan fundamentele mensenrechten.
Een goedbedoeld doel maakt niet automatisch ieder middel rechtmatig.
## De wet stelt al eisen voordat systemen worden uitgerold
Ook de Algemene verordening gegevensbescherming, de AVG, is hier van groot belang.
Artikel 5 bevat onder andere de beginselen van rechtmatigheid, transparantie, doelbinding en dataminimalisatie.
Artikel 6 vereist een geldige rechtsgrond voor de verwerking van persoonsgegevens.
Artikel 9 biedt extra bescherming voor bijzondere categorieën persoonsgegevens, zoals gezondheidsgegevens en gegevens over politieke of religieuze overtuigingen.
Artikel 25 verplicht organisaties rekening te houden met gegevensbescherming door ontwerp en door standaardinstellingen.
En artikel 35 vereist bij bepaalde verwerkingen met een hoog risico een gegevensbeschermingseffectbeoordeling voordat de verwerking begint.
Wanneer een hoog risico niet voldoende kan worden beperkt, kan voorafgaande raadpleging van de toezichthouder op grond van artikel 36 noodzakelijk zijn.
Dit betekent dat privacy en gegevensbescherming niet pas relevant worden wanneer een systeem volledig operationeel is.
Ze moeten al worden meegenomen tijdens de ontwikkeling en inrichting.
Een overheid of technologiebedrijf kan dus niet zonder meer een systeem bouwen, het in gebruik nemen en pas daarna onderzoeken of de verwerking van persoonsgegevens rechtmatig is.
## Welke projecten worden momenteel daadwerkelijk ontwikkeld?
Er bestaan al concrete Europese onderzoeksinitiatieven die laten zien hoe ver de ontwikkeling van deze technologie is gevorderd.
Het Europese project **6G-TWIN** richt zich op digitale modellen van toekomstige 6G-netwerken, onder andere voor AI-gestuurde optimalisatie en netwerkbeheer.
Daarnaast ondersteunt de Europese Commissie het **European Virtual Human Twins Initiative**, gericht op digitale modellen van het menselijk lichaam voor medische toepassingen.
Via de **Smart Networks and Services Joint Undertaking** worden bovendien onderzoeksprojecten naar toekomstige communicatienetwerken, AI-integratie en nieuwe netwerktoepassingen gefinancierd.
Dit zijn bestaande, publiek beschreven onderzoeksinitiatieven.
Op basis van hun algemene projectbeschrijvingen kan niet worden geconcludeerd dat ze mensenrechten schenden of bedoeld zijn om burgers te controleren.
Maar juist daarom is een diepgaand onafhankelijk onderzoek naar technische ontwerpdocumenten, datastromen, financieringsvoorwaarden en juridische waarborgen noodzakelijk.
Want de vraag is niet alleen wat organisaties zeggen dat ze willen bereiken.
De vraag is ook welke mogelijkheden de systemen daadwerkelijk creëren, hoe ze later kunnen worden uitgebreid en welke partijen toegang krijgen tot de infrastructuur en gegevens.
## Wanneer wordt het juridisch ontoelaatbaar?
Er moet onderscheid worden gemaakt tussen drie situaties.
De eerste situatie is een systeem dat rechtstreeks onder een wettelijk verbod valt, bijvoorbeeld bepaalde vormen van sociale scoring of verboden biometrische categorisering.
In dat geval kan het op de markt brengen, in gebruik stellen of gebruiken al verboden zijn. De precieze reikwijdte hangt af van de wettelijke omschrijving.
De tweede situatie betreft systemen die op zichzelf niet verboden zijn, maar waarbij de voorgenomen verwerking van persoonsgegevens geen geldige rechtsgrond heeft of niet voldoet aan de eisen van noodzakelijkheid, proportionaliteit en gegevensbescherming.
Dergelijke systemen kunnen niet rechtmatig worden ingezet zolang die tekortkomingen niet zijn opgelost.
De derde situatie betreft systemen die maatschappelijk of democratisch omstreden zijn, maar niet rechtstreeks onder een wettelijk verbod vallen.
Daar is het aan burgers, volksvertegenwoordigers, toezichthouders en maatschappelijke organisaties om te beoordelen of aanvullende wettelijke beperkingen nodig zijn.
Niet iedere ethische zorg is automatisch een juridische overtreding.
Maar omgekeerd geldt ook dat een systeem niet automatisch maatschappelijk wenselijk is omdat het binnen de huidige wetgeving past.
## De fundamentele vraag: wie controleert de controleurs?
De combinatie van AI, Digital Twins, biometrische technologie, digitale identiteiten en toekomstige communicatienetwerken kan een samenleving enorme voordelen bieden.
Maar dezelfde combinatie kan, wanneer wettelijke en democratische grenzen onvoldoende worden bewaakt, ook een infrastructuur creëren waarmee burgers op ongekende schaal kunnen worden geobserveerd en beoordeeld.
Het grootste gevaar hoeft daarvoor niet eens voort te komen uit een gezamenlijk geheim plan.
Een technologiebedrijf wil meer gegevens om zijn dienstverlening te verbeteren. Een overheid wil fraude efficiënter opsporen. Een verzekeraar wil risico's nauwkeuriger inschatten. Een werkgever wil prestaties meten. Een veiligheidsdienst wil dreigingen eerder herkennen.
Elk afzonderlijk doel kan verdedigbaar zijn.
Maar wanneer al die systemen uiteindelijk aan elkaar worden gekoppeld, kan een infrastructuur ontstaan waarin het individu steeds minder controle heeft over zijn eigen gegevens en de beslissingen die op basis daarvan worden genomen.
Dat is precies waarom democratische controle en fundamentele rechten geen bijzaak mogen zijn.
De mensenrechten zijn immers niet uitsluitend bedoeld om burgers te beschermen tegen machthebbers die vandaag verkeerde bedoelingen hebben.
Ze zijn bedoeld om te voorkomen dat macht ooit onbeperkt kan worden uitgeoefend.
Daarom zou iedere grootschalige implementatie van technologie die menselijke activiteiten kan volgen, profileren of beïnvloeden vooraf moeten worden getoetst aan de fundamentele rechten van de mens.
Niet alleen door de organisaties die de technologie ontwikk
