EU wil deur openen voor biometrische massasurveillance, blijkt uit gelekt voorstel

De Europarlementariër Patrick Breyer van de Duitse Piratenpartij kreeg het voorstel in handen, dat is opgesteld door het voorzitterschap van de Raad van de Europese Unie (EU). Het voorstel zet uiteen hoe men ‘geharmoniseerde regels’ wil invoeren bij de implementatie van de AI Act, een wet aangaande kunstmatige intelligentie (AI). “We moeten een dystopische toekomst in China-stijl van biometrische massasurveillance in Europa voorkomen,” waarschuwt Breyer.

Veiligheid

De vergaande voorstellen in het document worden gepresenteerd als een verbetering van ieders veiligheid. Zo wil men de ordehandhaving toestaan om AI-systemen te gebruiken voor ‘realtime biometrische identificatie op afstand’ van mensen in de openbare ruimte bij ‘het zoeken naar potentiële slachtoffers van misdrijven, inclusief vermiste kinderen’. Dit zou ook mogelijk moeten worden bij ‘bepaalde levensbedreigende situaties, wanneer iemands fysieke veiligheid wordt bedreigd, of bij terroristische aanslagen’.

De ordehandhaving zou de AI-systemen ook mogen inzetten bij het ‘opsporen, lokaliseren, identificeren of vervolgen’ van daders of verdachten van bepaalde misdrijven die in de lidstaat strafbaar zijn gesteld met een gevangenisstraf, of een tot vrijheidsbeneming strekkende maatregel met een duur van ten minste drie jaar.

Ruime definitie ‘biometrische gegevens’

In het voorstel wordt een zeer ruime definitie gehanteerd van ‘biometrische gegevens’, die veel verder reikt dan slechts vingerafdrukken en gezichtsherkenning. Volgens het document omvatten biometrische gegevens alle ‘persoonsgegevens die het resultaat zijn van een specifieke technische verwerking aangaande de fysieke, fysiologische of gedragskenmerken van een natuurlijk persoon’.

Toestemming en waarborgen

Volgens de regels in het gelekte voorstel zou in de meeste gevallen vereist zijn dat de ordehandhaving ‘voorafgaande toestemming’ moet krijgen van een gerechtelijke of een onafhankelijke administratieve autoriteit in hun lidstaat, in overeenstemming met de regels van het nationale recht. Ook zouden er ‘passende beperkingen in tijd en ruimte’ gelden bij het gebruik van realtime biometrische herkenningstechnologie op afstand en de ordehandhaving zou moeten voldoen aan ‘noodzakelijke en evenredige waarborgen en voorwaarden’.

Noodsituatie

Echter, als de ordehandhaving besluit dat er sprake is van een ‘naar behoren gerechtvaardigde noodsituatie’ staan de regels in dit voorstel toe om realtime biometrische herkenningstechnologie op afstand te gebruiken zonder voorafgaande toestemming.

Volgens het voorstel mag de ordehandhaving alleen in ‘nauw omschreven situaties’ massaal realtime biometrische surveillance-technologie gebruiken. Maar omdat deze technologie zou worden ingezet in de openbare ruimte, zou elke inzet leiden tot het massaal scannen en identificeren van de de fysieke kenmerken van meestal onschuldige mensen.

‘Dystopische toekomst’

"Dit voorstel zou de permanente en alomtegenwoordige inzet van gezichtsherkenning rechtvaardigen," zegt Breyer. "We moeten een dystopische toekomst in China-stijl van biometrische massasurveillance in Europa voorkomen! Deze technologie wordt misbruikt door autoritaire landen als Rusland of Iran. Is dit de richting waarin onze regeringen ons willen leiden?"

Breyer voegde eraan toe: "We moeten opstaan tegen biometrische massasurveillance in onze openbare ruimten, omdat deze technologieën ten onrechte grote aantallen onschuldige burgers rapporteren, ondervertegenwoordigde groepen systematisch discrimineren en een ondermijnend effect hebben op een vrije en diverse samenleving. Wetgeving die ongedifferentieerde massasurveillance mogelijk maakt, is consequent door de rechter nietig verklaard wegens onverenigbaarheid met de grondrechten. Het Europees Parlement zal moeten vechten om dit verbod in de AI-wet ingevoerd te krijgen."

Veel verzet

Beyer stelt dat er veel verzet is tegen biometrische massasurveillance, ondanks dat de technologie wordt gepresenteerd als een verbetering van de veiligheid. “Meer dan tweehonderd maatschappelijke organisaties, activisten, technische specialisten en andere deskundigen uit de hele wereld pleiten voor een wereldwijd verbod op biometrische herkenningstechnologie, die massale en discriminerende surveillance mogelijk maakt. Zij beargumenteren dat ‘deze instrumenten het vermogen hebben om mensen overal waar ze gaan te identificeren, volgen en isoleren, en onze mensenrechten en burgerlijke vrijheden ondermijnen’.”

Daarnaast merkt Breyer op dat het Europees Comité voor gegevensbescherming en de Europese Toezichthouder voor gegevensbescherming hebben opgeroepen tot een ‘algemeen verbod op elk gebruik van kunstmatige intelligentie voor automatische herkenning van menselijke kenmerken in openbaar toegankelijke ruimten’. Ook het mensenrechtenbureau van de Verenigde Naties heeft zich uitgesproken tegen het gebruik van biometrische herkenningstechnologie in openbare ruimten.

Chatcontrole

Breyer is ook een fervent tegenstander van de EU-plannen om chatcontrole verplicht te stellen voor alle aanbieders van e-mail- en berichtendiensten. De Europese Commissie wil kunnen meekijken op tot nu toe veilige end-to-end versleutelde communicatiediensten zoals WhatsApp, Telegram en Signal. Naar eigen zeggen wil het hiermee de verspreiding van kinderporno tegengaan.