Guido Rink is de initiatiefnemer van het adviesrapport over Artificial Intelligence-wetgeving van het Europees Comité van de Regio’s. Dit Comité vertegenwoordigt lokale en regionale overheden in de Europese Unie en verleent advies over nieuwe wetten. Rink is wethouder bij de gemeente Emmen en houdt zich onder meer bezig met Economie, Internationale betrekkingen, Regiomarketing en Noordelijke Samenwerking. Daarnaast is hij plaatsvervangend lid van het Comité van de Regio’s, bij de commissie Sociaal Beleid, Onderwijs, Werkgelegenheid, Onderzoek en Cultuur (SEDEC). Dit adviesrapport is een vervolg op zijn advies over het AI-Witboek uit 2020.
Kenniscentrum Europa Decentraal ging met hem in gesprek.
Artificial Intelligence (ook wel AI of Kunstmatige Intelligentie genoemd) speelt een steeds grotere rol in onze samenleving. Artificial Intelligence is een verzameling technologieën die data, algoritmen en rekenkracht combineren. Ook in de publieke sector is deze ontwikkeling te zien. Decentrale overheden maken bijvoorbeeld gebruik van AI door dit in te zetten bij chatbots, om burgers sneller te begrijpen. Een ander voorbeeld is de inzet van langsrijdende camera-auto’s om parkeercontroles uit te voeren.
U adviseert namens gemeenten en provincies vanuit het Comité van de Regio’s de Europese Commissie over Artificial Intelligence. Waarom is dat onderwerp relevant voor decentrale overheden?
Rink legt uit: “Lokale en regionale overheden zijn het beste in staat om bij te dragen aan het scheppen van een gunstig klimaat voor een toename van de investeringen in Artificial Intelligence (hierna AI) in de komende jaren en in het bevorderen van het vertrouwen hierin.
Verder wordt vanuit de Europese Commissie verwacht dat de verschillende overheidslagen gezamenlijk coördineren, kennis delen en samenwerken. Dit vraagt om een multi-level governance, waarbij netwerken van lokaal, regionaal, nationaal en Europees niveau met elkaar worden verbonden.”
Sterke voorbeelden van het gebruik van AI bij decentrale overheden zijn volgens Rink de camera’s en sensoren die in een park hangen. Op basis van deze gegevens kan door middel van telefonie en sociale media bijvoorbeeld de straatverlichting feller worden, om zodoende mogelijke onwenselijke situaties in de kiem te smoren. Rink geeft aan dat AI eveneens een bijdrage kan leveren bij het opsporen van fraude en het versnellen van besluitvorming. Ook waterschappen maken steeds meer gebruik van AI. Europa decentraal schreef hier eerder een praktijkvraag over.
Het lijkt erop dat het gebruik van Artificial Intelligence decentrale overheden vele mogelijkheden kan bieden. Wat zijn precies de kansen van Artificial Intelligence? En wat zijn juist de gevaren?
“AI kan bedrijven en overheden helpen met verdere innovaties om bij te dragen aan de aanpak van maatschappelijke vraagstukken. Belangrijk is wel dat er zorgvuldig met deze gegevens moet worden omgegaan en dat de waarden en de rechten van de inwoners van de Europese Unie gewaarborgd worden. Daarom is het belangrijk dat er gebruik gemaakt wordt van valide data, dat er transparantie is over het gebruikte algoritme en dat er altijd een menselijke beoordeling plaatsvindt op de output, anders kan er bijvoorbeeld grootschalige discriminatie plaatsvinden via risicoprofilering.”
Rink vertelt dat er in het ontwerpadvies voor de AI-verordening verschillende voorstellen zijn gedaan om Artificial Intelligence beter te definiëren. “Daarnaast wordt er ingegaan op de risico’s en de kansen van AI, ook voor decentrale overheden. AI is immers een zelflerend en zelf-programmerend programma. Daardoor bestaat het risico dat er ernstige fouten gemaakt gaan worden. De inzet van AI kan hierdoor leiden tot vormen van discriminatie, schending van privacy en persoonsgegevens of inbreuk op sommige vrijheden. Een AI-systeem kan bijvoorbeeld mensen filteren bij sollicitatieprocedures.”
Rink: “Het is belangrijk om altijd scherp te blijven bij het toepassen van AI en na te denken over bijvoorbeeld privacy. Daarbij moeten we uiteraard de innovatiezijde en kansen van AI niet uit het oog verliezen. AI kan helpen bij bijvoorbeeld de efficiëntie van processen en het toepasbaar maken van verschillende data en algoritmes, waardoor meer kennis beschikbaar is.”
De Europese Commissie is van mening dat de huidige Europese regelgeving de (toekomstige) risico’s van AI onvoldoende adresseert. In het kader van veiligheid, aansprakelijkheid, fundamentele rechten en data-uitwisseling was het noodzakelijk om AI-wetgeving verder te ontwikkelen. Daarom presenteerde de Europese Commissie in april 2021 een AI-regelgevingskader. Hierbij hoorde onder meer een verordening die vier verschillende AI-systemen definieert. De verordening heeft een op risico gebaseerde aanpak: hoe meer risico de technologie met zich meebrengt, hoe strikter de regels die ervoor gelden. De volgende vier AI-systemen worden benoemd:
- Onaanvaardbaar risico;
- Hoog risico;
- Beperkt risico;
- Minimaal risico.
Tegelijkertijd met de verordening heeft de Europese Commissie ook een communicatie en een nieuw gecoördineerd plan gepubliceerd.
Wat is volgens u het belang van de in april 2021 voorgestelde verordening voor Artificial Intelligence?
“Het belang van deze verordening is dat er harmoniserende regels komen voor een toepassing van AI die de kansen van AI bevordert, maar geen afbreuk doet aan fundamentele rechten, waarden en vrijheden van onze samenleving.”
Rink geeft aan dat het voorstel voor de verordening aansluit bij het eerder uitgebrachte Witboek dat inging op de kansen en risico’s van het gebruik van AI. Wel noemt hij een groot gemis: “In het voorstel van de AI-verordening werden de lokale en regionale overheden helaas niet genoemd.”
Lokale en regionale overheden werden in het voorstel van de AI-verordening helaas niet genoemd. Dat is een groot gemis.”
U hebt geadviseerd over de AI-verordening en dit advies is onlangs aangenomen in de plenaire vergadering van het Comité van de Regio’s. Wat is de strekking van het advies?
“In het advies worden een aantal suggesties gedaan om het voorstel van de Europese Commissie te wijzigen, bijvoorbeeld met betrekking tot definitie van Artificial Intelligence en sociale classificatie. Ook wordt er nader ingegaan op de risico’s en de kansen van AI, ook voor decentrale overheden.
Verder zijn in het ontwerpadvies een aantal voorstellen gedaan om lokale en regionale overheden zeker te betrekken. Het is namelijk van belang dat decentrale overheden geconsulteerd en geïnformeerd worden bij de toepassing van biometrische identificatie in openbare ruimten. Daarbij moet het dus mogelijk zijn om toezicht te houden op AI-systemen en deze te handhaven wanneer dat door de lidstaat als passend wordt geacht. Over het algemeen moet er meer aandacht komen voor multi-level governance en interbestuurlijke samenwerking in verband met de hoeveelheid AI die lokale en regionale overheden toepassen. Ook is in het advies aangegeven dat het van groot belang is dat lokale en regionale overheden betrokken worden bij het (op te richten) Europees Comité voor Artificial Intelligence. Dit Comité zal de Europese Commissie voorzien in advies en bijstand met betrekking tot de toepassing van AI.”
Andere belangrijke pijlers uit het advies zijn: valide data, transparante algoritmes en menselijke beoordeling op de uitkomst. Uit de gesprekken die Rink vooraf met leden uit verschillende landen en Europarlementariërs heeft gevoerd voor het adviesrapport bleek al dat decentrale overheden steeds meer aandacht hebben voor AI. Dat komt voor Rink overigens niet als een verrassing, omdat er op lokaal en regionaal niveau steeds meer gebruik wordt gemaakt van Artificial Intelligence.
In het advies van het Comité van de Regio’s worden suggesties gedaan om het voorstel van de Europese Commissie te wijzigen. Daarnaast wordt er nader ingegaan op de risico’s en kansen van AI, ook voor decentrale overheden.”
Wat gaat er nu met het advies gebeuren?
“Het advies wordt nu na vaststelling gedeeld met de lidstaten, de Europese Commissie en het Europees Parlement. De Europese Commissie moet dit initiatief in overweging nemen. Uiteindelijk zal het besluit worden gemaakt door de lidstaten (de Raad van de EU) en het Europees Parlement nadat de Europese Commissie een voorstel heeft gedaan.”
In Nederland zijn op dit moment geen wetten die AI-toepassingen reguleren. Dat betekent niet dat er helemaal geen regels zijn. Artificial Intelligence zit ook in producten, diensten en processen die al wel gereguleerd zijn. Als de Europese verordening omtrent Artificial Intelligence wordt aangenomen zal Nederland de bepalingen moeten doorvoeren in nationale wet- en regelgeving. Het is op dit moment nog niet duidelijk wanneer dit zal zijn.
Wilt u meer weten over AI? Bekijk dan onze webpagina Artificial Intelligence.
Met dank aan
Guido Rink, wethouder bij de gemeente Emmen en rapporteur Artificial Intelligence voor het Europees Comité van de Regio’s
