Parlementaire Commissies keuren nieuwe AI regels goed

Op donderdag 11 mei hebben leden van de Commissie interne markt en de Commissie burgerlijke vrijheden binnen het Europees Parlement (EP) gestemd over een concept onderhandelingsmandaat. Het ging over de allereerste regels voor kunstmatige intelligentie. Door middel van wijzigingsvoorstellen willen de EP-leden voor elkaar krijgen dat AI-systemen wél onder toezicht van mensen staan en dat deze veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn.

AI-verordening

De AI verordening is in 2021 voorgesteld omdat er in de huidige regelgeving onvoldoende rekening met de risico’s wordt gehouden. De AI verordening heeft een op risico gebaseerde aanpak. Hoe risicovoller de technologie, hoe strenger de regels. Daarin wordt onderscheid gemaakt tussen vier AI-systemen:

Onaanvaardbaar risico
Hoog risico
Beperkt risico
Minimaal risico

Lees hier de uitgebreide toelichting over de verschillende systemen.

Aanpassingen

Beide commissies willen een overal toepasbare, technologie neutrale definitie van AI-systemen. Op die manier is de definitie van toepassing op alle soorten AI. De EP-leden hebben onder andere verboden op bepaalde vormen van AI toegevoegd. Ook zijn de systemen die worden aangemerkt als hoog risico zijn uitgebreid. Verder zijn er regels voor AI-modellen voor algemeen gebruik en aanvullende transparantie eisen voor content producerende basismodellen zoals GPT toegevoegd. Er blijft ook ruimte voor het onderzoeken van nieuwe vormen van kunstmatige intelligentie.

Verbieden en uitbreiding hoog risico

De EP-leden willen dat er een verbod komt op opdringerig en discriminerend gebruik van AI-systemen. Voorbeelden hiervan zijn het verbieden van biometrische surveillance, emotieherkenning en voorspellende politiesystemen die gebaseerd zijn op profilering of locatie.

Verder is de classificatie van systemen die als hoog risico kunnen worden aangemerkt uitgebreid. EP-leden willen dat schade aan de gezondheid, veiligheid, grondrechten of het milieu van mensen ook daaronder valt. Daarnaast worden systemen die kiezers beïnvloeden in politieke campagnes en aanbevelingssystemen, zoals algoritmen, gebruikt door sociale mediaplatforms (met meer dan 45 miljoen gebruikers onder de Digital Services Act) toegevoegd aan de lijst met hoge risico systemen.

Modellen voor algemeen gebruik

De commissies hebben ook nieuwe regels voor AI-modellen voor algemeen gebruik toegevoegd. Deze modellen moeten een robuuste bescherming van grondrechten, gezondheid, veiligheid, milieu, democratie en de rechtstaat garanderen. Risico’s van deze modellen moeten worden beoordeeld en beperkt. Verder moeten deze modellen voldoen aan ontwerp-, informatie- en milieueisen en geregistreerd worden in de EU-databank.

Voor content producerende basismodellen zoals GPT gelden aanvullende transparantie-eisen. Denk hierbij aan een disclaimer waarmee wordt benadrukt dat de inhoud door AI is gegenereerd en dat wordt voorkomen dat illegale inhoud en het publiceren van samenvattingen van auteursrechtelijk beschermde gegevens voor trainingen worden gebruikt.

Om AI-innovatie te stimuleren voegden EP-leden vrijstellingen toe voor onderzoeksactiviteiten en AI-componenten die worden geleverd onder open-sourcelicenties. De nieuwe wet promoot gecontroleerde omgevingen die door de overheid zijn opgezet om AI te testen voordat deze wordt ingezet. Tenslotte willen EP-leden dat burgers het recht hebben om klachten over AI-systemen in te kunnen dienen.

Decentrale relevantie

AI is voor decentrale overheden in toenemende mate relevant. Door slim gebruik te maken van AI bij onder andere infrastructuur, afval en toezicht kunnen steden bijvoorbeeld efficiënter en duurzamer ingericht worden. Nederland heeft op dit moment nog geen wetgeving omtrent AI. Wel wordt het gebruikt in producten, diensten en processen die al gereguleerd zijn. De benoeming van AI in sectorale wetgeving betekent echter niet dat het algemeen regelgevend kader voldoende voorbereid is op de inzet van AI. Daarom zijn er nieuwe regels en instrumenten nodig. De AI-verordening zal hier een grote verandering in brengen.

Vervolgstappen

De goedkeuring door de parlementaire commissies is een belangrijke stap voor de AI Verordening. Het concept-onderhandelingsmandaat moet nu door het hele Parlement worden goedgekeurd. Deze zitting wordt verwacht tussen 12 en 15 juni. Daarna kunnen de onderhandelingen met de Raad over de definitieve vorm van de wet beginnen. Naar verwachting volgt begin 2024 een overeenkomst.