Hoe kan het waterschap Artificial Intelligence inzetten?

Ons waterschap wil Artificial Intelligence graag inzetten voor effectiever waterbeheer. Hoe kunnen we dit doen, welke kaders zijn van toepassing en hoe gaan we om met eventuele risico’s?

Antwoord in het kort

Met het gebruik van Artificial Intelligence (AI) kan het waterschap ervoor zorgen dat er effectieve systemen voor het waterbeheer worden gecreëerd. AI brengt wel als risico met zich mee dat het algoritme een eigen leven kan gaan leiden. Dit kan leiden tot ernstige fouten of juist zelfregulatie van het systeem. Om dit te reguleren heeft de Europese Commissie in april 2021 een voorstel voor een verordening gedaan. Hierin worden regels gesteld aan de hand van de risico’s van een AI-systeem. Wanneer deze regels definitief zijn vastgesteld moet het waterschap zich aan deze kaders houden. Het is echter ook nu al noodzakelijk om transparant te zijn over het gebruik van algoritmen.

Wat is Artificial Intelligence?

AI is een verzameling technologieën die data, algoritmen en rekenkracht combineren. Het verwijst naar de simulatie van menselijke intelligentie in machines die zijn geprogrammeerd om te denken als mensen, en hun acties na te bootsen. Met behulp van technologieën kunnen computers worden getraind om specifieke taken uit te voeren door grote hoeveelheden gegevens te verwerken en patronen in de gegevens te herkennen. Dit leidt tot verbeterde prestaties en productiviteit. AI is een lastig te definiëren en interpreteren begrip.

Europese kaders

Binnen de Europese Unie wordt het belang van AI steeds meer benadrukt. Het Europese beleid over AI is vastgelegd in verschillende actieplannen, richtsnoeren en voorgestelde wet- en regelgeving.

In april 2021 heeft de Commissie een voorstel gedaan voor een nieuwe verordening voor AI, waar momenteel nog over wordt onderhandeld. Deze verordening maakt onderscheid tussen vier risiconiveaus voor AI systemen. Hoe meer risico de technologie met zich meebrengt, hoe strikter de regels die ervoor gelden. Bij de voorgestelde verordening heeft de Commissie ook een communicatie en een nieuw gecoördineerd plan gepubliceerd. Verder wordt in het Europese voorstel gesproken over toezicht op de toepassing en naleving van de verordening. Dit omvat het aanwijzen van nationale bevoegde autoriteiten en toezichthouders door lidstaten. Op Europees niveau wordt het bestaande toezicht uitgebreid door een European Artificial Intelligence Board in het leven te roepen. De Commissie wil de uiteengezette acties daarnaast financieel ondersteunen. Hiervoor staan onder andere de fondsen uit de Digitaal Europa en Horizon Europa-programma’s ter beschikking.

Adviesrapport Comité van de Regio’s

De AI-verordening en de rol van decentrale overheden hierin kwam ook naar voren in een adviesrapport van het Comité van de Regio’s. Volgens het Comité moet er meer aandacht komen voor multilevel governance op het gebied van Artificial Intelligence, gezien de hoeveelheid AI die lokale en regionale overheden toepassen. Verder werd in het advies nadruk gelegd op valide data, transparante algoritmes en menselijke beoordeling op de uitkomst van AI. Lees hierover meer in het interview met initiatiefnemer Guido Rink.

Inzet door decentrale overheden

Decentrale overheden kunnen AI inzetten bij het vinden van oplossingen voor veel maatschappelijke problemen: van gezondheid tot landbouw en van beveiliging tot productie. Het waterschap zou met AI bijvoorbeeld een zelfregulerend watersysteem kunnen opzetten. Hierdoor hoeven medewerkers niet langer zelf de watergang te controleren op vervuiling of vegetatie. Daarnaast zijn er kansen bij de rioolwaterzuiveringsinstallaties en in het belastingdomein. Met AI kunnen zulke dagelijkse processen efficiënter worden gemaakt. Bovendien krijgt het waterschap na verloop van tijd met AI steeds meer inzicht in het functioneren van het watersysteem. Zo kan het systeem ook klimaatbestendiger worden gemaakt.

Risico’s van Artificial Intelligence

AI is een zelflerend en zelf-programmerend programma. Daardoor bestaat het risico dat het algoritme een eigen leven gaat leiden. Voor het waterschap zou dit kunnen betekenen dat het de controle verliest over verschillende systemen in het waterbeheer.

Om te voorkomen dat het algoritme ernstige fouten maakt die bijvoorbeeld leiden tot (milieu)schade of overtreding van de wet en om te voorkomen dat de uitkomsten van AI tot de schending van grondrechten leiden, is het belangrijk om naast de juridische regels ook rekening te houden met ethische kaders. Daarom heeft de Europese Commissie ethische richtsnoeren voor betrouwbare AI gelanceerd. Deze richtsnoeren zijn bedoeld om het bewustzijn van het gebruik en de risico’s van AI te versterken. De Commissie heeft hierin vastgesteld dat AI wettig, ethisch en robuust moet zijn.

Om decentrale overheden te ondersteunen bij de bouw van betrouwbare zelflerende algoritmes zijn er ook meerdere AI Impact Assessments (AIIA) beschikbaar. Op basis van een AIIA kan een organisatie zelf het ethische kader bepalen en verantwoording afleggen over betrouwbaarheid, veiligheid en transparantie. Zo kan het waterschap grip krijgen en behouden op de systemen die voortkomen uit AI.

Het lijkt er in de praktijk wel op dat de meeste risico’s binnen AI zich voordoen bij de Rijksoverheid en gemeenten, en dat dit momenteel in mindere mate een probleem lijkt te zijn voor waterschappen. De Rijksoverheid en gemeenten zullen dus manieren moeten vinden om grip te houden op de algoritmes. De gemeente Amsterdam doet dit bijvoorbeeld door modelbepalingen voor verantwoord gebruik van algoritmische toepassingen te ontwikkelen.