Grip op veilig en verantwoord AI gebruik

# **MOTIE GEMEENTERAAD** **Onderwerp:** Grip op veilig en verantwoord AI gebruik De raad van de gemeente Zutphen, in vergadering bijeen, **constateert dat:** |Col1|Col2| |---|---| |**Datum indiening **|15 oktober 2026| i. artificiële intelligentie (AI) zich in hoog tempo ontwikkelt en steeds vaker wordt toegepast binnen gemeentelijke organisaties; ii. AI kansen biedt om de dienstverlening en de uitvoering van gemeentelijke taken te verbeteren, maar ook risico’s met zich meebrengt op het gebied van privacy, gegevensbescherming, informatiebeveiliging, betrouwbaarheid en menselijke autonomie; iii. het voorliggende beleidskader voor verantwoord gebruik van AI een eerste kader biedt voor de toepassing van AI binnen de gemeentelijke organisatie; iv. bij de behandeling van het beleidskader meerdere amendementen zijn ingediend, die onderstrepen dat nadere uitwerking en borging van het AI-beleid van belang zijn; v. in het beleidskader wordt verwezen naar een governance-richtlijn AI en vuistregels voor verantwoord AI-gebruik, die richting geven aan de toepassing van het beleid. **is van mening dat:** a. de snelle ontwikkeling van AI vraagt om een beleidskader dat periodiek wordt getoetst en zo nodig wordt aangepast aan nieuwe toepassingen, inzichten en risico’s; b. verantwoord gebruik van AI vraagt om duidelijke verantwoordelijkheden voor het vaststellen van veiligheidseisen en het toetsen van AI-modellen en -toepassingen; c. AI-toepassingen pas binnen de gemeentelijke organisatie moeten worden ingezet wanneer is vastgesteld dat zij voldoen aan de geldende veiligheidseisen en het gemeentelijke beleidskader; d. periodieke evaluatie en transparante rapportage de raad in staat stellen zijn kaderstellende en controlerende rol te vervullen; e. de raad tijdig inzicht moet hebben in de richtlijnen die de uitvoering van het AI-beleid sturen en in wijzigingen die gevolgen kunnen hebben voor de gemeentelijke praktijk; f. betrokkenheid van de raad bij concrete AI-ontwikkelingen, waar passend en uitvoerbaar, kan bijdragen aan inzicht in de werking, risico’s en uitlegbaarheid van deze toepassingen. **verzoekt het college:** 1. Een AI-specialist aan te wijzen, die verantwoordelijk is voor het vaststellen van de veiligheidseisen voor AI-toepassingen en voor het toetsen van AI-modellen en -toepassingen aan het kader. AI-modellen en -toepassingen die niet door de AI-specialist zijn goedgekeurd, worden geblokkeerd. 2. Het kader in ieder geval jaarlijks te evalueren, voor het eerst uiterlijk twaalf maanden na vaststelling, en zo nodig bijgesteld. Bij de evaluatie wordt beoordeeld of en waar de voorwaarden kunnen worden versoepeld als de veiligheid aantoonbaar is geborgd. De raad ontvangt de uitkomsten van de evaluatie, met een overzicht van de goedgekeurde en geblokkeerde AI-modellen en -toepassingen en van de gemelde incidenten en datalekken. 3. De raad de governance-richtlijn AI ter kennisname aan te bieden, en te informeren over wijzigingen in de governance-richtlijn en in de vuistregels voor verantwoord gebruik van AI. 4. De raad te betrekken bij het vervolg en de ontwikkelingen rond AI, zoals bij het beta-testen van de eigen chatbot van de gemeente. Daarnaast te onderzoeken of en hoe de raad bij deze ontwikkelingen kan worden betrokken, onder meer door deelname aan de beta-test van de chatbot, en vraagt dit na bij de ontwikkelaars." **en gaat over tot de orde van de dag.** **Indiener(s):** A. Verwoort (Kies Bewust Lokaal) **Mede-indiener (s):** Chris Julius (FvD) **Toelichting:** - Het beleidskader is een startpunt en geen dichtgetimmerd beleid. Deze motie zorgt ervoor dat het kader wordt bijgehouden en dat de raad betrokken blijft bij wat daarna volgt. - AI-specialist: het kader noemt alleen dat "een aantal experts" in de organisatie nodig is, en geen functie die de veiligheidseisen vaststelt of toepassingen toetst. Andere amendementen op dit onderwerp verwijzen naar die toetsing. Dit punt legt vast wie dat doet. Modellen en toepassingen die de AI-specialist niet heeft goedgekeurd, worden geblokkeerd. Voldoet een model later wel aan de eisen, dan kan het alsnog worden goedgekeurd en toegevoegd. - Jaarlijkse evaluatie: het kader is vastgesteld als versie 1.0 en noemt geen moment van herziening. AI ontwikkelt zich snel, en de gemeente wil als "slimme volger" meebewegen zonder controle en zorgvuldigheid te verliezen. Een vaste evaluatie maakt dat mogelijk, en de uitkomsten gaan naar de raad. Bij de evaluatie wordt ook beoordeeld of voorwaarden kunnen worden versoepeld wanneer de veiligheid aantoonbaar is geborgd: het kader is eerst strak en wordt pas daarna losser. Met het overzicht van goedgekeurde en geblokkeerde toepassingen en van incidenten kan de raad controleren of de regels werken. Het geeft ook inwoners inzicht, in lijn met het doel transparantie in het kader. - Informatie aan de raad: het kader verwijst naar de governance-richtlijn AI en naar de vuistregels voor verantwoord gebruik. De vuistregels zijn bij de stukken beschikbaar, maar de governancerichtlijn, gepland voor oktober 2026, valt buiten het te nemen besluit. Beide kunnen na vaststelling veranderen zonder dat de raad dat ziet. De raad kan zijn kaderstellende rol alleen vervullen als ze die stukken en wijzigingen kent. - Betrokkenheid bij de ontwikkelingen: het raadsvoorstel kondigt een eigen chatbot voor de hele gemeente aan, ter vervanging van onveilige openbare chatbots. De beta-test van de chatbot is hiervan een voorbeeld: raadsleden die de chatbot in de beta-fase testen, ervaren zelf hoe de toepassing werkt en kunnen beter beoordelen of die voldoet aan het kader, bijvoorbeeld op veiligheid en uitlegbaarheid. Dit geldt ook voor andere ontwikkelingen rond AI. Het college onderzoekt of en hoe de raad kan worden betrokken, en vraagt het na bij de ontwikkelaars; het amendement verplicht niet tot deelname.