Verantwoorde Inkoop AI (VIA) - Via Proces- en Techniekverbeteringen naar een VIA-ontwerp voor Gemeenten

Lokale overheden zien de meerwaarde van AI-toepassingen voor het verbeteren van hun dienstverlening, zoals chatbots voor betere toegankelijkheid, automatische formulierverwerking voor snellere processen, vroegtijdige signalering van hulpvragen, en automatische updates voor actuele informatie. Tegelijk introduceert AI ook potentiële risico’s voor de inwoners en ondernemers binnen de gemeenten, zoals negatieve effecten op gelijkheid, privacy en betrouwbaarheid. Onder de richtlijnen van de AVG en de Europese AI-Verordening moeten lokale overheden deze risico's beheersen om AI te mogen inzetten voor het creëren van publieke waarde. Gemeenten geven aan hun AI-toepassingen voornamelijk in te kopen, waardoor hun AI-risicomanagement voornamelijk gericht is op het inkoop- en implementatieproces. Statische instrumenten zoals inkoopvoorwaarden en modelcontracten zijn niet toereikend, aangezien ze uitgaan van uniforme risico’s. Echter, de risico’s van AI zijn sterk afhankelijk van de sociale en technische context; zo beïnvloeden bijvoorbeeld de datakwaliteit en de expertise binnen een lokale overheid hoe risicovol een AI-toepassing is. Verantwoorde inkoop en implementatie van AI door gemeenten vereist nu een duurzame en robuuste oplossing bestaande uit een evaluatieproces en -omgeving specifiek afgestemd op de gemeentelijke context en -inkoopprocessen.
Dit project ontwikkelt een socio-technische toolboox voor Verantwoorde Inkoop AI (stt-VIA): we ontwikkelen een stt-VIA dat lokale overheden ondersteunt in het toevoegen van publieke waarde door middel van procesverbeteringen en technische tests. Procesverbeteringen, zoals het afstemmen van de AI-toepassing op ambtelijke gebruikers en technische tests voor, bijvoorbeeld, non-discriminatie. Het project gebruikt een design science aanpak waarbij we iteratief ontwikkelen aan de hand van inkoop-casussen van de betrokken overheden om te komen tot een VIA-ontwerp. Dit resulteert in een verantwoord sociaal-technisch ontwerp dat gemeenten helpt bij het vergelijken en aankopen van AI, waarbij risico’s zoals privacy, gelijkheid en betrouwbaarheid worden beheerst, terwijl innovatie voor publieke dienstverlening wordt gestimuleerd.