Human Values for Smarter Cities. Designing Understandable Machine-Vision Systems in Public Spaces

Smart city technologies, including artificial intelligence and computer vision, promise to bring a higher quality of life and more efficiently managed cities.
However, developers, designers, and professionals working in urban management have started to realize that implementing these technologies poses numerous ethical challenges. Policy papers now call for human and public values in tech development, ethics guidelines for trustworthy A.I., and cities for digital rights. In a democratic society, these technologies should be understandable for citizens (transparency) and open for scrutiny and critique (accountability).
When implementing such public values in smart city technologies, professionals face numerous knowledge gaps. Public administrators find it difficult to translate abstract values like transparency into concrete specifications to design new services. In the private sector, developers and designers still lack a ‘design vocabulary’ and exemplary projects that can inspire them to respond to transparency and accountability demands. Finally, both the public and private sectors see a need to include the public in the development of smart city technologies but haven’t found the right methods.
This proposal aims to help these professionals to develop an integrated, value-based and multi-stakeholder design approach for the ethical implementation of smart city technologies. It does so by setting up a research-through-design trajectory to develop a prototype for an ethical ‘scan car’, as a concrete and urgent example for the deployment of computer vision and algorithmic governance in public space.
Three (practical) knowledge gaps will be addressed. With civil servants at municipalities, we will create methods enabling them to translate public values such as transparency into concrete specifications and evaluation criteria. With designers, we will explore methods and patterns to answer these value-based requirements. Finally, we will further develop methods to engage civil society in this processes.

Eindrapportage

Camera’s, sensoren en algoritmes zijn overal in de stad. Handig, maar ze raken ook aan privacy, transparantie en democratische controle. Daarom zijn er ethische richtlijnen en manifestos, maar toch blijkt dat niet genoeg. Hoe zetten we technologie in de publieke ruimte blijvend verantwoord in? Hoe krijgen bewoners daar een stem in? En hoe kom je van ‘uitleggen’ tot een echt gesprek?

Waar participatie rond de ontwikkeling voor de fysieke leefomgeving inmiddels een gevestigde praktijk is, blijft het meedenken en -doen van burgers bij de ontwikkeling van digitale toepassingen zoals AI vooralsnog achter. Dat terwijl veel van deze projecten grote invloed hebben op de publieke ruimte. Maar voor het gesprek over noodzaak, ontwikkeling en implementatie van stedelijke AI als sensoren, camera's, en scanauto's bestaan echter nog nauwelijks participatie-instrumenten. Een hiaat dat van groot belang is te adresseren, omdat digitalisering naast positieve, ook negatieve effecten heeft.

In het in mei 2026 afgeronde vierjarige onderzoeksproject Human Values for Smarter Cities bestudeerden en testten we verschillende methoden voor burgerparticipatie rond stedelijke AI in de publieke ruimte. Een belangrijk inzicht daarbij is dat digitale toepassingen niet lineair worden ontwikkeld, maar iteratief. Vanwege deze doorlopende ontwikkeling is ook continue participatie nodig: bewoners, politici, ambtenaren en ontwerpers moeten gedurende de hele levenscyclus van stedelijke AI in gesprek blijven over gewenste en ongewenste effecten. Nu nemen bestuurders beslissingen over technologie en laten de uitvoering over aan organisaties die vooral pragmatisch naar implementatie kijken.

De uitkomst van het onderzoeksproject is een ontwerpproces en een serie tools om precies dat te doen. We noemen dat: 'Bewoners-in-the-loop' – een proces voor structurele dialoog door alle fases van de ontwikkeling, implementatie en evaluatie van stedelijke AI heen. Hiervoor hebben we praktische ontwerpen, tools en uitvoeringsvormen ontwikkeld en samengebracht in een handboek dat je hier kunt vinden: www.bewonersintheloop.nl.