Samenwerken met Vertrouwen - Responsible AI voor Brandweerinterventies

Professionals in de publieke veiligheid—zoals bijvoorbeeld politie en brandweer—opereren in dynamische en risicovolle omgevingen waarin snel en accuraat beslissen van levensbelang is. Een goed situatiebeeld is essentieel om incidenten in dit domein effectief en veilig te kunnen beoordelen. Kunstmatige intelligentie (AI) biedt kansen om deze besluitvorming te ondersteunen, door toegang tot informatie en inzichten verkregen uit diverse beschikbare openbare en historische data.
Dit project onderzoekt hoe de samenwerking met een dergelijke AI op een verantwoorde manier kan worden ontwikkeld. Centraal staat de vraag: hoe kunnen AI-systemen zó worden ontworpen dat ze aansluiten bij de kennis, ervaring en informatiebehoeften van de professionals? Om de professional te ondersteunen moeten ze de AI-adviezen kunnen begrijpen, beoordelen en integreren in hun besluitvorming, zonder blind vertrouwen of volledige afhankelijkheid.
Een belangrijk aandachtspunt daarbij is de besliscontext waarin de professionals opereren: dat zijn de omstandigheden waarin een beslissing genomen moet worden, zoals tijdsdruk, betrokkenen, mogelijke gevolgen en alternatieven. De besliscontext heeft een sterke invloed op de manier waarop de professional informatie gebruikt. Het project wil inzicht krijgen in hoe AI-systemen effectief kunnen worden afgestemd op besliscontexten, zodat ze de autonomie en effectiviteit van de professional versterken.
Daarom ontwikkelt het project concrete samenwerkingscriteria voor AI-systemen die aansluiten bij de denk- en werkprocessen van de professionals. Dit gebeurt enerzijds via prototypes van bestaande systemen, anderzijds via algemene richtlijnen voor toekomstige toepassingen. De prototypes worden getest in realistische trainingsscenario’s, zodat duidelijk wordt hoe goed ze aansluiten bij de praktijk.
Het uiteindelijke doel is om AI niet als vervanging, maar als versterking van de professional te laten functioneren—door systemen te ontwerpen die betrouwbaar communiceren, transparant zijn in hun adviezen, en voldoende ruimte bieden voor menselijke controle.