Vertrouwen in AI-planningen

Het Nederlandse mkb-maakbedrijf wordt gekenmerkt door productie met hoge variëteit en lage volumes, wat zorgt voor uitdagingen, o.a. wat betreft een betrouwbare productieplanning. Recent worden Machine Learning Systemen, zoals in een Digital Twin op basis van Machine Learning, ook door mkb-maakbedrijven, genoemd als oplossing voor het planningsprobleem. Een Digital Twin, met Machine Learning toepassing, fungeert echter als een black box wat het vertrouwen en praktisch gebruik van de uitkomsten belemmert. Om het vertrouwen en het praktisch gebruik van deze ondoorzichtige Machine Learning-modellen te stimuleren, kunnen vormen van Explainable AI een positieve rol spelen. Er is echter nog weinig onderzoek gedaan naar de emotionele en psychologische effecten, zoals vertrouwen van medewerkers in het systeem. Vanuit dit kennishiaat en gevoed door vragen van de praktijkpartners staat in dit onderzoek daarom de volgende vraag centraal:
“Hoe beïnvloeden verschillende vormen van Explainable AI modellen binnen Digital Twin, gecombineerd met Machine Learning systemen, het vertrouwen van productieplanners en gebruikers van planningen in mkb-maakbedrijven, die worden gekenmerkt door een high variety low volume productenpakket?”
Avans Hogeschool en Hogeschool Arnhem Nijmegen slaan, samen met drie praktijkpartners, de handen ineen om aan de hand van interviews en een experimentele setting de behoeften in kaart te brengen van de productieplanners rondom Explainable AI en de relatie met het ervaren vertrouwen in het AI-systeem.

Eindrapportage

In oktober 2025 startte het KIEM-project ‘Vertrouwen in AI-planningen’ van Avans Hogeschool en Hogeschool van Arnhem en Nijmegen (HAN). Samen met praktijkpartners onderzochten zij welke behoeften productieleiding en productieplanners hebben rondom Explainable AI (XAI) en hoe deze samenhangen met het vertrouwen in AI-ondersteunde productieplanning.
Nederlandse mkb-maakbedrijven produceren vaak met een hoge variëteit en relatief lage volumes, waardoor betrouwbare productieplanning complex is. Machine Learning kan hierbij ondersteuning bieden, maar de werking en uitkomsten van dergelijke systemen zijn voor gebruikers niet altijd inzichtelijk. Dit kan het vertrouwen in de systemen beïnvloeden.

De centrale praktijkvraag luidde:
Hoe kunnen gebruikers van productieplanningen voldoende inzicht krijgen in de algoritmen die worden gebruikt om de productieplanning te optimaliseren, zodat zij vertrouwen hebben in de uitkomsten van systemen die hiervan gebruikmaken?

Vanuit onderzoeksperspectief was het relevant om te onderzoeken hoe verschillende kenmerken van XAI het vertrouwen van productieleiding en productieplanners beïnvloeden. De resultaten kunnen bijdragen aan de ontwikkeling van een mensgerichte onderzoeksagenda rondom digitale technologieën, zoals Machine Learning-systemen, in het bijzonder voor mkb-organisaties waar kennis en middelen voor de toepassing van dergelijke technologieën vaak beperkt zijn.
In dit eenjarige, exploratieve onderzoek zijn via interviews en een experimentele setting de behoeften van gebruikers en hun relatie met vertrouwen onderzocht. Het onderzoek kan niet vaststellen in welke mate XAI het vertrouwen daadwerkelijk verhoogt. Wel blijkt dat XAI een belangrijke rol kan spelen. Gebruikers willen AI-uitkomsten niet alleen ontvangen, maar vooral begrijpen, beoordelen en toetsen aan hun eigen vakkennis en productiecontext. Zij hebben behoefte aan inzicht in beslisregels, relevante variabelen en de afwegingen achter AI-voorstellen, evenals mogelijkheden om uitkomsten te beïnvloeden.
Samen met Midpoint wordt het onderzoek verdiept met aandacht voor (Explainable) AI, vertrouwen en arbeidsproductiviteit. Via workshops worden de inzichten met bedrijven gedeeld en wordt gewerkt aan een artikel voor Thema Hoger Onderwijs.