Mensgerichte verantwoorde AI in organisaties

De AI-transitie is in volle gang, waarbij AI steeds meer gemeengoed wordt door zijn brede toepasbaarheid. Organisaties willen hun concurrentiepositie versterken door kosten te verlagen, effectiviteit te verbeteren en innovatieve verdienmodellen te ontwikkelen. Echter, AI is nog een jonge technologie, wat leidt tot onzekerheden over haalbaarheid, wettelijke beperkingen (zoals GDPR en de AI Act) en reputatierisico's. Dit maakt verantwoorde AI-implementatie complex, aangezien de verscheidenheid aan doelstellingen, wetten en richtlijnen vaak moeilijk te verenigen zijn.
Verantwoorde inzet van AI vereist een holistische benadering waarbij de synergie tussen technologie, organisatie en mensen centraal staat. De rol van medewerkers, hun gedrag en besluitvorming is hierbij essentieel. AI-geletterdheid bij medewerkers lijkt cruciaal voor een verantwoorde AI-praktijk, omdat het potentieel bijdraagt aan geïnformeerde en verstandige beslissingen in het gebruik, en daarmee aan een verantwoorde en effectieve inzet, van AI-systemen.
De onderzoeksvraag is: "Hoe kan ten behoeve van het realiseren van een verantwoorde AI-praktijk een synergie worden gecreëerd tussen AI-geletterdheid bij medewerkers, ondersteund door AI-technologie en de organisatie-governance?"
Dit onderzoek ontwikkelt een raamwerk voor AI-geletterdheid op basis van literatuur- en veldonderzoek en definieert vereisten voor mensgerichte AI-technologie, waarbij rekening wordt gehouden met verschillende rollen en functies van de medewerkers in de organisatie, en de wijze waarop zij in hun werk met AI in aanraking komen. Deel van het onderzoek is, middels gebruikmaking van een Research-through-Design aanpak, het ontwerpen, ontwikkelen en testen van prototypes van User Experience ontwerpen voor AI-applicaties, die gericht zijn op het ondersteunen en versterken van AI-geletterdheid. Daarnaast onderzoeken we organisatie-interventies, zoals training en cultuurveranderingen, om de implementatie van AI te bevorderen en een holistische, verantwoorde AI-praktijk te realiseren.