Verantwoorde AI: in control blijven met slimme systemen
Bij traditionele software kun je precies volgen wat er gebeurt: input, stap A, B, C, output. Bij AI is dat anders: je ziet wat erin gaat en wat eruit komt, maar de weg ertussen is vaak een black box. Terwijl organisaties – terecht – controle willen houden: waar gaat mijn data heen, wat doet het systeem precies, voldoet het aan wet- en regelgeving, en klopt de uitkomst volgens de domeinexpert?
En juist daar zit de spanning: wél de kracht van AI benutten, zonder de grip te verliezen.
Bij Get There vinden we: AI is een middel, geen doel. We ontwerpen oplossingen zo dat jij de controle houdt. Onze basisprincipes:
Geen AI waar het niet nodig is
We starten altijd met de vraag: kan dit met reguliere software of eenvoudige automatisering? Zo ja, dan laten we AI achterwege. Dat maakt systemen eenvoudiger, goedkoper en beter uitlegbaar. Zo gebruiken we AI alleen waar het écht waarde toevoegt.
Transparant vóórdat AI iets doet
Voordat we een AI-component inzetten, maken we duidelijk:
- welke data erin gaat
- welke acties het systeem mag uitvoeren (alleen lezen of ook schrijven/muteren)
- welke grenzen en regels gelden
Zo weet je vooraf precies waar je ‘ja’ tegen zegt.
Tussenstappen zichtbaar
Waar mogelijk knippen we een AI-taak op in begrijpelijke stappen:
- welke deelvragen de AI stelt
- welke bronnen of documenten worden geselecteerd
- welke tussenresultaten ontstaan
Daardoor kun je niet alleen het eindresultaat beoordelen, maar ook de weg ernaartoe.
Mens blijft aan het stuur
AI doet voorstellen, samenvattingen of risico-inschattingen. Een medewerker keurt goed, past aan of wijst af. De verantwoordelijkheid blijft bij de organisatie. Zo voorkom je dat “het systeem” beslist over zaken waar mensen verantwoordelijk voor moeten blijven.
Voorbeeld: onze interne chatbot
Onze interne chatbot kan externe systemen aanroepen, zoals een API met sportdata. Veel AI-oplossingen doen dat onzichtbaar op de achtergrond. De gebruiker weet dan niet welke tool is gebruikt, welke data is verstuurd en waarom.
Wij doen dat anders. De chatbot laat expliciet zien dát er een tool wordt aangeroepen, wélke tool dat is en waarom die stap nodig is.
Zo kan de gebruiker:
- volgen welke stappen de AI zet
- begrijpen waarom bepaalde data wordt gebruikt
- beter beoordelen of het resultaat logisch is
Dit principe werkt ook bij:
- checks tegen interne regels of wetgeving: toon welke regels en documenten zijn gebruikt
- zoeken in documentatie: toon welke bronnen en zoekopdrachten zijn gebruikt en waarom die relevant zijn
Vooral dat “waarom” ontbreekt vaak in bestaande AI-tools. Je ziet misschien dat er een call naar een API gedaan wordt, maar niet waarom die stap gezet is. Wij vinden juist dat dát nodig is om vertrouwen en adoptie te krijgen bij medewerkers.
Het resultaat
Door explainability vanaf het begin mee te nemen:
- hebben management, auditors en toezichthouders meer vertrouwen
- kunnen domeinexperts uitkomsten beoordelen en verbeteren
- ervaren medewerkers: ik houd de controle, het systeem helpt mij – niet andersom
Dat versnelt acceptatie, voorkomt fouten en maakt AI duurzaam inzetbaar.
Bij Get There ontwerpen we AI-oplossingen met uitlegbaarheid en controle als uitgangspunt. Geen magie achter de schermen, maar zichtbare stappen die je kunt volgen, valideren en aanpassen.
Wil je AI inzetten, maar zijn controle en uitlegbaarheid cruciaal? Neem contact met ons op voor een verkenning of een eerste proof-of-concept.