AI wordt in veel sectoren gezien als het beloofde land: een technologie die razendsnel allerlei taken kan uitvoeren. Van het stroomlijnen van werkprocessen tot het verbeteren van besluitvorming: AI heeft het potentieel om onze manier van werken fundamenteel te veranderen. Dankzij de mogelijkheid om routinetaken te automatiseren en realtime inzichten te bieden, is AI in veel sectoren een waardevol hulpmiddel. Maar naarmate de adoptie toeneemt, nemen ook de risico’s en complexiteiten toe.
Ondanks dit transformerende potentieel klinken er ook kritische stemmen die waarschuwen voor eensnelle en ondoordachte adoptie. Een recent voorbeeld komt uit een studie van Carnegie Mellon University, getiteld “The AgentCompany”: hierin werd ontdekt dat relatief succesvolle AI-agents slechts bij ongeveer 30% van de meerstaps-kantoortaken goed presteren¹. Ook Patrick Opet, Chief Information Security Officer bij JPMorganChase, uitte openlijk zijn zorgen over het toenemende vertrouwen in AI-oplossingen zonder voldoende beveiliging en toezicht, in een open brief aan zijn leveranciers². Net als veel andere geavanceerde technologieën functioneren AI-systemen vaak als een “black box”: het is moeilijk te achterhalen waar fouten ontstaan of hoe beslissingen precies tot stand komen. Dit gebrek aan transparantie bemoeilijkt het corrigeren van fouten wanneer ze optreden. Bovendien, zelfs als een enkele AI-stap een succesratio van 95% heeft, leiden meerdere stappen in autonome toepassingen nog steeds tot een onaanvaardbaar hoge foutmarge.
Betekent dit dat we AI niet kunnen vertrouwen?
Niet per se. De manier om dit risico te beperken is door een stapsgewijze aanpak te hanteren. Hierdoor blijft de taak voor AI overzichtelijk, en kan elk tussentijds resultaat eenvoudig gecontroleerd worden. Een goed voorbeeld hiervan is ons recente gebruik van de AI-tool Loveable, die we hebben ingezet om een interne configuratietool te bouwen voor onze Patient Engagement-oplossing Pathways InPatient. Het doel was om het team in staat te stellen om snel en zelfstandig aanpassingen te doen aan het systeem, zonder telkens afhankelijk te zijn van ontwikkelaars.
Clinton Davelaar, developer bij LOGEX, merkte al snel op dat samengestelde prompts – ook als ze voor mensen heel duidelijk geformuleerd zijn – regelmatig tot onverwachte resultaten leidden. Loveable maakte vaak aannames die niet aansloten bij zijn bedoelingen. Zo werden er bijvoorbeeld radioknoppen gegenereerd in plaats van de gewenste dropdown-menu’s—een onbedoelde vereenvoudiging die ten koste ging van de gebruikservaring.
Clinton moest denken aan die pijnlijke maar grappige viral video waarin een vader zijn kinderen vraagt om hem precieze instructies te geven voor het maken van een boterham met pindakaas en jam, die hij vervolgens bewust verkeerd interpreteert³. Hij realiseerde zich dat hij dit stukje bij beetje moest oplossen. Door Loveable een reeks kleine, duidelijke opdrachten te geven, begreep het systeem beter wat de bedoeling was en maakte het aanzienlijk minder fouten. En omdat elke stap klein was, kon Clinton de output eenvoudig controleren.
Deze ervaring onderstreepte een belangrijke les: AI moet met zorg gebruikt worden, zeker bij taken die precisie en zorgvuldige planning vereisen. Clinton’s verhaal laat zien waarom AI vooral effectief is bij processen die op te delen zijn in hapklare brokken die makkelijk te controleren en bij te sturen zijn. De AI-gedreven tool stelde zijn team in staat om snel en flexibel aanpassingen aan de interface te maken, waardoor ontwikkeltijd werd bespaard en de afhankelijkheid van developers werd verminderd.
Dus ja, AI biedt veel kansen. Maar...
het vereist toezicht, duidelijke instructies en een stapsgewijze aanpak. Zo minimaliseer je risico’s en maximaliseer je de waarde van AI.
1 https://arxiv.org/pdf/2412.14161
2 https://www.jpmorgan.com/technology/technology-blog/open-letter-to-our-suppliers
3 https://youtu.be/cDA3_5982h8?si=Ut55IHr1GUUOlcIP
