Julia Krauwer herinnert zich goed hoe ze tien jaar geleden op het podium stond bij haar werkgever ABN AMRO. “Ik was toen innovatiemanager”, vertelt ze aan Patrick Grasza. “Ik legde aan de collega’s uit wat AI was en wat we er misschien mee zouden kunnen doen. Ik zei toen onder andere dat AI absoluut niet in staat was om menselijke creativiteit te vervangen. Daar denk ik inmiddels toch wel wat anders over. Ik had in die tijd ook nooit gedacht dat ik opvoedkundige vragen aan iets als ChatGPT zou stellen.”

Krauwer, inmiddels Sector Banker Technologie, Media & Telecom bij de bank, wil er maar mee zeggen dat het lastig is om in de toekomst te kijken en boude voorspellingen te doen. “Zeker sinds eind 2022 is er zoveel gebeurd in de ontwikkeling van Large Language Models, maar ook in bijvoorbeeld robotica, meer dan ik destijds had voorzien. Je hoort mij niet zo snel meer zeggen dat AI iets niet kan of nooit zou kunnen.”

Hooggespannen verwachtingen
De razendsnelle ontwikkeling van AI heeft de verwachtingen flink opgeschroefd, reageert tafelgenoot Patrick Grasza. Hij is Head of Data Management bij Intergamma, de organisatie achter de doe-het-zelfformules GAMMA en Karwei. Tussen droom en daad staat vaak adoptie in de weg, geeft hij aan: “AI wordt momenteel te veel als een magische oplossing benaderd. Organisaties staren zich blind op het perfecte eindresultaat, maar ze vergeten te investeren in het fundament. Bij Intergamma zetten we AI juist in om dit fundament te versterken, door strak te sturen op datakwaliteit. Echte innovatie vraagt om strategisch geduld en de bereidheid om iteratief te bouwen. Die volwassenheid ontbreekt vaak nog bij externe organisaties.”

Daar komt bij dat bedrijven met oplossingen komen die de gemiddelde gebruiker simpelweg niet nodig heeft, vervolgt Grasza: “Je ziet regelmatig dat er een Ferrari wordt gebouwd, terwijl de gebruiker niet harder kan dan zestig kilometer per uur.” Innoveren om het innoveren, noemt hij het. “Niet kijken naar wat iets oplost, maar naar wat het kan. Ja, je kunt een interne LLM bouwen om je e-mails te redigeren, maar dat is natuurlijk een hele dure oplossing.” 

Intergamma’s AI-chatclient
“Technologie is een middel, geen doel”, vervolgt Grasza. “Wij starten daarom altijd vanuit een concreet zakelijk knelpunt en beoordelen pas dan met een scherpe businesscase of AI daar daadwerkelijk de meest rendabele oplossing voor is.” Hij noemt een concreet voorbeeld binnen Intergamma, waar hij een brugfunctie vervult tussen datastrategie en praktijk: “Wij testten destijds of we met een AI-chatclient onze leveranciers konden begeleiden in de data-aanlevering. De vraag die we onszelf toen stelden was: moesten we dit echt met een AI-client doen, of konden we beter gewoon een callcenter starten?” Intergamma bouwde een businesscase om kosten en impact in kaart te brengen. Resultaat? “Het lag heel dicht bij elkaar. Het uitbreiden van onze capaciteit om leveranciers handmatig te bellen, bleek even duur als het implementeren van de nieuwe technologie. We hebben uiteindelijk toch voor de nieuwe technologie gekozen, omdat dit qua schaalbaarheid toekomstbestendiger is. Wel blijft het goed om jezelf elke keer af te vragen of een technologische adoptie daadwerkelijk de juiste weg is.”

Kodak-moment
“De businesscase in het hier en nu kan over vijf jaar natuurlijk heel anders uitvallen”, tekent Krauwer aan. Het is “potentieel gevaarlijk” om uit te gaan van de technische status quo, vindt ze: “Bij Kodak, groot in filmrolletjes, had je Steven Sasson. Hij vond de eerste digitale camera uit. Je kon er weinig mee – het apparaat gaf wazige beelden en het was vreselijk duur – en dus werd hij weggelachen. Ze besloten er niet mee verder te gaan en de eigen business te beschermen.” Het liep niet goed af voor Kodak. 

Krauwer vervolgt: “Je kunt de techniek van vandaag niet als uitgangspunt nemen voor de strategie van de komende tien jaar. Je moet wel een beetje vooruitkijken. En dat is moeilijk. Ik spreek heel veel met bedrijven uit de techsector, maar ook daarbuiten. Ik zie het als onze rol als bank om gesprekken over de toekomst aan te zwengelen. Prikkelende vragen te stellen, overigens zonder alle antwoorden te hebben, om organisaties weerbaarder te maken.”

Alles wat uit LLM’s komt, klinkt zinnig"

Veilige zandbak
“Niemand kan de technologische ontwikkelingen van de komende jaren exact voorspellen”, pakt Grasza over, “maar de basis daaronder staat voor mij onomstotelijk vast. Wat vooropstaat, is dat data ook het komende decennium het absolute fundament van onze bedrijfsvoering zal vormen. Want je ziet dat leveranciers steeds meer data hebben, dat consumenten steeds meer data willen en dat voor wetgeving en compliance ook steeds meer data nodig is. Daarnaast zie ik AI primair als de technologische hefboom om die schaalbaarheid te realiseren.”

Als Head of Data Management bij Intergamma ziet Grasza de komende jaren een hoofdrol weggelegd voor AI-governance: “We zitten marktbreed nog in een beginfase van technologische adoptie, waarin we heel veel experimenteren. Aan de ene kant is dat niet erg, want daar leer je van vallen en opstaan en het zorgt ervoor dat je steeds beter wordt. Aan de andere kant denk ik dat we wel heel goed na moeten denken over hoe we experimenteren, welke data we delen, waar we die data opslaan en welke risico’s daarmee gepaard gaan. Bij Intergamma bieden we medewerkers daarom de mogelijkheid om te experimenteren in een soort veilige zandbak. We bouwen een omgeving waar verschillende lagen in de organisatie kennis op kunnen doen met AI.” Daarin mogen, nee moeten mensen fouten maken, zonder dat de gevolgen desastreus zijn: “Fouten maken is essentieel, zolang je het organiseert binnen gecontroleerde kaders met heldere vangnetten”, wijst Grasza op het belang van governance. Zo stimuleert Intergamma innovatie zonder de continuïteit in gevaar te brengen.

“Ik denk dat een cultuur waarin de nieuwsgierigheid centraal staat extreem belangrijk is”, beaamt Krauwer: “Dat staat soms op gespannen voet met een cultuur waarin alles direct resultaat moet opleveren.”

Lekker gerecht
Behalve experimenteerdrift is datakwaliteit van het grootste belang, weet Grasza uit de markt en uit gesprekken met vakgenoten: “Als organisaties een eerste AI-toepassing bouwen, zoals een interne chatbot om kennis beter ontsluitbaar te maken, lopen ze al snel tegen dezelfde muur op. Binnen de kortste keren blijkt de output veel te wispelturig. Dat legt direct de vinger op de zere plek: een AI-toepassing is slechts zo krachtig als de onderliggende data-architectuur. Als documentatie niet goed gestructureerd is, zie je dat zo'n model direct begint te hallucineren.” Dat levert een belangrijke les op, zo zegt hij: “Alleen met goede ingrediënten kun je een lekker gerecht maken. Datakwaliteit en -beschikbaarheid zijn de harde randvoorwaarden voor het succes van elk AI-initiatief.”

Fouten maken binnen kaders is essentieel"

Het risico van overtuigende output
Krauwer ziet daarbij een risico ontstaan: “Waar je voorheen gewoon niet zoveel kon met een mooi AI-model op rottige data, hebben we nu natuurlijk die hele sterke LLM’s. Alles wat daar uitkomt, klinkt heel zinnig. Doordat de output zo overtuigend is, denk ik dat het probleem van datakwaliteit een beetje ondergesneeuwd raakt. Een demo kan behoorlijk indrukwekkende resultaten opleveren, zonder dat je echt op de juiste kennis en data doorbouwt.”

“Precies, en dat is de grootste valkuil van dit moment”, reageert Grasza.
“Het model verhult de rotte fundering. Daarom hanteren wij bij Intergamma de vaste stelregel dat goede data altijd de voorwaarde is voor succesvolle toepassing van AI.”

Fundamentele vragen
ABN AMRO doet veel onderzoek naar de inzet van technologie door Nederlandse bedrijven. Krauwer merkt dat ze AI vaak relateren aan efficiency. “Natuurlijk is het goed om AI daarvoor in te zetten. Maar het is ook goed om na te denken over je dienstverlening op de langere termijn. Wat gebeurt er als AI misschien hetzelfde kan als wat jij doet, of wanneer interacties met eindklanten grotendeels via chatbots plaatsvinden? Blijft je product uniek genoeg, of beland je in een race to the bottom, met lage prijzen om überhaupt nog in die AI-shortlist terecht te komen?”

De focus op efficiency, vaak uit angst om achter te blijven, verdringt dat soort vragen, ziet Krauwer: “De fundamentele kwesties belanden onderaan de prioriteitenlijst. Omdat alles gewoon nu moet, alles moet direct resultaat opleveren. Bedrijven kijken of ze dingen sneller kunnen doen, of ze meer klanten kunnen vinden en ga zo maar door. Voor strategische vragen hebben ze de tijd niet, of de headspace.”

“Misschien is AI het breekijzer waarmee we die tijd kunnen creëren?”, suggereert Grasza. Krauwer: “Dat is een heel goed punt, I love it. Eigenlijk zou je het zo moeten zien.”