De technologie bestaat, de mogelijkheden zijn eindeloos en de verhalen over ChatGPT, Copilot en andere AI-tools bereiken inmiddels iedereen. Toch worstelen veel bedrijven met de stap van experiment naar praktische toepassing.
Machine learning en generatieve AI
Generatieve AI is kunstmatige intelligentie die nieuwe content kan maken op basis van bestaande data. In tegenstelling tot traditionele AI-systemen die patronen herkennen of classificeren, kunnen generatieve modellen tekst schrijven, afbeeldingen maken of code genereren.
Large Language Models (LLM's) vormen het hart van veel generatieve AI-toepassingen. Deze systemen zijn getraind op enorme hoeveelheden tekst en kunnen menselijke taal begrijpen en produceren. Denk aan ChatGPT, Google Gemini of Microsoft Copilot. Ze ‘begrijpen’ context, kunnen redeneren en formuleren antwoorden in natuurlijke taal.
Het belangrijkste verschil met traditionele machine learning? Bij klassieke modellen train je een specifiek systeem voor één taak, bijvoorbeeld het voorspellen van machinestoringen. Bij LLM's krijg je een veelzijdig systeem dat verschillende taken aankan: vragen beantwoorden, teksten samenvatten, code schrijven of documenten analyseren.
Toepassingen van generatieve AI
De kracht van generatieve AI wordt vooral zichtbaar bij het verwerken van ongestructureerde data. Waar traditionele systemen moeite hebben met variatie in taal en format, zijn LLM's juist steengoed in het begrijpen van context en betekenis.
- Kennismanagement is een voor de hand liggende toepassing. In plaats van twintig minuten zoeken naar informatie over een specifieke machine-instelling, kun je een vraag stellen aan een systeem dat getraind is op alle technische handleidingen, rapporten en troubleshooting-documenten van je bedrijf. Het antwoord komt binnen een paar seconden, compleet met bronvermelding zodat je kunt controleren of de informatie klopt.
- Bij kwaliteitscontrole kan generatieve AI rapporten analyseren en samenvatten. Een LLM kan patronen ontdekken in duizenden inspectierapporten, afwijkingen signaleren en aanbevelingen formuleren. Niet om de menselijke expertise te vervangen, maar om die te ondersteunen met snellere analyse van grote datavolumes.
- Semantic search biedt nog meer mogelijkheden. Traditionele zoeksystemen vinden alleen documenten waarin specifieke woorden voorkomen. Semantic search begrijpt betekenis. Als iemand zoekt naar "scherm doet het niet", vindt het systeem ook documenten over "geen stroom" of "display blijft zwart". Het begrijpt dat dit gerelateerde problemen zijn. Voor troubleshooting en kennisdeling is dit een enorme stap vooruit.
- Ook bij softwareontwikkeling zijn LLM’s van onschatbare waarde. Ze kunnen code genereren, bugs opsporen en documentatie schrijven. Ontwikkelaars gebruiken ze als intelligente assistent die 24/7 beschikbaar is en direct antwoord geeft op technische vragen.
Succes van generatieve AI begint bij de data
Wees je ervan bewust dat generatieve AI werkt op basis van “garbage in, magic out.” Wil je generatieve AI succesvol inzetten, dan begint het bij je data. En niet alleen de kwaliteit, maar vooral de organisatie en toegankelijkheid ervan.
Voor veel organisaties zijn interne chatbots interessant. Die beantwoorden vragen over bedrijfsprocessen (Retrieval Augmented Generation of RAG). Om te zorgen dat zo’n RAG goed werkt, moet het systeem toegang hebben tot alle relevante documenten. Maar die staan vaak verspreid: handleidingen op een SharePoint, procedures in verschillende mappen, specificaties in oude Excel-bestanden. Voordat je een LLM kunt trainen, moet je eerst weten waar je data staat en hoe je die toegankelijk maakt.
Complexer wordt het bij permissies. In een goed werkend RAG-systeem moet een medewerker toegang krijgen tot alle informatie waar hij of zij recht op heeft, maar niet meer dan dat. Zo zijn veel financiële documenten afgeschermd voor de meeste gebruikers en zullen operators niet alle HR-stukken in kunnen zien. Het implementeren van zo'n systeem dwingt je om je hele informatie-architectuur opnieuw te doordenken.
Privacy en veiligheid zijn ook belangrijke aandachtspunten. Welke data mag naar externe API's van OpenAI of Google? Welke informatie moet binnen je eigen systemen blijven? En hoe voorkom je dat gevoelige bedrijfsinformatie per ongeluk in een verkeerd antwoord belandt?
LLM’s implementeren, waar moet je op letten?
Kosten vallen vaak mee. Een API-call naar ChatGPT of Google kost een paar cent. Vergeleken met de kosten van uren zoeken naar informatie, zijn de directe kosten van het LLM zelf verwaarloosbaar. Tenzij je miljoenen calls per dag maakt.
Evaluatie is lastiger. Hoe meet je of een LLM goed antwoord geeft? Bij traditionele modellen kun je nauwkeurigheid berekenen, bij generatieve AI moet je vaak de output lezen en beoordelen. Sommige bedrijven laten een ander LLM de antwoorden controleren, andere doen steekproeven of laten domeinexperts de resultaten valideren.
Schaalbaarheid brengt uitdagingen met zich mee. Voor 30 vragen per dag kun je elk antwoord handmatig controleren. Bij duizenden vragen per dag moet je meer statistisch denken en accepteren dat er soms fouten in zitten. De kunst is om te bepalen welke fouten acceptabel zijn en welke niet.
Voor kritieke toepassingen blijft voorzichtigheid geboden. Een fout in een technische handleiding is vervelend, een fout in veiligheidsinstructies kan gevaarlijk zijn. Classificeer je use cases naar risico en pas je controles daarop aan.
Waar begin je?
Begin met een concrete use case, niet met de technologie. Veel bedrijven denken: “We moeten iets met AI.” Dan komen vaak problemen naar boven die helemaal geen LLM nodig hebben. Als je altijd dezelfde informatie uit documenten met een vast format haalt, is pattern matching sneller en goedkoper dan een LLM.
LLM's shinen bij problemen met ongestructureerde data waar je zoekt naar informatie waarvan je niet precies weet hoe die beschreven staat. Of niet weet of die er überhaupt in staat. Denk aan het doorzoeken van technische rapporten, het analyseren van klachten of het vinden van vergelijkbare problemen in een database met storingen.
Start klein en iteratief. Begin met een beperkte dataset en een specifieke vraagstelling. Test met domeinexperts, pas de instructies aan op basis van hun feedback en breid geleidelijk uit. De kracht van LLM's ligt juist in deze iteratieve benadering: je kunt snel aanpassingen maken zonder het hele systeem opnieuw te trainen.
Generatieve AI biedt enorme mogelijkheden, maar succesvol implementeren vraagt om meer dan alleen toegang tot een taalmodel. Het begint bij goed georganiseerde data, duidelijke processen en realistische verwachtingen. Bedrijven die daar aandacht aan besteden, kunnen de technologie optimaal benutten.
Deze blogpost is een bijdrage van TMC, met hun data science-deskundigen helpen ze organisaties om hun besluitvormings- en voorspellend vermogen te verbeteren, voor de lezers van Data Expo. Meer inspiratie vind je op www.themembercompany.com of bezoek TMC tijdens Data Expo op stand #5 & #40.
