Documentatie vertelt niet wat een AI-systeem vandaag doet
Gartner wijst in het artikel AI Governance Needs More Than Policies op precies dit probleem. Beleid en trainingen leggen intenties vast, maar garanderen niet dat een AI systeem zich ook tijdens live interacties aan die intenties houdt. En juist tijdens wanneer het systeem in productie draait ontstaan de risico's die een document niet kan vangen: een model dat niet meer presteert zoals oorspronkelijk bedoeld, output die vooringenomen of feitelijk onjuist blijkt, of data die via een omweg ergens terechtkomt waar het niet hoort te zijn.
Dat zijn geen eenmalige risico's die je bij de livegang van het model afvinkt, maar risico's die zich elke dag opnieuw kunnen voordoen, afhankelijk van de context waarin het systeem draait.
Naarmate AI systemen verweven raken met bedrijfsprocessen, SaaS-platformen en, steeds vaker, autonome agents, wordt die context ook groter en minder overzichtelijk. Veel organisaties leunen nog altijd vooral op documentatie, trainingen en een gefaseerde uitrol om AI-risico te beheersen. Dat blijft belangrijk, maar het levert geen continue verificatie of handhaving op tijdens het daadwerkelijke gebruik.
Het gat tussen wat governance beoogt en wat er in de praktijk gebeurt, groeit dus mee wanneer er opgeschaald wordt. Gartner ziet de oplossing in het continue monitoren van AI zodat organisaties afwijkingen kunnen opsporen, controle kunnen afdwingen en compliant kunnen blijven terwijl het systeem draait, in plaats van alleen op papier.
De blinde vlek van AI-agents
AI agents maken dit vraagstuk urgenter. Waar een model meestal nog via een vast traject van dataset naar validatie naar productie gaat, ontstaan agents daarbuiten: een developer verbindt in een middag een agent aan een tool, een dataset of een ander systeem, en die agent voert vanaf dat moment zelfstandig acties uit. Niemand in de governance-afdeling hoeft daarvan te weten, laat staan wat de agent precies doet, welke data hij raadpleegt of namens wie hij handelt.
Vermenigvuldig dat over tientallen teams en de schaal wordt duidelijk: schattingen gaan uit van meer dan een miljard autonome agents die tegen 2028 in cloud omgevingen actief zijn. Spreadsheets, losse aanmeldformulieren en periodieke rondvraag bij teams houden dat tempo niet bij, met als resultaat onvolledige AI registers, ontbrekende audit trails en agents die volledig buiten iedere controle om opereren.
Binnen de EU AI Act, die van kracht is voor alle in Europa opererende AI systemen, worden agents niet gezien als uitzondering maar als onderdeel van die systemen. Ze moeten dus ook voldoen aan deze wetgeving. De EU AI Act Hub houdt deze verplichtingen actueel bij, en met de self-assessment tool bepaal je in een paar minuten waar jouw systeem in de risicoclassificatie valt en welke vereisten daarbij horen.
Het risico van werken zonder governance platform
Door te (blijven) werken met enkel documenten als uitgangspunt voor overzicht en controle over AI systemen en agents ontstaat een gat dat steeds groter wordt, met daarbij behorende groeiende risico’s.
Het verzamelen van bewijs voor een audit wordt vrijwel onmogelijk, door de handmatige processen wordt compliance een bottleneck voor het lanceren en opschalen van AI, en er worden door de organisatie heen agents gebouwd met toegang tot data zonder toezicht.
Een AI governance platform als Deeploy kan hiervoor een oplossing zijn. In lijn met de visie van Gartner wordt door middel van een platform een continue registratie en monitoring mogelijk van alle AI binnen de organisatie, inclusief agents. Zodat je zeker weet dat AI systemen presteren zoals dat vooraf bedacht is, en zodat je het direct te horen krijgt wanneer dat niet het geval is. Door bepaalde kaders toe te passen op AI systemen kan er tegelijkertijd een grote stap worden gezet naar compliance met betrekking tot bijvoorbeeld de EU AI Act.
→ Interesse om mee te praten over dit onderwerp of juist te leren van anderen?
Deeploy organiseert tijdens Data Expo 2026 stand-up sessies voor data- en AI-leiders: korte gesprekken van 15 minuten in een kleine groep, over hoe je in je eigen organisatie grip houdt op AI.
Deze blogpost is een bijdrage van Deeploy, een toonaangevend AI Governance Platform. Deeploy helpt organisaties zoals Novo Nordisk om overzicht en controle te houden over hun AI-systemen en agents, van onboarding en assessments tot monitoring en guardrails, zodat zij risico’s effectief kunnen mitigeren en high-risk AI veilig op schaal kunnen toepassen. Meer informatie vind je op de website van Deeploy of bezoek Deeploy tijdens Data Expo.
