Waarom governance in de zorg niet vrijblijvend is
In de gezondheidszorg zijn de gevolgen van een AI-systeem dat niet goed presteert direct voelbaar. Een matching-algoritme dat een patiënt niet van de juiste informatie voorziet, een model dat subtiel afwijkt van wat het zou moeten doen, of een proces dat niet kan aantonen hoe een beslissing is genomen, achter elk van deze risico's schuilt een patiënt die de gevolgen rechtstreeks ondervindt. Modellen maken nou eenmaal fouten, waardoor het beheren van risico’s cruciaal is.
Voor AI-systemen in de zorg gelden daarom natuurlijk aanzienlijk strengere eisen dan voor niet-zorggerelateerde toepassingen vanwege de data die ze verwerken, en die eisen stoppen niet bij de livegang van een systeem. Ze vragen om aantoonbare controle, gedurende de hele levensduur van het systeem.
Van beleidsdocument naar dagelijkse praktijk
Voor veel organisaties is de vertaling van wetgeving naar werkbare processen het lastigste onderdeel. Beleid opstellen is één ding, het laten landen in de samenwerking tussen legal en product is iets anders. Wie is verantwoordelijk wanneer een model wordt aangepast? Hoe zorg je dat compliance niet achteraf wordt ingevlogen, maar onderdeel is van hoe teams AI bouwen en beheren?
Dat is precies waar Janiek Meppelink, General Counsel bij myTomorrows, en Maarten Stolk, CEO van Deeploy, tijdens Data Expo dieper op ingaan: hoe je legal en product laat samenwerken op AI-implementaties, hoe je EU AI Act-vereisten omzet in werkbare processen, en welke governance-structuren wél en niet meeschalen wanneer een organisatie groeit.
Wat wel en niet schaalt
Een risicoclassificatie op papier of een eenmalige beoordeling door de compliance-afdeling werkt bij één model. Zodra een organisatie meerdere AI-systemen tegelijk in productie heeft, elk met een eigen risicoprofiel en eigen team eromheen, houdt die aanpak geen stand. Governance die schaalt, draait niet om meer documenten, maar om continu zicht op wat een systeem daadwerkelijk doet: monitoring die afwijkingen signaleert, bewijs die zich automatisch verzamelt, en processen die met de organisatie meegroeien in plaats van er los naast te blijven staan.
Dat is ook waar een AI governance platform als Deeploy een rol speelt: het maakt continue registratie en monitoring van AI-systemen mogelijk, inclusief de bijbehorende audit trail, zodat teams kunnen aantonen dat een systeem doet wat het zou moeten doen, en er direct een signaal is wanneer dat niet zo is.
→ Wil je horen hoe myTomorrows en Deeploy dit in de praktijk hebben ingericht?
Woensdag 13:45 - 14:15 uur, Lezingenzaal 5: Janiek Meppelink (General Counsel, myTomorrows) en Maarten Stolk (CEO, Deeploy) delen in de sessie "Keeping control of AI at scale: Runtime Governance at Healthtech myTomorrows" hoe zij AI-governance in de praktijk hebben gebracht. De sessie is relevant voor iedereen die verantwoordelijk is voor of werkt aan AI-implementaties, van legal en compliance tot product en engineering.
Deze blogpost is een bijdrage van Deeploy, het AI governance platform waarmee organisaties hun AI-systemen en -agents continu kunnen registreren, monitoren en compliant houden, ook wanneer ze opschalen. Meer weten? Kijk op deeploy.ai of loop tijdens Data Expo 2026 (9 en 10 september, Jaarbeurs Utrecht) binnen bij de stand.
