Vertrouwen is een voorwaarde
Het is verleidelijk om vertrouwen als laatste stap te zien. Eerst bouw je de agent, daarna kijk je naar veiligheid en governance. Toch bepaalt vertrouwen vooraf of je straks live durft te gaan.
Neem een agent die zelf een factuur verstuurt, een klant een korting toezegt of een dossier samenvat voor een collega. Bij elke stap die er echt toe doet, wil je weten of je dit uit handen kunt geven. Dat hangt minder af van hoe slim de agent is en meer van hoeveel je hem vertrouwt.
Wat vertrouwen concreet betekent
Vertrouwen klinkt zacht, maar je kunt het goed concreet maken. Een agent werkt binnen vaste regels en doet alleen wat mag. Elke stap is herleidbaar, zodat je achteraf ziet waarom hij deed wat hij deed. Certinia koos daar bewust voor met Veda, de AI-engine voor de dienstverlenende sector. Certinia noemt deze agents zelf 'rules-bound, trusted'. Ze werken deterministisch en auditeerbaar (Certinia, Veda launch, april 2026). De agent verzint niets zelf en volgt vaste stappen binnen grenzen die jij bepaalt. Omdat je weet hoe hij werkt, groeit je vertrouwen.
Niet elk proces vraagt hetzelfde vertrouwen
Hoeveel vertrouwen een agent nodig heeft, hangt af van het werk dat je hem geeft. Bij veel processen draait het om efficiëntie. Een agent die conceptteksten schrijft, informatie opzoekt of een eerste inschatting maakt, bespaart handwerk. Zit hij er af en toe naast, dan corrigeert een medewerker dat. Een nauwkeurigheid van 70 tot 75 procent levert daar al waarde op.
Andere processen vragen bijna volledige betrouwbaarheid. Denk aan een agent die zelf facturen verstuurt bij een zakelijke dienstverlener. Of aan patiëntgegevens in de zorg en life sciences, waar je vooraf vastlegt welke data een agent juist niet mag inzien. Daar mag geen fout in sluipen en moet je kunnen aantonen wie bij welke gegevens kon. Vertrouwen bepaalt daar of je überhaupt mag beginnen.
Salesforce en Certinia laten zien hoe dat kan. Een agent kan gevoelige informatie verwerken terwijl hij de toegangsregels uit Salesforce afdwingt. In hun eigen voorbeeld vat een agent voor een zorgorganisatie uitgebreide dossiers op schaal samen, binnen de toegangsregels die in Salesforce zijn vastgelegd (Salesforce, Nemotron for regulated industries). In de zwaarste gevallen blijft de verwerking binnen de eigen beveiligde omgeving van de organisatie. Je AI en data blijven dan binnen je eigen grenzen. Dat geldt breder dan alleen de zwaarste processen. Wat bij financiële processen en gevoelige data verplicht is, is overal verstandig. Een agent die binnen de regels blijft en herleidbaar werkt, durf je in elke organisatie op te schalen.
Waar je data blijft
Vertrouwen begint bij de vraag waar je gegevens naartoe gaan. Salesforce vangt dat af met de Einstein Trust Layer. Die schermt gevoelige data af voordat een model haar ziet. Externe modellen bewaren niets, dankzij een afspraak over 'zero data retention'. Elke actie respecteert de rechten en rollen die je in Salesforce al hebt ingericht (Salesforce, Einstein Trust Layer). Hoe dat technisch precies werkt, laten we aan de makers van het platform. Voor jou telt vooral dat het vertrouwen in de bouw van het platform zit.
Ook dichter bij huis is er een signaal. In opdracht van de Rijksoverheid en samen met de VNG voerde Privacy Company een onafhankelijke DPIA uit op Salesforce Sales Cloud en Service Cloud. Dat is een toets op de omgang met persoonsgegevens. Het onderzoek bracht elf privacyrisico's in kaart. Voor een groot deel daarvan nam Salesforce contractuele en technische maatregelen. Volgen organisaties de aanvullende aanbevelingen op, dan blijven er geen bekende hoge privacyrisico's over. Het Rijk en gemeenten kunnen beide clouddiensten dus veilig gebruiken. In de discussie over datasoevereiniteit is dat een stevig tegengeluid.
Wat dit voor jouw organisatie betekent
Blijft een veelbelovend AI-project bij jou steken, dan ligt dat zelden aan de techniek. Meestal ontbrak het vertrouwen om de laatste stap te zetten. De vraag welk model het slimst is, helpt je dan niet verder. Kijk liever naar je eigen regels. Blijft de agent daarbinnen? Zie je wat hij deed? Blijft je data waar die hoort? Kun je die vragen met ja beantwoorden, dan wordt vertrouwen de reden om op te schalen. Pas dan wordt de waarde van AI zichtbaar in euro's en uren.
Op 9 en 10 september stond ik met het team van CBEE Remarkable op Data Expo in de Jaarbeurs Utrecht. We lieten zien hoe je AI veilig en aantoonbaar live krijgt, ook waar de lat hoog ligt. Heb je dit gemist? Neem gerust contact met ons op. Ik praat je er graag over bij.
Auteur: Chris Boonstra
