Er is geen eenduidig antwoord. Verantwoorde AI vereist een combinatie van AI-geletterdheid, datageletterdheid, ethisch bewustzijn en regelgevingskaders zoals de EU AI Act. Samen zorgen deze elementen ervoor dat AI de samenleving ten goede komt en mogelijke schade tot een minimum wordt beperkt.
Dit artikel vat de belangrijkste inzichten samen uit ons recente webinar van de Amsterdam Data Academy over hoe organisaties en professionals AI op verantwoorde wijze kunnen inzetten, terwijl ze de efficiëntie verbeteren en menselijk toezicht behouden.
AI-geletterdheid is meer dan het gebruik van ChatGPT
Veel mensen associëren AI-geletterdheid met het leren omgaan met tools zoals ChatGPT. In werkelijkheid gaat AI-geletterdheid veel dieper.
Het gaat om het begrijpen van hoe AI-systemen werken, inclusief het verschil tussen automatisering en machine learning, hoe AI patronen leert uit historische gegevens, en waarom modellen soms bevooroordeelde of onnauwkeurige resultaten opleveren. AI-geletterdheid betekent ook inzicht hebben in de beperkingen van AI, waaronder hallucinaties, vooringenomenheid en onjuiste resultaten als gevolg van gegevens van lage kwaliteit.
In tegenstelling tot traditionele automatisering voorspelt AI uitkomsten op basis van patronen die in eerdere gegevens zijn gevonden. Dit verklaart waarom bevooroordeelde trainingsgegevens tot bevooroordeelde resultaten leiden. Het bekende principe "Garbage In, Garbage Out" blijft zeer relevant.
Daarom hangt AI-geletterdheid af van datageletterdheid. Voordat mensen op verantwoorde wijze gebruik kunnen maken van AI, moeten ze begrijpen:
-
Hoe gegevens van hoge kwaliteit eruitzien.
-
Wat een eerlijke weergave in gegevens inhoudt.
-
Hoe men vooringenomenheid in datasets kan herkennen.
-
Hoe onvolledige of verouderde gegevens voorspellingen beïnvloeden.
Zonder datageletterdheid blijft AI-geletterdheid onvolledig.
De EU AI Act: een op risico's gebaseerd kader
Om de groeiende maatschappelijke impact van AI aan te pakken, heeft de Europese Unie de EU AI Act ingevoerd, voortbouwend op regelgeving zoals de AVG. In plaats van elk AI-systeem op dezelfde manier te reguleren, classificeert de wet AI op basis van risico.
Onaanvaardbaar risico
Deze systemen zijn verboden omdat ze een onaanvaardbare bedreiging vormen voor de grondrechten, zoals sociale scores of manipulatieve emotieherkenning.
Hoog risico
Deze systemen zijn toegestaan, maar moeten aan strenge eisen voldoen. Voorbeelden hiervan zijn AI die wordt gebruikt bij werving, in het onderwijs, de gezondheidszorg en andere kritieke sectoren waar beslissingen aanzienlijke gevolgen hebben voor mensen.
Beperkt risico
Deze systemen vereisen transparantie. Gebruikers moeten worden geïnformeerd wanneer ze interactie hebben met AI, zoals bij chatbots of door AI aangestuurde klantenservice.
Minimaal risico
Deze toepassingen vormen weinig risico en vereisen daarom minimale regelgeving; hieronder vallen onder meer spamfilters, aanbevelingssystemen en veel entertainmenttoepassingen.
Een veelvoorkomende misvatting is dat de AI Act alleen van toepassing is op Europese bedrijven. Dat is niet het geval.
Elke organisatie die AI-systemen op de Europese markt brengt, moet aan de wet voldoen, ongeacht of deze in Europa, de Verenigde Staten, Azië of elders is gevestigd.
De implementatie verloopt gefaseerd. Het verbod op AI-systemen met onaanvaardbare risico’s is in februari 2025 in werking getreden. De verplichtingen voor AI met een hoog risico worden vanaf augustus 2026 van toepassing, samen met de eis inzake AI-geletterdheid. Organisaties die AI-systemen implementeren of ontwikkelen, moeten ervoor zorgen dat medewerkers over voldoende AI-geletterdheid beschikken die past bij hun functie.
AI-geletterdheid is daarom niet langer optioneel – het wordt een wettelijke vereiste.
Om organisaties te helpen zich voor te bereiden, biedt Amsterdam Data Academy een cursus ‘AI Literacy & Ethics’ aan, waarin verantwoorde AI, governance en naleving van de EU AI Act aan bod komen.
AI-governance gaat verder dan naleving
Veel organisaties interpreteren AI-geletterdheid als het simpelweg sturen van medewerkers naar een training om aan wettelijke vereisten te voldoen.
Verantwoorde AI vereist veel meer.
AI-governance verwijst naar het beleid, de processen, de verantwoordelijkheden en de controles die bepalen hoe AI wordt ontwikkeld, geïmplementeerd, gemonitord en voortdurend verbeterd.
De belangrijkste governanceprincipes zijn onder meer:
-
Eerlijkheid en ethiek
-
Transparantie en verantwoording
-
Gegevensprivacy
-
Risicomonitoring
-
Herstelmechanismen
Organisaties moeten duidelijk vaststellen wie verantwoordelijk is voor het toezicht op AI gedurende de gehele levenscyclus, in plaats van governance te beschouwen als een eenmalige compliance-activiteit.
Een evenwicht vinden tussen regelgeving en innovatie
Een van de grootste uitdagingen bij AI-regelgeving is snelheid. AI ontwikkelt zich razendsnel, terwijl het jaren duurt om wetgeving op te stellen.
Als regelgeving te traag verloopt, raakt deze achterhaald. Als regelgeving te restrictief wordt, kunnen bedrijven gereguleerde markten helemaal gaan mijden – zoals bij sommige organisaties is gebeurd na de invoering van de AVG.
De uitdaging voor beleidsmakers is het vinden van het juiste evenwicht: de samenleving beschermen zonder innovatie te ontmoedigen.
Organisaties staan intern voor dezelfde uitdaging. Hun AI-governancekaders moeten flexibel blijven, regelmatig worden geëvalueerd en zich kunnen aanpassen aan de technologische ontwikkelingen.
Mensen in de loop houden
Een fundamenteel principe van verantwoorde AI is ‘Human-in-the-Loop’ (HITL). AI mag niet volledig zonder menselijk toezicht functioneren, met name wanneer beslissingen rechtstreeks gevolgen hebben voor individuen.
Het is nuttig om onderscheid te maken tussen twee vormen van AI-gebruik.
Generatieve AI creëert volledige output, zoals wanneer je ChatGPT vraagt om een volledig rapport te schrijven.
Ondersteunende AI ondersteunt het menselijk denkproces – bijvoorbeeld door te brainstormen over ideeën, teksten te verbeteren, fouten op te sporen of informatie samen te vatten.
Ondersteunende AI versterkt menselijke capaciteiten, terwijl het uitsluitend vertrouwen op generatieve AI kritisch denken en analytische vaardigheden geleidelijk kan verminderen. Overmatige afhankelijkheid brengt het risico met zich mee dat juist de cognitieve vaardigheden afnemen die AI moest ondersteunen.
Menselijk toezicht moet daarom gedurende de gehele levenscyclus van AI aanwezig blijven – van systeemontwerp en -ontwikkeling tot besluitvorming en het beoordelen van door AI gegenereerde output.
Mensen moeten altijd in staat zijn om AI-beslissingen ter discussie te stellen, aan te passen of te negeren wanneer dat nodig is.
AI-geletterdheid moet contextspecifiek zijn
Een andere misvatting is dat AI-geletterdheid via één universele cursus kan worden aangeleerd.
Verschillende beroepen vereisen verschillende kennis.
Bijvoorbeeld:
-
Artsen moeten AI begrijpen in het kader van medische diagnoses.
-
HR-professionals moeten AI begrijpen in het kader van werving.
-
Ingenieurs hebben diepgaandere technische kennis nodig.
-
Managers moeten strategisch, juridisch en ethisch inzicht hebben.
Zelfs concepten zoals Explainable AI (XAI) moeten op de doelgroep worden afgestemd. Ontwikkelaars hebben wellicht technische uitleg nodig over neurale netwerken, terwijl patiënten of zakelijke gebruikers eenvoudige, begrijpelijke uitleg nodig hebben over hoe beslissingen tot stand komen.
Effectieve AI-geletterdheid hangt daarom af van praktijkgerichte, branchespecifieke voorbeelden.
Verantwoorde AI bij werving
Werving is een van de duidelijkste voorbeelden van zowel de kansen als de risico's van AI.
AI kan efficiënt cv’s screenen, sollicitatiegesprekken inplannen, kandidaten beoordelen en grote hoeveelheden wervingsgegevens analyseren. Werving wordt echter aangemerkt als een toepassing met een hoog risico, omdat beslissingen over wie wordt aangenomen een aanzienlijke invloed hebben op het leven van mensen.
Als AI-modellen worden getraind met behulp van historisch bevooroordeelde gegevens over werving, kunnen ze diezelfde vooroordelen reproduceren.
Verantwoorde AI bij werving vereist daarom:
-
Het opsporen van vooringenomenheid in historische gegevens.
-
Transparantie over het gebruik van AI.
-
Alleen de noodzakelijke gegevens verzamelen.
-
Het verkrijgen van de juiste toestemming.
-
Menselijk toezicht handhaven bij wervingsbeslissingen.
-
De prestaties van het model continu monitoren.
AI kan recruiters ondersteunen, maar de uiteindelijke beslissingen over aanwerving moeten in handen blijven van mensen.
Verantwoorde AI is ieders verantwoordelijkheid
Verantwoorde AI is niet uitsluitend de verantwoordelijkheid van ontwikkelaars of regelgevers.
Het vereist samenwerking tussen organisaties, beleidsmakers, opleiders, ontwikkelaars en eindgebruikers.
Organisaties moeten een governance-structuur opzetten. Ontwikkelaars moeten betrouwbare systemen bouwen. Beleidsmakers moeten effectieve regelgeving opstellen. Gebruikers moeten de output van AI kritisch beoordelen en fouten melden wanneer deze zich voordoen.
De verantwoordelijkheid wordt gedeeld door het gehele AI-ecosysteem.
De toekomst van verantwoorde AI
De vraag is niet langer of AI de samenleving zal veranderen – dat is al gebeurd.
De echte vraag is of we bereid zijn die transformatie op verantwoorde wijze vorm te geven.
Naarmate AI zich verder ontwikkelt, moeten regelgeving, governance en onderwijs mee evolueren. Verantwoorde AI is afhankelijk van de gecombineerde kracht van AI-geletterdheid, datageletterdheid, ethisch bewustzijn en effectieve governance.
Door mensen op te leiden, betrouwbare systemen te ontwerpen en adaptieve governance toe te passen, kunnen we ervoor zorgen dat AI een hulpmiddel blijft dat de menselijke besluitvorming versterkt in plaats van vervangt.
Bovenal moeten we één leidend principe in gedachten houden:
AI moet de menselijke intelligentie versterken, niet vervangen.
Deze blogpost is een bijdrage van Amsterdam Data Academy, een private AI & Data-opleider met als enige in Nederland een opleiding op NLQF-niveau 6, vergelijkbaar met bachelorniveau. Ga voor meer informatie naar www.amsterdamdatacademy.com of bezoek de stand van Amsterdam Data Academy op Data Expo.
Auteur: dr. Hanan ElNaghy (docent bij Amsterdam Data Academy)
