Denken vanuit de technologie is een valkuil die steeds weer opduikt als nieuwe technieken beschikbaar komen. ‘We moeten iets doen met AI’ is een veelgehoorde reflex bij organisaties nu er zoveel wordt gesproken over AI. De vrees om achterop te raken, leidt al snel tot kansloze proefprojecten die niet opgeschaald kunnen worden. “Start met de vraag: ‘Waarom?’. ‘Waarom’ is een veelomvattende vraag, maar eigenlijk een heel simpele. Hebben we heel duidelijk waarom we dit op deze manier willen doen en wat we willen bereiken? Zijn er andere opties en hebben we die goed geëvalueerd?”, houdt Brekelmans haar publiek voor. “En laten we de neveneffecten niet vergeten. Wanneer je voor optie A kiest, kies je niet voor optie B of C en daar vloeien wellicht andere effecten uit voort. In veel gevallen weet je niet precies wat die effecten werkelijk gaan zijn, maar je kunt er wel over nadenken en proberen ze helderder te krijgen.”
Praten in plaats van lijstjes afvinken
Dit soort vragen is het beste op te pakken in een gesprek met alle betrokkenen en niet alleen over te laten aan een ethische commissie, adviseert Brekelmans. Ze wijst erop dat voldoen aan ethische voorwaarden voor veel mensen gelijk staat aan het afvinken van lijstjes en het nalopen van frameworks. Daarmee wordt het een administratieve ballast waardoor mensen al snel uit het oog verliezen waarom er regels zijn opgesteld. Brekelmans raadt soms zelfs aan om een ander woord te kiezen dan ‘ethiek’ omdat het zwaarmoedig kan overkomen.
Ethisch bewustzijn moet in het gevoel van alle medewerkers zitten, zodat ze zelf bedenken: dit zit niet goed in elkaar omdat het problematisch is om die en die redenen"
Brekelmans heeft op verschillende plekken al een onconventionele aanpak geïntroduceerd. Voor bijeenkomsten over dit onderwerp neemt ze een verzameling exotische knuffeldieren mee en vraagt iedereen er een te kiezen. Ze moeten de knuffel een naam geven en een eigenschap toekennen. De deelnemers moeten vervolgens spreken vanuit de rol die ze aan het speeltje hebben gegeven. Dankzij die rol durven mensen eerder heel ongemakkelijke vragen te stellen. “’Ik heb deze zeer kritische vleermuis in mijn hand, dus ik stel de vraag niet, maar deze vleermuis.’ De aanpak klinkt misschien stom, maar het werkt echt”, benadrukt ze.
Zorg dat je het over dezelfde dingen hebt
In die gesprekken is het ook erg belangrijk dat iedereen van dezelfde definities uitgaat. Het begrip AI bijvoorbeeld is erg breed en vaak hebben mensen heel verschillende ideeën in hun hoofd, waardoor ze langs elkaar heen praten. Datzelfde geldt voor begrippen die vallen onder ethiek. “Wat versta je onder ‘governance’, wat is ‘verantwoord’ en wanneer is iets ‘eerlijk’? Wat is bias en hoe definieer je autonoom?”
Ze refereert daarbij aan een formulering van de Pools-Amerikaanse denker Alfred Korzybski, de grondlegger van de general semantics. Hij introduceerde in 1931 de omschrijving ‘a map is not the territory’, waarmee hij onderstreept dat een woord niet het object is waar het naar verwijst, net zoals een kaart niet het landschap zelf is. Een kaart is noodzakelijkerwijs een selectie en een vereenvoudiging van de werkelijkheid en daardoor een bruikbaar hulpmiddel. Maar wie de kaart behandelt alsof die de volledige werkelijkheid is, maakt een denkfout.
Brekelmans noemde ook de ideeën van de Oostenrijks-Britse filosoof Ludwig Wittgenstein, die stelde dat taal een activiteit is waarin mensen participeren. “Ik praat hier nu en jullie proberen te begrijpen wat ik zeg. Daaruit ontstaat, hoop ik, een gedeeld begrip, want alleen dan heeft het zin. Communicatie werkt bovendien alleen als we ergens vraagtekens bij kunnen zetten”, legt ze uit. Mensen moeten durven zeggen dat ze iets niet weten of begrijpen; dat verkleint de risico’s van besluitvorming.
AI proportioneel inzetten
Het mooiste is als iedere medewerker op deze manier bewust wordt van de gevolgen van AI en er daardoor bewuster mee omgaat. “We hebben daar bij Vattenfall grappige filmpjes voor gemaakt waarbij iemand in een groepje collega’s vraagt wat voor weer het is. Een van hen stelt, in plaats van uit het raam te kijken, de vraag aan Copilot. Dan hebben we in het filmpje een voice-over die zegt dat er op dat moment 27 datacentra zoveel gigawattuur verbruiken, en er zijn allemaal droevige dieren te zien omdat het water uit hun beekje wordt getrokken. Dat alles alleen om het antwoord op de vraag te vinden.”
Brekelmans stelt dat dit voorbeeld niet wil zeggen dat AI niet gebruikt mag worden, maar dat verantwoord AI-gebruik inhoudt dat je steeds de vraag stelt of het gebruik van AI wel nodig en proportioneel is.
Daar ligt ook een verantwoordelijkheid bij het management. Het is belangrijk dat medewerkers niet simpelweg gedwongen worden AI te gebruiken. “Natuurlijk mag je op een bepaald niveau verwachten dat mensen openstaan voor nieuwe ontwikkelingen. Maar je hebt mensen die daar minder in willen meegaan en er een andere mening over hebben. Die zijn waardevol voor de organisatie. Want ook onder de klanten die bijvoorbeeld contact opnemen met de klantenservice zul je altijd mensen hebben die andere contactvoorkeuren hebben en wellicht ook andere producten of diensten afnemen.”
Medewerkers met een afwijkende mening zijn daarom interessant omdat ze een afspiegeling vormen van de klanten van een organisatie. “Mijn grootste vrees is dat straks alles alleen maar AI is. Ik hoop dus dat de trend ombuigt en mensen weer meer zelf de regie kunnen nemen. Waarschijnlijk is daar uiteindelijk duidelijke wet- en regelgeving voor nodig om te zorgen dat die keuze mogelijk blijft.”
