Wellicht is de kans gering dat een grillige overheid de techgiganten opdraagt de dienstverlening aan Europese klanten op te schorten, maar het risico is niet uit te sluiten. Reëler is dat buitenlandse inlichtingendiensten toegang krijgen tot de gegevens die Europese klanten met de AI-diensten uitwisselen. Recent nog bleek uit een bericht in Vrij Nederland dat Microsoft de namen van Nederlandse ambtenaren en wetenschappers heeft doorgespeeld aan een commissie van het Amerikaanse Huis van Afgevaardigden. Deze mensen zijn betrokken bij de Digital Services Act, de Europese wet die aanbieders van onlineplatformen verplicht harder op te treden tegen illegale content. De Amerikaanse overheid ziet dit als censuur.
Klein maar fijn
Voor iedereen die met data werkt, wordt het belangrijk zich voortdurend af te vragen wat de gevolgen kunnen zijn van het gebruik van niet-Europese clouddiensten. Dat wil niet zeggen dat het gebruik van die diensten niet meer kan, maar een zorgvuldige risico-afweging is wel belangrijk. Een gewaarschuwd mens telt voor twee, om er maar eens een cliché in te gooien.
De overstap naar Europese AI-alternatieven is nog niet eenvoudig. Het Franse Mistral, dat hard aan de weg timmert om met Vibe een ChatGPT-, Copilot- of Claude-achtige dienst aan te bieden, maakt in ieder geval in het Nederlandse taalgebied nog veel fouten, zo is mijn persoonlijke ervaring.
Maar lang niet voor alle AI-toepassingen zijn dergelijke grote, algemeen georiënteerde large language models nodig. Er komen steeds meer kleine modellen beschikbaar die zijn getraind op specifieke taken. Het grote voordeel daarvan is dat ze lokaal kunnen draaien en dus geen data naar de cloud sturen. Zo zijn dus ook gelijk de problemen rond privacy en de soevereiniteit van de AI-toepassingen geregeld.
Zuinig en snel
Een bijkomend voordeel is dat het gebruik van die kleine edge-AI-modellen veel minder energie kost en zo de milieubelasting van AI vermindert. Edge-AI heeft ook nog eens geen last van latency, oftewel de vertraging die optreedt wanneer gegevens heen en weer naar een clouddatacenter moeten reizen. De lokale AI-toepassingen draaien op servers in het eigen datacentrum van organisaties, maar steeds vaker ook op de pc, IoT-apparatuur of zelfs de smartphone van de gebruiker.
Edge-AI-modellen zijn zeker niet voor alle toepassingen geschikt, maar de ontwikkeling van krachtige kleine modellen gaat snel. Een ontwikkeling om in de gaten te houden, zeker wanneer AI-toepassingen een rol krijgen in bedrijfskritische processen. Denk aan veiligheidssystemen en toegangscontrole, maar ook aan spraak- en beeldherkenning op de werkplek.