AI: controle beter dan vertrouwen

AI geraakt steeds meer ingeburgerd in ons dagelijkse leven, zeker onder hoger opgeleiden. We erkennen de voordelen, maar zijn ook bekommerd om de mogelijke gevaren, zo leert onderzoek. In tegenstelling tot wat historicus Yuval Noah Harari in zijn recente boek schrijft, is er geen reden tot doemdenken, wel tot waakzaamheid en nood aan controle en regelgeving.
 

​Management consultant Deloitte publiceerde recent een grootschalig onderzoek onder ruim 2.700 Belgen over hun ervaringen met Generatieve AI, en de populaire toepassing Chat GPT.   Ongeveer 6 op 10 landgenoten is ermee vertrouwd en maakt er ook effectief gebruik van. Mannen gebruiken deze tools vaker voor persoonlijke activiteiten (46%) dan vrouwen (36%), die ze meer in een professionele context gebruiken. Senior managers kunnen haast niet meer zonder:  64% gebruikt generatieve AI tools minstens één keer per week, tegenover 39% van andere werknemers.

Ook al gebruiken we steeds vaker AI,  slechts 40% van de respondenten stelt vertrouwen in de resultaten van Gen AI-tools in een professionele context. Zowat 2 op 3 gebruikers  maakt zich zorgen over de vertrouwelijkheid van gegevens en vreest voor het verlies van menselijke controle in geautomatiseerde processen.

Hoewel meer dan 70% van de Belgische werknemers AI ziet als een manier om hun werk gemakkelijker en aangenamer te maken, maken ze zich terzelfdertijd ook  zorgen over jobzekerheid, vooral bij mannen (41% vs. 32%). Dat is wat ondezoekers van Imec in hun jaarlijkse digimeter eerder al bestempelden als ‘AI-paradox’: we hebben een haat-liefde verhouding met AI.
 
In zijn recente boek ‘Nexus’ waarschuwt de populairste historicus van deze tijd, Yuval Noah Harari, voor de gevaren van AI in het maatschappelijke leven. Hij is van mening dat de verspreiding van AI op termijn zal leiden tot de uitroeiing van de mensheid. Alhoewel we zeer kritisch moeten zijn en blijven voor de maatschappelike impact van elke technologische revolutie (wat AI onmiskenbaar is) helpt het ons niet verder om als een onheilsprofeet op podia in de hele wereld het einde van de tijden aan te kondigen, of ons te wentelen in louter zingeving of meditatie (in het persoonlijke leven van Harari, met alle respect overigens).
 
Ikzelf deel eerder de kritische visie van de Britse wetenschapper Geoffrey Hinton die algemeen wordt gezien als een van de grondleggers van AI. Hij werkte in het verleden oa voor Google. Hinton waarschuwt in een recente videoboodschap voor de potentiële gevaren van AI, vooral vanwege de toenemende concentratie van AI-ontwikkeling bij een paar grote bedrijven (‘Magnificent Seven’) en de dreiging van ongecontroleerde autonome systemen. Hij is in het bijzonder bezorgd over de toenemende macht van AI-technologieën, die mogelijk zelfstandig beslissingen kunnen maken, zelfs op het gebied van wapens. Hij suggereert dat er dringend behoefte is aan regelgeving om AI-systemen te beheren, met name in militaire toepassingen, en dat AI mogelijk onderworpen zou moeten worden aan een "Geneefse Conventie" specifiek voor AI-wapens​
.
Hinton wijst er ook op dat de internationale gemeenschap in het verleden pas geneigd was om  in actie te komen na catastrofale gebeurtenissen, zoals eerder gebeurde met chemische wapens na de catastrofe van de Eerste Wereldoorlog. Hij pleit thans voor een wereldwijde aanpak om de risico’s van AI te beperken, en hij waarschuwt dat zonder samenwerking het moeilijk zal zijn om controle te houden over de ontwikkeling van krachtige AI-systemen​.
 
Mijn besluit: vertrouwen is goed, controle is beter, ook als het over AI gaat.