AI en de les van Oppenheimer

De inbraak van een OpenAI-agent in een computersysteem van de Australische gezondheidsdienst afgelopen week roept opnieuw alarmerende vragen op over het mogelijke misbruik van AI. Eerder waren er al de waarschuwingen van verschillende ontwikkelaars zelf over een reële kans op uitroeiing van de mensheid  door het ongecontroleerd inzetten van AI. En dat moet ons tot nadenken stemmen. Vertrouwen in de mogelijkheden van technologie is goed, zelfregulering is nobel, maar publieke controle is  beter. 

​Mij roept de AI-wedloop  van vandaag gelijkenissen op met de processen  die aan de basis lagen  van de ontwikkeling van de atoombom. Aan het einde van de jaren dertig ontdekten wetenschappers dat kernsplijting niet alleen nieuwe energie kon opleveren, maar ook een wapen met een ongeziene vernietigingskracht. De angst in de laatste dagen van WO2 was eenvoudig: als wij het niet doen, doet de vijand het.

Daarmee was de logica van de wapenwedloop geboren. De Verenigde Staten brachten in het Manhattan Project de beste wetenschappers samen. Robert Oppenheimer werd de wetenschappelijke leider. In juli 1945 was de bom werkelijkheid. Nazi-Duitsland was toen al verslagen. Maar de machine die in gang was gezet, stopte niet meer. Enkele weken later werden de Japanse steden Hiroshima en Nagasaki vernietigd.

Vandaag zien we bij artificiële intelligentie een echo van die geschiedenis. Ook AI begon als een wetenschappelijk project, gedreven door nieuwsgierigheid en de belofte van tastbare vooruitgang en doorbraken in geneeskunde, wetenschap, onderwijs en economie. En dat zijn ontwikkelingen die we als mensheid alleen maar kunnen toejuichen.

Maar tegelijk is opnieuw een wedloop ontstaan. Niet tussen de Verenigde Staten en nazi-Duitsland, maar vooral tussen Amerika en China. En binnen Amerika tussen technologiebedrijven die vrezen dat een concurrent als eerste de ultieme doorbraak bereikt. Er worden miljarden geïnvesteerd. Overheden beschouwen AI steeds meer als een strategische technologie die economische én militaire macht bepaalt. Opnieuw klinkt hetzelfde argument: als wij vertragen, doet de andere het niet.

De waarschuwingen voor de gevaren van AI komen vandaag uit de wereld van de technologie zelf. AI-pioniers waarschuwen voor systemen die we uiteindelijk misschien niet meer volledig kunnen controleren. De meest extreme vrees is existentieel: dat artificiële intelligentie ooit niet alleen banen of bedrijven bedreigt, maar de mens zelf. Daar ligt de diepste parallel met Oppenheimer. Wat als technologie zo vaak begint met de progressieve en optimistische kracht van nieuwsgierigheid en wetenschap (de kracht van Verkennen in mijn 4-krachten model) verschuift  geleidelijk naar de destructieve krachten van oorlog en vernietiging (Veroveren). 

Maar de geschiedenis van de atoombom leert ons nog iets anders. Uiteindelijk beseften zelfs aartsvijanden dat wederzijdse vernietiging geen strategie kon zijn. Er kwamen internationale afspraken, inspecties en controlemechanismen. Het Internationaal Atoomenergieagentschap moest toezien op het vreedzame gebruik van kerntechnologie. Tijdens de Koude Oorlog sloten de Verenigde Staten en de Sovjet-Unie akkoorden om hun nucleaire arsenalen te beperken. De toenmalige Amerikaanse president Ronald Reagan vatte de filosofie achter die afspraken kernachtig samen met een Russisch spreekwoord: “Trust, but verify.”

Misschien hebben we voor AI iets gelijkaardigs nodig: een internationale instelling met duidelijke spelregels, transparantie en onafhankelijke controle op de krachtigste AI-systemen. Niet om innovatie stil te leggen, maar om te vermijden dat concurrentie tussen bedrijven en landen elke vorm van voorzichtigheid onmogelijk maakt. Want geen enkel land en geen enkel technologiebedrijf zal vrijwillig vertragen wanneer het vreest dat de andere gewoon verdergaat.
Oppenheimer begreep pas na Hiroshima welke kracht hij mee had ontketend. Met AI hebben we nog de kans om eerder in te grijpen. Niet door de vooruitgang te stoppen, wel door grenzen te trekken vóór de technologie zelf de grenzen bepaalt. Want dat is misschien de belangrijkste les van de atoombom: wat technologisch mogelijk wordt, zal vroeg of laat ook worden gebruikt, en misbruikt. Tenzij we vooraf afspreken wat we niet willen laten gebeuren. De topontmoeting tussen de Amerikaanse en Chinese leiders afgelopen week was ook op dat vlak een gemiste kans. 

En, toegegeven, misschien gaat de vergelijking tussen de atoombom en AI toch niet helemaal op. Historicus Yuval Noah Harari wees recent op een cruciaal verschil. De atoombom was, ondanks haar ongekende vernietigingskracht, uiteindelijk een instrument van de mens. Ze besliste niet zelf om Hiroshima of Nagasaki te bombarderen. Mensen namen die beslissing: in dat geval de Amerikaanze president. AI is volgens Harari echter de eerste technologie die kan evolueren van instrument naar agent: systemen kunnen zelf beslissingen nemen, leren en nieuwe oplossingen ontwikkelen. Bij autonome wapens kan dat uiteindelijk zelfs betekenen: zelf bepalen wie of wat een doelwit wordt. Het maakt de noodzaak van publieke controle nog urgenter.
​
Met AI hebben we vandaag nog  even de kans om als mensheid in te grijpen. Niet door de vooruitgang te stoppen, maar door grenzen te trekken vóór de technologie zelf de grenzen bepaalt. De echte uitdaging van AI is of we als mens de regie van ons leven in handen houden, of niet.