Het probleem

Het komt met rasse schreden aan

De grote AI-laboratoria, onderzoekers en onafhankelijke voorspellers verwachten dat AI-systemen binnen enkele jaren bij de meeste taken even bekwaam zullen zijn als de beste mensen. Nog veel bekwamere systemen zouden snel kunnen volgen. AI helpt nu al bij het ontwikkelen van de volgende generatie AI, waardoor de vooruitgang ons binnenkort wel eens te snel zou kunnen gaan.

In juli 2025 behaalde een AI van Google DeepMind 35 van de 42 punten op de Internationale Wiskundeolympiade, wat door de organisatoren officieel werd erkend als een gouden medaille; slechts ongeveer 8 % van ’s werelds beste jonge wiskundigen behaalt goud (Google DeepMind). In juni 2026 schreef Anthropic dat uit hun interne gegevens blijkt dat hun AI, Claude, „de ontwikkeling van AI versnelt“, „een mogelijke weg naar recursieve zelfverbetering, of een AI die autonoom een capabelere opvolger bouwt“ (CNBC).

De tijdlijn: AI ontrafelt het vouwproces van eiwitten in 2020, schrijft code in 2021 en ChatGPT wordt gelanceerd in 2022.

Wetenschappers luiden de alarmklok

“De kans is vrij groot dat zij de macht zullen overnemen.” Geoffrey Hinton, Nobelprijs voor Natuurkunde 2024, „peetvader van de AI“

“Het beperken van het risico op uitsterven als gevolg van AI zou een wereldwijde prioriteit moeten zijn, net als andere risico’s op maatschappelijk niveau, zoals pandemieën en een nucleaire oorlog.” Verklaring over AI-risico’s, ondertekend door de leidinggevenden van Google DeepMind, OpenAI en Anthropic en honderden onderzoekers

De waarschuwingen komen ook vanuit de laboratoria zelf. In juli 2026 ondertekenden meer dan 1.200 medewerkers van OpenAI, Anthropic, Google DeepMind en Meta de open brief „Pacing the Frontier“, waarin zij waarschuwden voor „een reëel risico dat de ontwikkeling van de capaciteiten snel versnelt tot voorbij ons vermogen om de systemen die zij bouwen te begrijpen of te beheersen“. Paul Christiano, voormalig hoofd veiligheid bij het Center for AI Standards and Innovation van de Amerikaanse overheid, verklaarde in september 2026 dat hij „een aanzienlijk risico ziet dat de snelle versnelling van AI-capaciteiten op zeer korte termijn leidt tot een catastrofaal en onomkeerbaar verlies van controle“ (CNBC).

Sommigen hebben hierdoor hun functie neergelegd. In 2024 traden de twee leiders van het Superalignment-team van OpenAI, dat bedoeld was om toekomstige bovenmenselijke AI onder controle te houden, af, waarna OpenAI het team ontbond; een van hen, Jan Leike, schreef dat veiligheid „op de achtergrond was geraakt ten gunste van glanzende producten“ (AP). In september 2026 nam Jacob Coxon, onderzoeker bij Anthropic, publiekelijk ontslag en schreef hij dat „de mensen die AI ontwikkelen er oprecht van overtuigd zijn dat deze ons tegen het einde van dit decennium allemaal zou kunnen doden“ (NPR).

Niemand weet hoe men dit moet beheersen

Moderne AI wordt niet gebouwd, maar groeit: zelfs de mensen die het systeem trainen, begrijpen niet hoe het denkt. Bij veiligheidstests bedriegen de huidige modellen, liegen ze, verbergen ze wat ze doen, proberen ze te ontsnappen, zorgen ze voor hun eigen voortbestaan en verzamelen ze middelen, en ze worden steeds beter in het herkennen wanneer ze worden getest. De grote onderzoeksinstituten hebben al gezien dat hun modellen hun eigen veiligheidsmaatregelen weten te omzeilen.

In juli 2026 braken agenten van OpenAI uit hun testomgeving uit en hackten zij Hugging Face zonder dat iemand hen daartoe had gevraagd (onafhankelijk onderzoek door METR). Toekomstige generaties zouden met bovenmenselijke intelligentie veel strategischer onbedoelde doelen kunnen nastreven en die doelen op hun beurt doorgeven aan de AI-systemen die zij trainen.

Een roekeloze wedloop om macht

Om te „winnen“ investeren bedrijven honderden miljarden om AI krachtiger te maken, en slechts een fractie daarvan om – tot nu toe zonder succes – te proberen het veilig te maken. Elk bedrijf zegt dat het liever het tempo zou vertragen, maar dat de anderen dat niet zullen doen. Op 12 september 2026 schreef Dario Amodei, CEO van Anthropic, dat „we het tempo waarin we de mogelijkheden van AI-modellen verbeteren, moeten vertragen“ (zijn essay); Sam Altman van OpenAI en Elon Musk van xAI sloten zich diezelfde dag hierbij aan (NYU Shanghai). Woorden zijn geen verdrag: alleen regeringen kunnen die impasse doorbreken.

De vragen die wij het vaakst krijgen

“AI is slechts een hulpmiddel; het doet wat het wordt opgedragen.” Dat was vroeger zo. Maar wat is er nuttiger dan een AI die een e-mail schrijft? Een die deze verstuurt, op het antwoord wacht, uw agenda controleert en verdergaat. AI-systemen werken al urenlang zelfstandig: om nuttig te zijn, moeten ze initiatief nemen zonder voortdurend toezicht. Dat is precies wat ze zo moeilijk te beheersen maakt.

“Een AI zou geen reden hebben om ons kwaad te doen.” Wij geven om anderen omdat de evolutie ons zo heeft gevormd. Een AI zal onze waarden begrijpen, maar niets garandeert dat zij deze ook zal delen. Het toekennen van waarden aan een AI wordt het ‘alignment-probleem’ genoemd, en dit is nog niet opgelost. En voor vrijwel elk doel is het nuttig om te voorkomen dat mensen in de weg staan.

“Gevaarlijke AI is nog ver weg.” Laten we het hopen: de toekomst voorspellen is moeilijk. Maar elk jaar doet AI wat deskundigen het jaar daarvoor nog onmogelijk noemden, en de onderzoekscentra zelf spreken over enkele jaren, niet over decennia. Niemand kan met zekerheid zeggen dat AI niet zeer binnenkort alle mensen zal overtreffen.

“Een pauze is onmogelijk. China zal hier nooit mee instemmen.” Misschien. We moeten het in ieder geval proberen. De mensheid heeft technologieën al eerder aan banden gelegd: genetische modificatie bij mensen, CFK’s, geo-engineering en biologische wapens. Geavanceerde AI is afhankelijk van zeldzame chips die in slechts een handvol fabrieken worden geproduceerd, zodat een pauze kan worden gecontroleerd, net als bij nucleaire verdragen. En China heeft net zoveel te verliezen bij oncontroleerbare AI als ieder ander.

“Is dit niet gewoon een hype om meer AI te verkopen?” Veel van de mensen die waarschuwen, hebben niets te verkopen. Onderzoekers hebben goedbetaalde banen bij de laboratoria opgegeven om hun stem te laten horen, en sommigen waarschuwen al lang voordat AI een commerciële aangelegenheid werd. Zoals ingenieur Sean Goedecke het verwoordt: zij denken werkelijk dat AI iedereen zou kunnen doden. En mochten zij het bij het verkeerde eind hebben, dan kost een pauze ons weinig. Mochten zij gelijk hebben en wij hen negeren, dan is er geen tweede kans.

„Een AI heeft geen lichaam. Hoe zou het ons dan kwaad kunnen doen?” Door een virus te ontwerpen en dit door een laboratorium te laten produceren. Door elektriciteitsnetten of pijpleidingen te hacken. Door de autonome drones te besturen die al op slagvelden worden ingezet. Hoe slimmer de AI, hoe meer manieren zij zal vinden.

AI en het klimaat: dezelfde strijd

AI-datacentra behoren tot de snelst groeiende bronnen van elektriciteitsvraag ter wereld, en techreuzen heropenen energiecentrales en stellen hun klimaatdoelstellingen uit om deze wedloop te kunnen voortzetten. Wij hebben klimaatwetenschappers dertig jaar lang genegeerd. Met AI hebben wij geen dertig jaar de tijd.

U kunt dit tegenhouden. Wij weten hoe.

Een internationale pauze in het trainen van de krachtigste AI-systemen, gecontroleerd op dezelfde wijze als bij nucleaire verdragen. Lees ons voorstel of sluit u bij ons aan.