Stoppen met bouwen is geen plan
De afgelopen week kwam in vrijwel elke groepschat waarin ik zit hetzelfde document langs. AI 2040: Plan A, een lijvig beleidsstuk dat probeert vast te leggen hoe we de komende vijftien jaar met kunstmatige intelligentie zouden moeten omgaan. Mensen sturen het door met een mengeling van bewondering en ongemak. Het is goed geschreven, het is grondig onderbouwd, en het komt tot een conclusie waar ik het hartgrondig mee oneens ben.
De kern laat zich vangen in één beeld. Stel je twee hardlopers voor bij kilometer 34 van dezelfde marathon. Allebei uitgeput, allebei loerend naar de ander. Geen van beiden durft als eerste in te houden, want inhouden betekent verliezen. En dan staat er iemand langs de kant met een megafoon die roept dat ze allebei moeten stoppen en de rest wandelend moeten afleggen. Voor hun eigen bestwil. Dat is, teruggebracht tot de essentie, wat AI 2040 aan de wereld voorstelt.
AI 2040: Plan A schetst vijf mogelijke routes voor de ontwikkeling van AI, van ‘race door naar superintelligentie’ tot ‘verbied al het onderzoek’. Het weegt ze zorgvuldig tegen elkaar af en kiest er één: rem het onderzoek naar de krachtigste modellen wereldwijd af, voordat het uit de hand loopt. De redenering is serieus en het gevaar dat het schetst is niet denkbeeldig. Maar precies op het punt waar de analyse overgaat in een advies, gaat het volgens mij mis. Op vier manieren.
De aanname is niet AI, het is de voorspelling
Onder het hele document ligt één overtuiging: laat je de sterkste AI ongemoeid, dan wordt die ooit krachtig genoeg om ons allemaal op te ruimen. Dus moeten overheden ingrijpen vóór dat punt bereikt is. Dat klinkt redelijk, tot je een lastigere vraag stelt. Hoe vaak heeft de mensheid de gevolgen van een nieuwe technologie ooit goed voorspeld? Van het internet werd niet verwacht dat het sociale media zou voortbrengen. Van de smartphone niet dat die onze belangrijkste toegang tot de wereld zou worden. AI vijftien jaar vooruit inschatten lijkt niet op het voorspellen van het weer van morgen, maar op het voorspellen van TikTok op de dag dat je voor het eerst een webpagina ziet laden. Voorzichtig zijn is verstandig. De stelligheid waarmee deze voorspellingen worden gebracht, is dat niet.
AI is geen uranium, het is software
Het document behandelt AI telkens alsof het kernmateriaal is. Moeilijk na te maken, streng te bewaken, gevaarlijk genoeg om een beschaving mee op te blazen. Maar informatietechnologie gedraagt zich anders dan fysieke techniek. Ze verspreidt zich sneller en laat zich moeilijker tegenhouden. Groot-Brittannië probeerde ooit de Industriële Revolutie binnen de eigen grenzen te houden door de export van machines en het vertrek van geschoolde arbeiders te verbieden. Binnen een paar decennia was de kennis alsnog de hele wereld over. Bij AI zie je dezelfde beweging, alleen sneller. Hoe je een groot taalmodel bouwt is bekend, en er draaien nu al goede alternatieven voor de gesloten topmodellen. Frontier-AI permanent indammen lijkt daarom niet op het beperken van uranium, maar op het proberen in te dammen van Linux. En dat was vanaf de eerste dag open.
Je verbiedt geen vuur omdat een bos kan branden
Elke technologie voor algemeen gebruik brengt schade met zich mee. De stoommachine was gevaarlijk. Elektriciteit kostte mensenlevens. Auto’s veroorzaakten ongelukken. Het internet gaf ons cybercriminaliteit. En toch was het antwoord vrijwel nooit om te stoppen met bouwen. Het antwoord was om er betere instituties omheen te zetten: regels, toezicht, verzekeringen, normen. Juist daar voelt AI 2040 achterstevoren. Het besteedt meer energie aan de vraag hoe je vooruitgang afremt dan aan de vraag hoe je die vooruitgang bestuurt zodra ze er toch is. En ze komt er toch.
Wat het document wél goed ziet
Toch heeft het op één punt volledig gelijk, en dat wil ik niet wegpoetsen. AI is geen gewone software-industrie meer. Het is geopolitieke infrastructuur geworden. De krachtigste modellen raken aan defensie, wetenschappelijk onderzoek, economische concurrentiekracht en nationale soevereiniteit. De markt alleen biedt daar geen afdoende waarborg meer. Voorstellen voor onafhankelijke, internationale toetsing van wat deze modellen precies kunnen, verdienen daarom serieuze aandacht. Zelfs Demis Hassabis, de topman van Google DeepMind, noemt zulke toetsing een bouwsteen voor wereldwijd AI-bestuur. Maar meten wat een model kan is iets heel anders dan al het onderzoek stilleggen. Het eerste vergroot je inzicht. Het tweede gaat er bij voorbaat van uit dat inzicht onmogelijk is.
Beslissen terwijl je het niet weet
En hier raakt het document aan iets wat ik in mijn eigen werk bijna wekelijks tegenkom. Niet bij landen, maar bij organisaties. ‘Moeten we niet even wachten tot het duidelijker wordt?’ Het klinkt verstandig, en het is dezelfde denkfout, alleen kleiner. Wachten voelt als voorzichtigheid, maar het is ook een beslissing, met eigen risico’s. Wie de kat uit de boom kijkt tot alles zeker is, begint straks van achteren. Elk beleid, en elke bedrijfskeuze, is een compromis tussen wat je zou willen en wat de werkelijkheid toelaat. En de werkelijkheid wint meestal. Ieder land zou het prettig vinden als iedereen samen op de rem trapt, maar niemand kan controleren of de rest zich eraan houdt. Zo werkte het bij kernwapens, en zo werkt het nu weer. De geest is niet alleen uit de fles, hij wordt al gekopieerd en toegepast. De vraag is dus niet langer óf deze verschuiving doorzet. Die vraag is beantwoord. De vraag is of jij consument blijft van de intelligentie van iemand anders, of dat je zelf leert bouwen. En dat begint niet met het kiezen van de winnende tool. Het begint met eerder leren dan de rest.
