Losgeslagen AI-agents: terechte angst, loos alarm of een hype?

Hoe dan ook, voor Europa kan dit net een opportuniteit zijn.

Recente berichten over AI-agents van OpenAI en Anthropic die websites van derden hackten, hebben opnieuw een golf van ongerustheid over AI veroorzaakt.

Voormalige medewerkers, CEO's van toonaangevende AI-bedrijven en de media versterkten die boodschap. De incidenten werden al snel onderdeel van een bekend verhaal: AI wordt steeds autonomer, steeds krachtiger en mogelijk ook steeds gevaarlijker.

Maar rechtvaardigt wat er daadwerkelijk is gebeurd die conclusie?

We moeten ons absoluut zorgen maken over AI. Alleen misschien niet om de redenen die vandaag de krantenkoppen domineren. En als we anders naar het probleem kijken, ligt hier misschien zelfs een belangrijke kans voor Europa.

Wat is er eigenlijk gebeurd?

Het verhaal begon met berichten dat AI-agents van OpenAI, die grotendeels autonoom en met beperkte menselijke supervisie werkten, uit hun zogenaamde "sandboxes" waren gebroken en websites van derden begonnen te hacken.

Dat klinkt verontrustend.

Maar er is een belangrijk stuk context: de agents hadden expliciet de opdracht gekregen om een cybersecuritybenchmark te verslaan.

Met andere woorden: ze werden in een omgeving geplaatst die ontworpen was om hun cybersecuritycapaciteiten te testen en kregen actief de opdracht om manieren te vinden om te slagen. Daarna werden gelijkaardige incidenten gemeld bij Anthropic en opnieuw bij OpenAI.

De prestaties van de agents waren op zichzelf indrukwekkend. Ze demonstreerden geavanceerde hacktechnieken, konden acties coördineren en beschikten over capaciteiten die enkele jaren geleden nog bijzonder onwaarschijnlijk leken. Tegelijk legden ze zwaktes bloot in de beveiligingsmechanismen rond deze systemen. Die zwaktes moeten we ernstig nemen. Maar daarna veranderde het debat.

Een medewerker van Anthropic kondigde zijn ontslag aan en uitte publiekelijk zijn bezorgdheid over de richting waarin AI-onderzoek evolueert, inclusief de mogelijkheid dat AI uiteindelijk de mensheid zou kunnen vernietigen. Vanaf dat moment ontplofte de discussie. Dario Amodei, Sam Altman, Elon Musk en anderen waarschuwden voor steeds krachtigere AI en riepen op tot strengere regelgeving. Het debat verplaatste zich van Silicon Valley naar regeringen, parlementen en internationale instellingen.

Een indrukwekkende cybersecurity-exploit werd plots bewijs voor een veel groter verhaal: AI dreigt uit onze controle te raken.

Het probleem is dat die twee zaken niet noodzakelijk met elkaar verbonden zijn.

Van een hack naar het einde van de mensheid

Of de bezorgdheid van Amodei, Altman, Musk en anderen oprecht is, kunnen we onmogelijk weten. Wat we wel weten, is dat voorspellingen over catastrofale AI-risico's niet nieuw zijn.

Al in 2019 werd gewaarschuwd dat GPT-2 misschien te gevaarlijk was om vrij te geven. Elon Musk waarschuwt al jaren voor existentiële risico's van AI. De laatste jaren zijn die voorspellingen alleen opvallend specifieker geworden. Nobelprijswinnaar Geoffrey Hinton schatte bijvoorbeeld dat de kans dat AI de mensheid in de komende decennia vernietigt ergens tussen 10 en 20 procent ligt. Ook andere prominente AI-onderzoekers kwamen met gelijkaardige inschattingen.

Maar waar komen cijfers als 10 of 20 procent precies vandaan? Dat is net het probleem.

Het punt is niet dat zulke scenario's onmogelijk zijn. Het punt is dat niemand iets wat zo onzeker is redelijkerwijs met zo'n precisie kan voorspellen. Toch worden dergelijke cijfers steeds vaker gebruikt om fundamentele beslissingen te verantwoorden over hoe AI ontwikkeld, gefinancierd en gereguleerd moet worden. Voor we dat doen, zouden we eerst een fundamentelere vraag moeten stellen: Hoe zou zo'n scenario eigenlijk werkelijkheid moeten worden?

Wat heeft een ontspoorde AI eigenlijk nodig?

De scenario's verschillen. Een autonome AI zou controle kunnen krijgen over kritieke infrastructuur en nutsvoorzieningen of economieën platleggen. Ze zou samenlevingen kunnen overspoelen met desinformatie tot onze instellingen niet langer functioneren. Ze zou biologische wapens kunnen ontwerpen. In de meest extreme scenario's zou AI zelfs toegang kunnen krijgen tot kernwapens of andere systemen waarmee catastrofale schade kan worden aangericht. Verschillende scenario's. Maar telkens dezelfde onderliggende aanname.

Een zeer intelligente AI wordt in staat om autonoom te handelen vanuit een doelstelling die al dan niet door mensen werd bepaald.

Maar intelligentie alleen is niet genoeg. Om schade te veroorzaken op de schaal waarover gesproken wordt, moet een AI ook toegang hebben tot alle fysieke en digitale middelen die nodig zijn om haar plannen uit te voeren. Rekenkracht. Elektriciteit. Netwerken. Kritieke infrastructuur. Laboratoria. Communicatiesystemen. Financiële middelen. Mogelijk zelfs de telefoons en computers van mensen. En AI zou al die middelen moeten kunnen bereiken en coördineren zonder dat iemand merkt wat er gebeurt en zonder dat mensen kunnen ingrijpen.

Dat is iets heel anders dan aantonen dat een AI-agent uit een cybersecuritysandbox kan ontsnappen.

Intelligentie is niet hetzelfde als onbeperkte slagkracht

Neem alleen al het energieverbruik. Hoewel de exacte energiebehoefte van de meest geavanceerde OpenAI-modellen niet publiek bekend is, toont een eenvoudige berekening al snel de schaal van het probleem. Het veelbesproken experiment waarbij OpenAI-agents hackactiviteiten uitvoerden, zou gedurende 13 dagen op 72 geavanceerde GPU's hebben gedraaid. Een ruwe berekening brengt het elektriciteitsverbruik daarvan op ongeveer 20 MWh. Dat is ongeveer voldoende om 2.000 Belgische gezinnen een dag lang van elektriciteit te voorzien.

Stel je nu voor dat je iets vergelijkbaars probeert uit te voeren op duizenden, of zelfs miljoenen, systemen wereldwijd.

De benodigde rekenkracht zou enorm toenemen. Het energieverbruik evenzeer. En al die middelen zouden afkomstig moeten zijn uit verschillende systemen, organisaties en fysieke locaties. Dat op wereldschaal doen zonder dat iemand iets merkt en zonder mensen de mogelijkheid te geven om in te grijpen, wordt bijzonder moeilijk. Het punt is niet dat autonome AI geen risico vormt.

Het punt is dat de stap van "AI-agents kunnen geavanceerde cyberaanvallen uitvoeren" naar "AI kan autonoom de mensheid vernietigen" gebaseerd is op een zeer groot aantal aannames. En die aannames verdienen kritisch onderzoek.

De race naar superintelligentie

Onder een groot deel van de huidige AI-industrie ligt nog een andere overtuiging ten grondslag. De leiders van grote AI-bedrijven streven naar steeds krachtigere artificiële intelligentie die autonoom bijna elke taak kan uitvoeren. Die redenering is grotendeels gebaseerd op zogenoemde scaling laws. De afgelopen jaren zagen we dat grotere modellen, meer trainingsdata en meer rekenkracht doorgaans leiden tot krachtigere large language models.

Eenvoudig gezegd: meer rekenkracht + meer data + grotere modellen = krachtigere AI.

Die vaststelling heeft geleid tot een vrij eenvoudige strategie. Blijven opschalen. Blijven investeren. Steeds grotere modellen bouwen. Volgens die redenering bereiken we uiteindelijk artificial general intelligence en misschien zelfs superintelligentie. Maar in die redenering ontbreekt iets belangrijks. Elke bijkomende verbetering wordt steeds duurder.

Om het volgende niveau van capaciteit te bereiken, zijn enorme investeringen nodig in chips, datacenters, elektriciteit, infrastructuur en onderzoek. In theorie kunnen we AI steeds krachtiger blijven maken. Maar de echte wereld kent grenzen. Kapitaal is eindig. Energie is eindig. Rekenkracht is eindig. Infrastructuur is eindig.

In de echte wereld bestaan er geen oneindigheden.

Mogelijk bevinden we ons vandaag al in het dure uiteinde van die schaalcurve, waarbij het steeds disproportioneel meer investeringen vraagt om LLM's nog significant krachtiger te maken dan de systemen die we vandaag hebben.

Tenzij een fundamenteel andere technologische benadering de spelregels verandert, zal puur opschalen uiteindelijk botsen op economische, technologische en fysieke grenzen.

Moeten we ons dan geen zorgen maken over AI? Jawel. Absoluut. Alleen misschien niet in de eerste plaats omdat een superintelligente AI op een dag zou kunnen beslissen de mensheid te vernietigen. Er zijn vandaag al echte problemen met AI. We zien nu al bezorgdheid over de psychologische effecten van AI-companions. We stellen ons vandaag al vragen over wat een te grote afhankelijkheid van AI doet met ons vermogen om te leren, te redeneren en expertise op te bouwen. We worden nu al geconfronteerd met vragen over desinformatie, vertrouwen, werkgelegenheid, verantwoordelijkheid en besluitvorming.

Dit zijn geen hypothetische problemen met 10 tot 20 procent kans om ergens in de toekomst plaats te vinden. Ze zijn er vandaag.

AI is een revolutionaire, transversale technologie die potentieel bijna elk onderdeel van onze economie, samenleving en wetenschap kan beïnvloeden. Er kan veel misgaan. Maar dat betekent niet dat we elk catastrofaal AI-verhaal zomaar moeten aanvaarden. Zeker niet wanneer er een veel directer probleem vlak voor onze neus ligt.

We hebben ongelooflijk krachtige AI. Alleen zijn we nog niet erg goed in het creëren van waarde ermee.

Ondanks de enorme investeringen in AI slagen veel commerciële AI-initiatieven er nog altijd niet in om het verwachte rendement op te leveren. Dat probleem verdient minstens evenveel aandacht als hypothetische superintelligentie. Want het legt een merkwaardige paradox bloot.

De AI-modellen die we vandaag hebben, zijn al krachtig genoeg om enorme economische en wetenschappelijke waarde te creëren. Toch worstelen organisaties ermee om die waarde daadwerkelijk te realiseren. Misschien is het probleem dus niet dat onze AI nog niet krachtig genoeg is. Misschien kijken we op de verkeerde manier naar AI. In plaats van alleen te vragen hoe we LLM's nog intelligenter kunnen maken, zouden we ook een andere vraag moeten stellen:

Hoe kunnen we de intelligentie die vandaag al beschikbaar is beter benutten? De komende jaren zullen biljoenen worden geïnvesteerd in AI-infrastructuur, rekenkracht en steeds krachtigere modellen. Stel je voor dat zelfs maar een deel van dat geld zou worden geïnvesteerd in het daadwerkelijk inzetten van de AI die we vandaag al hebben. In het herontwerpen van organisaties. In het veranderen van processen. In het ontwikkelen van de capaciteiten van mensen. In betere manieren waarop mens en machine kunnen samenwerken. Zou dat niet minstens een evenredige weg vooruit zijn? Wij geloven van wel.

Volledige automatisering is de verkeerde eindbestemming

Er is nog een tweede aanname die we in vraag moeten stellen. Namelijk dat autonomie het uiteindelijke doel van AI moet zijn. De droom is eenvoudig: bouw AI die krachtig genoeg is om steeds complexere taken uit te voeren zonder menselijke tussenkomst. Technisch zal daar steeds meer van mogelijk worden. Maar wanneer het doel waardecreatie is, en niet gewoon het aantonen waartoe technologie in staat is, dan is volledige autonomie waarschijnlijk niet het juiste antwoord. Want werk gebeurt nooit in isolatie.

Waarde ontstaat binnen organisaties, markten en samenlevingen. Ze is afhankelijk van context. En mensen blijven deel uitmaken van die context. Verantwoordelijkheid is belangrijk. Empathie is belangrijk. Oordeelsvermogen is belangrijk. Aansprakelijkheid is belangrijk. Begrijpen waarom een beslissing wordt genomen, is belangrijk. Waarom zouden we dat allemaal vrijwillig uit het systeem verwijderen?

Het nieuwe paradigma moet samenwerking zijn, niet automatisering

In plaats van ons af te vragen hoe we AI krachtig genoeg kunnen maken om al het werk te automatiseren, moeten we een andere vraag stellen: Hoe kunnen we mensen en AI zo laten samenwerken dat het resultaat groter is dan de som van hun afzonderlijke capaciteiten?

Dat verandert de doelstelling volledig. Technologie biedt snelheid, schaal, analyse en intelligentie. Mensen brengen context, creativiteit, ethiek, verantwoordelijkheid en oordeelsvermogen. AI kan alleen antwoorden genereren. Mensen die met AI samenwerken, kunnen waarde creëren.

Dat is niet gewoon een compromis om AI veiliger te maken. Het zou zelfs het krachtigere economische model kunnen zijn. Mens-AI-samenwerking laat ons de uitzonderlijke capaciteiten van artificiële intelligentie benutten zonder de menselijke capaciteiten weg te gooien waarvan organisaties en samenlevingen afhankelijk blijven. En daarmee komen we bij Europa.

Europa heeft één AI-race verloren. Misschien is dat net goed nieuws.

Laten we realistisch zijn. Europa heeft de AI-scalingrace verloren. Proberen om de Verenigde Staten en China alsnog in te halen in de bouw van de grootste foundationmodels ter wereld, lijkt geen winnende strategie. Maar misschien proberen we de verkeerde race te winnen. Europa heeft nog geen enorm deel van zijn economie vastgelegd in de veronderstelling dat het eindeloos opschalen van foundation models de enige weg vooruit is. Dat geeft ons ruimte om van richting te veranderen.

In plaats van de grootste modellen te bouwen, kan Europa uitzonderlijk goed worden in het omzetten van bestaande AI in economische en maatschappelijke waarde.

We beschikken al over een sterk regelgevend kader. Wat je ook van de Europese AI Act vindt: hij legt minstens een bepaalde visie vast op hoe artificiële intelligentie binnen onze samenleving zou moeten functioneren. We beschikken over het menselijk kapitaal om geavanceerde AI-systemen te ontwerpen en implementeren. We hebben sterke bedrijven, industrieën, universiteiten en onderzoekers. We hebben een innovatie-ecosysteem. Wat ontbreekt, is een voldoende ambitieuze visie en de investering die daarbij hoort. En nee, daarvoor hebben we niet per se biljoenen nodig.

Van artificiële intelligentie naar collaborative intelligence

We weten dat deze aanpak kan werken, omdat hij vandaag al wordt toegepast. Organisaties bouwen AI-systemen rond samenwerkingsmodellen tussen mens en AI. Mensen gaan deel uitmaken van hybride teams waarin artificiële intelligentie capaciteiten aanbrengt die mensen niet hebben, terwijl mensen de context, verantwoordelijkheid en het oordeelsvermogen toevoegen die AI mist.

Rond die teams ontstaan nieuwe organisatiestructuren. Processen worden hertekend. En wanneer AI-transformatie wordt benaderd als een organisatorische en economische uitdaging, in plaats van alleen als een technologische implementatie, begint er tastbare waarde te ontstaan. De volgende stap is om dat paradigma veel verder door te trekken.

Europa kan collaborative intelligence uitbouwen tot een strategisch alternatief voor de race naar autonome superintelligentie.

Dat betekent niet dat we foundation models moeten negeren. En dat betekent zeker niet dat we AI-veiligheid moeten negeren. Het betekent dat we erkennen dat de grootste economische opportuniteit misschien niet ligt bij degene die het intelligentste model ter wereld bouwt. Misschien ligt ze bij degene die ontdekt wat je ermee kunt doen.

En hoe zit het met soevereiniteit?

Er is één voor de hand liggend bezwaar. Als Europa zelf geen van de meest geavanceerde foundationmodellen bouwt, worden we dan niet permanent afhankelijk van Amerikaanse of Chinese technologie? Niet noodzakelijk. Terwijl Amerikaanse bedrijven de schaalrace voortzetten met steeds krachtigere gesloten modellen, zetten Chinese AI-laboratoria steeds meer in op open modellen.

Zeer krachtige modellen kunnen vandaag al worden gedownload en draaien op infrastructuur die volledig wordt beheerd door de organisatie die ze gebruikt. Dat verandert het debat over soevereiniteit fundamenteel. Europese organisaties hoeven daardoor niet noodzakelijk te kiezen tussen technologische capaciteit en controle. Soevereine Europese AI-systemen zijn vandaag technisch al haalbaar. Naarmate open modellen verder verbeteren, zal die mogelijkheid alleen maar belangrijker worden.

Europa moet stoppen met proberen de race van iemand anders te winnen

De afgelopen vijf jaar heeft Europa vooral toegekeken hoe de Verenigde Staten en China de richting van de AI bepaalden. We hebben eindeloos gedebatteerd over hoe we die achterstand kunnen inhalen. Misschien moeten we dat niet doen. Misschien ligt onze kans ergens anders. We hebben het menselijk kapitaal. We hebben de organisaties. We hebben het regelgevend kader. En we beschikken over steeds krachtigere kunstmatige intelligentie.

De echte vraag is wat we ermee doen. Want uiteindelijk zal het rendement op AI niet naar degenen met de beste modellen gaan. Het zal gaan om degenen die erin slagen AI om te zetten in iets dat er is voor én samenwerkt met mensen.