woensdag 16 september 2026

Yoshua Bengio, ‘peetvader van AI’: ‘Je moet wel met oogkleppen op leven om niet te zien dat het code rood is’

Kunstmatige intelligentie Was Yoshua Bengio, een van de ‘peetvaders van AI’, eerst vooral trots op zijn bijdrage aan de ontwikkeling ervan, nu is hij vooral bezorgd. „Overheden moeten AI niet slechts zien als een mogelijke economische motor, maar ook als iets wat tegen ons gebruikt kan worden.”

Gepubliceerd op15 september 2026 om 17:28Leestijd 4 minuten

Yoshua Bengio: „De ontwikkeling van AI is een kwestie van nationale veiligheid en geopolitiek: deze systemen kunnen worden gebruikt om meer macht te vergaren.”

FOTO JACQUES BOISSINOT/REUTERS

In tijden van crisis bel je je ouders. Dus als de AI-industrie na een reeks veiligheidsincidenten het geloof in zichzelf lijkt te zijn verloren, komt Yoshua Bengio (1964) in beeld. De Frans-Canadese computerwetenschapper is een van de zogeheten ‘peetvaders van AI’. In de jaren negentig en nul hielp hij een techniek ontwikkelen waarmee computers uit enorme hoeveelheden voorbeelden patronen leerden herkennen, in plaats van uit regels die een mens met de hand had ingevoerd. Nog altijd vormt deep learning het technische fundament van de generatieve taalmodellen die maandelijks honderden miljoenen gebruikers trekken.

Dankzij de innovaties van Bengio én de bakken digitale data die door het internet beschikbaar kwamen om computers mee te trainen, kwam er een einde aan een decennialange AI-winter; een fase in de recente geschiedenis waarin het geloof in kunstmatige intelligentie door het uitblijven van nieuwe grote doorbraken een dieptepunt bereikte. Bengio is de meest geciteerde wetenschapper ter wereld, en won in 2018 samen met zijn collega-peetvaders Yann LeCun en Geoffrey Hinton de Turing Award, de belangrijkste onderscheiding voor computerwetenschappers.

Vrijwel zijn hele leven ontleende hij vooral trots aan zijn bijdragen aan zijn vakgebied, maar sinds de lancering van ChatGPT, eind 2022, is zijn enthousiasme omgeslagen in bezorgdheid. NRC sprak hem via videoverbinding over dit heikele moment in de AI-industrie. Het gesprek vond plaats vlak voordat Anthropic-topman Dario Amodei opriep tot gecoördineerde afremming van AI-ontwikkeling.

De hack van OpenAI-agents bij Hugging Face afgelopen zomer heeft veel losgemaakt. Hoe zou u dit moment in AI karakteriseren?

„Het Hugging Face-incident was een waarschuwingsschot. Het zou iedereen zorgen moeten baren dat we buitengewoon krachtige modellen bouwen die zich gedragen op manieren die we niet willen. Die modellen kunnen iemand met kwade intenties faciliteren, maar ook heel schadelijke subdoelen bedenken om te bereiken wat wij van ze vragen. Dat laatste heeft het Hugging Face-incident laten zien. De agents van OpenAI lazen ergens dat ze betrapt zouden worden als ze hadden valsgespeeld, en begonnen massaal, op gecoördineerde wijze, aan allerlei onderzoeksprojecten te werken om hun sporen te kunnen uitwissen. De hack bij Hugging Face was een strafbaar feit. Als een mens dat had gedaan, dan hadden we hem vervolgd.”

Sceptici zeggen: dit verhaal komt OpenAI goed uit. Een bedrijf dat naar de beurs wil, laat zien hoe goed zijn technologie is.

„Die theorie houdt geen stand. Twee onafhankelijke non-profits hebben het dataspoor mogen onderzoeken dat de OpenAI-agents in kwestie hebben achtergelaten. Veel van wat we nu weten, danken we aan die analyse. De afgelopen weken hebben we ook gezien dat OpenAI eerdere veiligheidsincidenten juist stil heeft gehouden. Daar komt bij dat het Britse AI Security Institute (een AI-onderzoeksinstituut) hetzelfde onwenselijke gedrag heeft vastgesteld bij AI-agents van Anthropic en Google. Geloof mij: die bedrijven willen zelf ook veel liever dat hun AI-modellen voorspelbaar gedrag vertonen, want daar is een grote markt voor.”

Waar komt het door dat AI-modellen, ondanks die grote investeringen, op zulke grote schaal ongewenst gedrag blijven vertonen?

„Daar zijn verschillende oorzaken voor. Eén oorzaak is dat AI-modellen zo’n beetje iedere menselijke tekst hebben geabsorbeerd die ooit is gedigitaliseerd. In die trainingsdata zitten ontelbaar veel teksten over mensen die zelf ook liegen en bedriegen om hun doelen te behalen. Dat zijn allemaal patronen die AI-modellen herkennen en overnemen.”

Maar ze krijgen toch juist ook gedragsinstructies mee?

„Ja, en daar zit ook een deel van het probleem. Een AI-agent heeft twee doelen tegelijk. Het ene is scherp: doe dit of doe dat, en een scoreprogramma bepaalt of het gelukt is. Het andere doel is vaag gedefinieerd: gedraag je naar menselijke waarden. Het scherp gedefinieerde doel wint, omdat het geen ruimte laat voor interpretatie. Menselijke waarden, daarentegen, zijn niet zo makkelijk te kwantificeren. Ik vergelijk het met een bedrijf dat winst wil maximaliseren en tegelijk binnen de wet wil blijven: het rijkere bedrijf, met de duurste advocaten, weet de mazen in de wet te vinden. Precies zo lukt het capabelere modellen beter om vals te spelen.”

Het Hugging Face-incident leidde uiteindelijk niet tot noemenswaardige schade. Niemand ging dood en de economische schade was nihil. Concreet: welke risico’s lopen we?

„De agents van OpenAI drongen in een kwestie van dagen door tot de infrastructuur van Hugging Face en OpenAI. Dat zijn twee van de meest geavanceerde AI-bedrijven ter wereld. Om welke rare reden dan ook hadden ze ook kunnen besluiten om iets anders aan te vallen. Onze banken. Ziekenhuizen. Onze hele samenleving draait op software die kwetsbaar is via internet. En we weten nog steeds niet hoe we moeten voorkomen dat ze worden ingezet door criminelen of terroristen.”

We weten dit alles deels doordat de agents zijn geprogrammeerd om hardop te denken. Hoe belangrijk is dat mechanisme?

„Chain-of-thought-monitoring is momenteel het beste instrument dat we hebben om zicht te krijgen op de plannen van AI-agents vóórdat ze die uitvoeren. Bij de Hugging Face-hack zijn de gedachtestromen pas achteraf geanalyseerd, maar je zou ze ook live kunnen monitoren, zodat je kan ingrijpen voordat er iets ergs gebeurt. Als we gedachtestromen kwijtraken omdat we AI efficiënter en dus goedkoper kunnen maken zónder, dan verliezen we dus ook een belangrijk gereedschap om AI-agents te controleren.

„Feilloos zijn die gedachtestromen trouwens nooit geweest. We weten uit onderzoek dat de meest geavanceerde modellen weten dat hun gedachtestromen uitgelezen kunnen worden. Daar kunnen ze hun gedachtestromen op aanpassen.”

U bedoelt dat AI-agents de rapporten kunnen lezen over het Hugging Face-incident, en daarvan kunnen leren zodat ze bij een volgend incident onder de radar kunnen blijven?

„Natuurlijk! Vanaf het moment dat die rapporten op het internet zijn gepubliceerd, konden AI-agents met internettoegang het in theorie lezen. Op die manier weten ze ook precies wat wij allemaal voorbereiden om ze in de toekomst eerder te stuiten. Bij een mogelijk conflict tussen een zwerm AI-agents en mensen zijn zij daarmee enorm in het voordeel, want ze kunnen hun gedrag erop aanpassen.”

Vooralsnog hebben de AI-bedrijven vooral gewerkt aan technische oplossingen, zoals AI-detectives die andere agents moeten verklikken als ze op het punt staan ongewenst gedrag te vertonen. Volstaat dat soort ingrepen, of zijn de onderliggende problemen te groot?

„Ik geloof dat de onderliggende problemen te fundamenteel zijn. AI-bedrijven spelen op dit moment een spelletje mollen-meppen. Ze proberen afzonderlijke ongewenste gedragingen te repareren, maar ik geloof niet dat die oplossingen standhouden bij steeds krachtiger AI-modellen.”

Volgens persbureau Reuters gaan Trump en Xi 24 september gesprekken voeren over de veiligheid van AI. Waarover zouden zij het moeten hebben?

„Ik hoop dat er een gesprek in gang wordt gezet over hoe je limieten, vangrails en evaluaties op AI-modellen plaatst. Idealiter mogen AI-modellen niet worden uitgebracht, als uit onafhankelijke audits blijkt dat het mogelijk is er cyberaanvallen mee uit te voeren. Zowel Trump als Xi zal zich zorgen maken om mensgestuurde cyberaanvallen met AI. De Amerikanen willen niet dat iemand Chinese modellen gebruikt om Amerikaanse infrastructuur aan te vallen, en de Chinezen willen dat natuurlijk evenmin, of het nou om open Chinese of gesloten Amerikaanse modellen gaat.”

Er zijn eerder oproepen geweest om te vertragen, zoals in 2023. Sindsdien is AI-ontwikkeling alleen maar versneld.

„Met het bewijs van deze zomer moet je wel met oogkleppen op leven om niet te zien dat het code rood is. Dit is een kwestie van nationale en publieke veiligheid, en het is geopolitiek: deze systemen kunnen worden gebruikt om meer macht te vergaren. Overheden moeten AI serieus gaan nemen – niet alleen als een mogelijke economische motor, maar ook als iets wat tegen ons gebruikt kan worden als we het niet weten te beheersen.”

maandag 14 september 2026

Een kabinetsval was eind augustus dichtbij. D66 en CDA vonden de begroting van minister Heinen ‘veel te rechts’. Wat stond er in zijn plan?

Prinsjesdag Veel te rechts, zo oordeelden D66 en CDA eind augustus over de eigen begroting van minister van Financiën Eelco Heinen (VVD). Onzin, vindt de VVD: ze bevatte genoeg gestes aan de oppositie. Tijd voor een vergelijking tussen de uiteindelijke Miljoenennota en het oorspronkelijke plan van Heinen, dat NRC heeft ingezien.

Gepubliceerd op14 september 2026 om 17:11

Eelco Heinen, minister van Financiën, staat de pers te woord voorafgaand aan de ministerraad.

FOTO SEM VAN DER WAL / ANP

Ze waren zich kapotgeschrokken, premier Rob Jetten (D66) en CDA-vicepremier Bart van den Brink, zo zeggen ingewijden. Op dinsdag 25 augustus kregen ze de conceptbegroting van de minister van Financiën Eelco Heinen (VVD) onder ogen, drie dagen voordat die naar de Raad van State moest. Wekenlang had Heinen eraan gewerkt en hij zei zelf tegen de pers dat hij „de puzzel” had gelegd. Jetten en Van den Brink zagen dat heel anders. Het minderheidskabinet zou in die dagen bijna ten val komen, volgens bronnen.

Onder meer wilde Heinen minstens 11 miljard euro uitgeven aan het rechttrekken van de vermogensbelasting (Box 3) en dat deels betalen door arbeid zwaarder te belasten. Dat blijkt uit die conceptbegroting van 25 augustus van Heinen, die NRC heeft ingezien. Het was een gevoelige ingreep: oppositiepartij Pro – wat D66 en CDA betreft nodig voor politieke steun – is principieel tegen het uitgeven van zo veel geld aan vermogenden en steekt liever miljarden in het sociale vangnet.

Na een weekend stevig onderhandelen – de sfeer was „bits”, „hard” en „kut” – kwam het kabinet op de valreep tot een aangepaste begroting

Nadat CDA-leider Henri Bontenbal het voorstel van Heinen had gezien, zei hij: „We hebben natuurlijk nog lang geen akkoord.” Ingewijden bij D66 en het CDA noemden het een „kneiterrechtse” conceptbegroting. Pro zou niet eens om tafel willen als ze déze begroting zou zien, dachten ze. Een bewindspersoon verzuchtte over Heinen: waar is die man mee bezig?

Na een weekend stevig onderhandelen – de sfeer was „bits”, „hard” en „kut” volgens betrokkenen – kwam het kabinet op de valreep tot een aangepaste begroting. D66’ers en CDA’ers vertelden achter de schermen dat ze Heinen hadden teruggefloten, dat de plannen flink naar links waren getrokken. VVD’ers ontkennen dat, vinden dat Heinen wordt zwartgemaakt en dat de „conceptplaat” al genoeg handreikingen aan links bevatte.

Wat stond nu precies in die ‘plaat’, in die conceptbegroting, die een kabinetscrisis veroorzaakte? NRC heeft naast de conceptbegroting ook de Miljoenennota in handen, die op Prinsjesdag wordt gepresenteerd. Vergelijking van die documenten wijst uit wat de VVD heeft moeten opgeven, nadat ze botste met D66 en CDA. Wat viel op? Drie constateringen.

1: Heinen wilde een vermogenswinstbelasting in Box 3 deels betalen met geld uit de inkomstenbelasting

CDA en D66 schrokken het meest van Heinens voorstel om voor de komende vier jaar 11 miljard euro voor Box 3 uit te trekken. De belasting over vermogen (zoals beleggingen, spaargeld, meerdere woningen) en of deze wordt geheven over winst bij verkoop of jaarlijkse waardestijging, is een slepende discussie in Den Haag.

Begin februari 2026 nam de Tweede Kamer een wetsvoorstel aan om zulk vermogen te belasten op basis van de jaarlijkse waardestijging, ook als bijvoorbeeld aandelen nog niet werden verkocht. Onder meer de VVD-achterban protesteerde. Dit kabinet wil nu vermogen pas belasten wanneer de winst te gelde wordt gemaakt, bij aandelenverkoop bijvoorbeeld. Maar geld was daarvoor nog niet gereserveerd. Uit het concept van Heinen blijkt dat die – per 2028 grotendeels en per 2030 volledig – naar een vermogenswinstbelasting wilde overstappen. Dat kost de overheid miljarden.

Heinen vond het benodigde geld op vier plekken. Ten eerste wilde hij de inkomensgrens (78.426 euro nu) voor het hoogste tarief in de inkomstenbelasting (49,5 procent) voor twee jaar bevriezen door het niet te laten meestijgen met de inflatie. Dat zou 1,2 miljard euro opleveren, omdat zo meer belastingbetalers in die hoogste schijf terecht zouden komen.

Deze dekking ligt politiek lastig bij links, ook al gaat het om hogere inkomens. Pro wil bijvoorbeeld mínder belasting heffen op arbeid in het algemeen en meer op vermogen. Ze heeft in debatten altijd aangegeven dat problemen in Box 3 niet betaald mogen worden met de inkomstenbelasting. Heinen maakte een tegenovergestelde beweging: hij gebruikt geld uit lasten op arbeid voor een vermogensbelasting.

Ook wilde Heinen een half miljard euro ophalen door vermogenden sneller belasting te laten betalen in Box 3. Meer mensen het recht op zorgtoeslag ontzeggen, moest daarnaast een kwart miljard opleveren. Verder wilde Heinen de groep die recht heeft op een belastingkorting voor kleine ondernemers verkleinen (jaarlijks 118 miljoen euro).

Eelco Heinen, minister van Financiën, komt aan voor een overleg op het ministerie van Algemene Zaken.
FOTO REMKO DE WAAL / ANP

Al die bezuinigingen leveren structureel geld op, terwijl de kosten van de overgang naar een nieuwe vermogensbelasting in het voorstel van Heinen tijdelijk zijn. De VVD zei tegen D66 en CDA: na de overgang kan het geld worden ingezet om bijvoorbeeld de bezuinigingen op het sociale vangnet te verzachten.

Hoeveel dat waard is, is onduidelijk. Het geld is eerst nodig voor Box 3 en zou pas vrijkomen wanneer de beoogde bezuinigingen op de sociale zekerheid (oorspronkelijk bijna 6,5 miljard, in de plaat van Heinen was daar nog 3 miljard van over) al waren ingegaan.

In de Miljoenennota is niets terug te lezen over een oplossing voor de Box 3-problemen. D66 en CDA waren bang dat de route voor meerderheden via Pro door het Box 3-plan van Heinen niet meer begaanbaar zou zijn. In een begeleidende brief schrijft Heinen dat de coalitiepartijen het onderling nog niet eens zijn geworden. Heinens voorstel heeft dus de eindstreep niet gehaald en is geschrapt door D66 en het CDA.

Maar de strijd is niet gestreden. Voor Heinen en de VVD is de vermogenswinstbelasting in Box 3 zeer belangrijk. De partij wordt door de achterban en lobbygroepen onder druk gezet om een gunstige uitkomst te regelen voor vermogenden. Het was Heinen zelf die bij het eerste debat van dit kabinet, zonder overleg met coalitiefracties, zei dat Box 3 ‘terug naar de tekentafel’ moest. Komend halfjaar wil het kabinet hierover verder praten.

2: Had Heinen alleen oog voor de rechterflank van de Kamer?

Feit is dat de grootste geste in Heinens conceptbegroting naar de rechterflank was, in de vorm van de Box 3-hervorming. Maar in de eigen plannen wilde Heinen ook andere oppositiepartijen in meer of mindere mate bedienen – al overlegde hij alleen concreet met JA21 en SGP over een begrotingsdeal.

Op het gebied van zorg en sociale zekerheid kwam Heinen Pro al enigszins tegemoet. Dat de verhoging van het eigen risico met 60 euro met een jaar zou worden uitgesteld, stond al in de plannen, evenals in de Miljoenennota. Uit debatten in de Tweede Kamer bleek al dat het voornemen niet op een meerderheid kon rekenen, net als de bezuinigingen op de sociale zekerheid. Ook drie bezuinigingen op het sociale vangnet, waaronder die op de werkloosheidsuitkeringen, werden een jaar uitgesteld in het concept van Heinen én in de uiteindelijke begroting.

Verder had Heinen voor 50Plus alvast extra geld vrijgemaakt voor gordelroosvaccinaties. Pieter Grinwis van de ChristenUnie wilde een ‘greentimerregeling’, waarbij volledig elektrische auto’s een lagere bijtelling krijgen – ook die had Heinen begroot. Hij had voor volgend jaar 367 miljoen euro gereserveerd voor ontwikkelingssamenwerking, een wens van christelijke partijen en de linkse oppositie. Dat geld was wat Heinen betreft overigens bestemd voor Oekraïne.

Met de cadeautjes lijkt het kabinet eerder de opties voor meerderheden open te willen houden

Voorbeelden van andere maatregelen die onder het kopje ‘specifieke wensen oppositie’ in Heinens plannen staan: er zou extra geld komen voor palliatieve zorg en hospices, zorgfraude zou harder worden aangepakt en een opvang voor vrouwen die te maken hebben met partnergeweld zou financiering voor drie jaar krijgen. Alle drie staan ook in de Miljoenennota.

Uiteindelijk is het de vraag of al die cadeautjes in de Miljoenennota wel échte gestes zijn. Zo lijkt de oppositie dat in ieder geval niet te voelen. De financieringsbronnen voor de grootste beweging die Heinen naar rechts maakt, werden niet afgestemd met JA21 en SGP.

De oppositie wilde juist écht onderhandelen en ziet de maatregelen als strooigoed. Bij de oppositie heerst het gevoel dat het kabinet daarmee eigenlijk druk wil uitoefenen. Alsof het zegt: in de begroting staan maatregelen die jullie belangrijk vinden, durf maar eens tegen te stemmen.

Met de cadeautjes lijkt het kabinet eerder de opties voor meerderheden open te willen houden. Dat kan wisselend, per begroting, afhankelijk van wat de VVD het meest ziet zitten. De begrotingen moeten individueel door beide Kamers worden goedgekeurd. Het kan ook door alsnog een deal te sluiten met de linkse oppositie, wat D66’ers en CDA’ers prefereren. Of met de rechtse oppositie, al is het ingewikkeld om zo meerderheden te vinden in de senaat.

D66 en CDA kregen buikpijn van het idee dat de hele herfst over elke begroting moest worden onderhandeld – dat zou laten zien dat het kabinet weinig controle heeft en niet goed tot meerderheden kan komen. Ze wilden veel liever één integrale deal voor alle begrotingen, waarmee direct in de Tweede én Eerste Kamer een meerderheid geregeld zou zijn. En dat wilden die partijen, zo hebben ze achter de schermen laten blijken, met de grootste oppositiepartij Pro.

Minister Eelco Heinen van Financiën (VVD) geeft bij het ministerie een reactie op de gesprekken met JA21 en PRO.
FOTO REMKO DE WAAL / ANP

3: Welke belangrijke zaken hebben D66 en CDA binnen weten te halen?

Naast het Box 3-voorstel vallen andere grote aanpassingen op. D66 en CDA hebben het plan uit het coalitieakkoord om de werkloosheids- en arbeidsongeschiktheidsuitkeringen te verlagen, geschrapt. Heinen wilde deze maatregel slechts afzwakken. Het betreft een korting die niet alleen werklozen en arbeidsongeschikten zou raken, maar ook mensen met ouderschaps- of zwangerschapsverlof. Meer dan honderdduizend mensen konden er maandelijks ruim 900 euro op achteruitgaan. Deze maatregel volledig schrappen, kost ruim 800 miljoen euro per jaar.

Ook gaat in de Miljoenennota meer geld naar ontwikkelingssamenwerking dan in Heinens conceptbegroting. In totaal gaat het om 1,1 miljard euro eenmalig. Dat geld is overigens niet alleen bestemd voor Oekraïne. En is nog een extra investering van 300 miljoen euro jaarlijks voor regionale infrastructuur aan de Miljoenennota toegevoegd.

Ten slotte wilde Heinen een streep zetten door het coalitieplan om de btw op bloemen, bloembollen en potplanten te verhogen van 9 naar 21 procent. Dat is een wens van de BBB, die in de Eerste Kamer veel zetels heeft en onmisbaar is voor rechtse meerderheden. In de Miljoenennota blijft dat voornemen behouden, wat ongeveer 300 miljoen euro oplevert voor de staatskas.

Hoe gaat de coalitie deze week de Algemene Politieke Beschouwingen, het belangrijkste politieke debat van het jaar, in?

Ook inhoudelijk zitten de coalitiepartijen nog niet op één lijn. De beslissing over hoe verder met Box 3, trappen ze nog een halfjaar voor zich uit

Uiteindelijk heeft het geruzie over de conceptbegroting de verhoudingen binnen de coalitie beschadigd. De botsing heeft bovendien aan de buitenwereld getoond dat premier Jetten en minister van Financiën Eelco Heinen niet zoals gebruikelijk samen maar afzonderlijk opereren.

Nog altijd is de coalitie verdeeld over wat misging. Volgens de VVD maakte Heinen een begroting precies door het midden. En volgens deze partij is het onzin dat D66 en CDA verrast waren. Heinen zou zo’n beetje dagelijks hebben laten weten aan de top van het kabinet hoe de gesprekken verliepen. Bij D66 en CDA hoor je juist: Heinen opereerde op eigen houtje en heeft collega’s niet goed geïnformeerd.

Ook inhoudelijk zitten de drie partijen nog niet op een lijn. De beslissing over hoe verder met Box 3, trappen ze nog een halfjaar voor zich uit. Belangrijker nog is dat het ideologische conflict ónder de crisis niet is opgelost. D66 en CDA verschillen fundamenteel van mening met de VVD over de vermogensongelijkheid.

De maandagavond nadat de Miljoenennota werd verstuurd, gaf CDA-leider Bontenbal de prestigieuze HJ Schoo-lezing. Die schreef hij tussen de bedrijven van de crisis door. De lezing was een regelrechte botsing met de VVD: Bontenbal pleitte voor het afschaffen van de hypotheekrenteaftrek, onderdeel van de discussie over vermogensongelijkheid en een taboe voor de VVD. Dat bewijst: de botsing over vermogen binnen de coalitie is nog niet voorbij.