Analyse — Yuval Noah Harari bij Talks at Google

Maak AI tot beschermer van de mens

In dit gesprek over 21 Lessons for the 21st Century verbindt Harari onderwijs, democratie, fake news, biotech, spiritualiteit, compassie en wereldbestuur tot één kernvraag: bouwen we technologie die mensen doorgrondt om hen te exploiteren, of om hen te beschermen?

Artist impression van Yuval Noah Harari bij Google over AI als menselijke beschermer
Oproep aan Google: maak een beschermende spiegel voor mens en samenleving.

Het gesprek begint vriendelijk: Wilson White, werkzaam bij public policy en government relations van Google, ontvangt Yuval Noah Harari in het kader van Talks at Google. De aanleiding is Harari’s boek 21 Lessons for the 21st Century, maar al snel blijkt dat het gesprek veel groter is dan één boek. Het gaat over de mens in een eeuw waarin kunstmatige intelligentie, biotechnologie en datamacht elkaar gaan versterken.

Harari spreekt niet als technoloog die een product presenteert, maar als historicus die waarschuwt dat de diepste machtsverschuiving niet alleen buiten ons plaatsvindt. De beslissende grens loopt niet tussen mens en machine, maar tussen wie de mens van binnen leert kennen en met welk doel dat gebeurt.

Onderwijs: bouw geen stenen huis, maar een tent

De eerste vraag is persoonlijk: wat moet een vader zijn jonge dochters leren voor een toekomst die niemand kan voorspellen? Harari’s antwoord is even eenvoudig als ontregelend. We weten niet hoe de wereld er in 2050 uitziet, behalve dat zij heel anders zal zijn. Daarom is het minder zinvol kinderen vooral vaste vaardigheden bij te brengen alsof beroepen, instituties en zekerheden stabiel blijven.

De kern van onderwijs wordt volgens Harari emotionele intelligentie, mentale stabiliteit en het vermogen zichzelf opnieuw uit te vinden. Identiteit moet niet langer gebouwd worden als een stenen huis met diepe funderingen, maar als een tent: stevig genoeg om in te wonen, licht genoeg om te verplaatsen. Dat is geen vrijblijvende metafoor. Het is een beschavingsopdracht. Mensen moeten leren omgaan met voortdurende verandering zonder innerlijk uiteen te vallen.

De toekomst vraagt niet alleen slimme mensen, maar mensen die zichzelf opnieuw kunnen ordenen zonder hun menselijkheid kwijt te raken.

Waarom democratie onder druk staat

Harari legt daarna uit waarom de liberale democratie in crisis is. Het moderne liberalisme rust op achttiende-eeuwse ideeën over vrije wil: de kiezer weet het best, de klant heeft altijd gelijk, schoonheid ligt in het oog van de beschouwer, volg je hart. Deze zinnen klinken vriendelijk, maar zij veronderstellen dat de mens zelf de hoogste autoriteit is over zijn eigen verlangens.

Dat uitgangspunt wordt problematisch zodra bedrijven en staten mensen beter leren kennen dan zij zichzelf kennen. Zolang de mens een soort zwarte doos was, had het idee van vrije keuze praktisch nut. Maar wanneer zoekgedrag, koopgedrag, locatiegegevens, gezichtsuitdrukking, stem, bloeddruk, oogbewegingen en uiteindelijk biometrische signalen worden samengevoegd, ontstaat een nieuwe machtspositie: de macht om verlangens niet alleen te meten, maar ook te sturen.

Harari’s waarschuwing is daarom niet dat mensen geen wil hebben. Zijn waarschuwing is dat die wil niet vrij zweeft boven biologie, hormonen, angst, cultuur en groepsdruk. Wie deze mechanismen beter begrijpt dan de persoon zelf, kan de mens hacken. Dan wordt democratie kwetsbaar, omdat politiek niet langer draait om burgers overtuigen, maar om zenuwstelsels bespelen.

AI alleen is niet het hele verhaal

Een belangrijke correctie in het gesprek is Harari’s nadruk op de combinatie van AI en biotechnologie. Volgens hem gaat vrijwel alle aandacht uit naar kunstmatige intelligentie, terwijl de echte revolutie ontstaat wanneer AI onder de huid komt. AI wordt pas werkelijk ontwrichtend wanneer zij gekoppeld wordt aan biologische kennis over het lichaam, het brein, emotie, ziekte, gedrag en verlangen.

Die combinatie kan buitengewoon heilzaam zijn. Een AI-arts die het lichaam continu volgt, kan kanker, hartproblemen of andere ziekten ontdekken voordat de patiënt pijn voelt. Zelfrijdende auto’s kunnen miljoenen verkeersslachtoffers voorkomen als zij beter reageren dan vermoeide, afgeleide of roekeloze bestuurders. Technologie is bij Harari nooit automatisch goed of slecht. Zij kan een paradijs helpen bouwen, maar ook een hel. De uitkomst hangt af van het doel, het bestuur en de morele architectuur.

De dubbele belofte van AI

  • Gezondheid: vroegtijdige diagnose, permanente monitoring en minder menselijk lijden.
  • Veiligheid: minder verkeersdoden, betere voorspelling van risico’s en slimmere systemen.
  • Gevaar: dezelfde kennis kan gebruikt worden voor manipulatie, verslaving, surveillance en gedragssturing.
  • Beslissende vraag: wie gebruikt de kennis over de mens, en voor welk doel?

Spiritualiteit wordt een ingenieursvraag

Opvallend is Harari’s onderscheid tussen religie en spiritualiteit. Spiritualiteit gaat volgens hem over grote vragen: wie ben ik, wat is goed, wat is bewustzijn, wat is de zin van leven? Religie geeft vaak vaste antwoorden en bewaakt die antwoorden met autoriteit. In deze eeuw kunnen ingenieurs die vragen niet meer vermijden.

Het klassieke voorbeeld is de zelfrijdende auto. Als twee kinderen plotseling oversteken en de auto alleen kan uitwijken door de passagier te doden, wat moet het algoritme dan doen? Filosofen bespraken zulke dilemma’s eeuwenlang zonder directe praktische gevolgen. Maar bij een algoritme wordt het antwoord code. Wat vroeger een moreel debat was, wordt een ontwerpbeslissing.

Daarmee worden technologiebedrijven mede-opvoeders van de samenleving. Zij bouwen niet alleen producten, maar ook morele infrastructuur. Wie algoritmen maakt, beslist mede welke waarden in de praktijk voorrang krijgen: snelheid of voorzichtigheid, aandacht of verslaving, winst of waardigheid, persoonlijke vrijheid of bescherming tegen manipulatie.

Verhalen, instituties en de test van lijden

Vanuit Sapiens keert Harari terug naar een van zijn centrale ideeën: mensen kunnen op grote schaal samenwerken omdat zij gedeelde verhalen scheppen. Religies, naties, bedrijven, geld, mensenrechten en staten bestaan niet zoals stenen of bomen bestaan. Het zijn gedeelde werkelijkheden: machtige verhalen waarin miljoenen mensen geloven en waarop zij hun gedrag afstemmen.

Dat betekent niet dat verhalen onbelangrijk zijn. Integendeel: zij zijn vaak machtiger dan afzonderlijke mensen. Maar Harari stelt een scherpe toets voor: kan deze entiteit lijden? Google kan niet lijden. Een natie kan niet lijden. De dollar kan niet lijden. Mensen kunnen dat wel. Daarom moeten instituties de mens dienen en niet andersom. Zodra mensen zichzelf offeren aan verhalen die zij zelf hebben gemaakt, ontstaat morele omkering.

De toets van beschaving is niet of onze verhalen groot zijn, maar of zij werkelijk menselijk lijden verminderen.

Fake news: aandacht als wingewest

In de publieksvragen komt het probleem van fake news scherp naar voren. Harari noemt nepnieuws geen nieuw verschijnsel; samenlevingen hebben altijd misleidende verhalen gekend. Nieuw is de schaal, snelheid en economische architectuur van de huidige informatiemarkt. Het dominante model luidt: opwindend nieuws gratis, in ruil voor aandacht.

Daardoor wordt menselijke aandacht de schaarse grondstof. Platforms, media en politieke spelers concurreren om prikkeling. Waarheid wordt dan niet beloond omdat zij waar is, maar alleen wanneer zij ook opwindend genoeg is om te klikken. De vergelijking van Harari is treffend: mensen betalen graag voor goede voeding of een goede auto, maar veel minder voor hoogwaardige informatie. Terwijl slechte informatie het geestelijk voedsel van een samenleving vergiftigt.

Voor Google is dit geen randvraag. Harari legt de bal nadrukkelijk bij de architecten van de digitale informatieomgeving. Zij kunnen helpen een markt te bouwen waarin hoogwaardige informatie niet wordt verdrongen door verslavende prikkels.

Publieksvraag: wie lost mondiale problemen op?

Een vraag uit het publiek gaat over wereldproblemen waarvoor geen krachtige wereldregering bestaat. Harari noemt drie urgente problemen die geen enkel land alleen kan oplossen: nucleaire oorlog, klimaatverandering en technologische ontwrichting door AI en biotech. Nationale politiek is hiervoor onvoldoende. AI-regulering in één land helpt weinig wanneer andere landen andere regels volgen.

Zijn praktische antwoord begint opvallend eenvoudig: verander het publieke gesprek. Vraag politici concreet wat zij doen aan klimaat, kernwapens en mondiale regulering van AI en biotech. Als zij daar geen plan voor hebben, moeten kiezers zich afvragen of zij wel geschikt zijn voor verantwoordelijkheid in deze eeuw.

Publieksvraag: hoe leren mensen zichzelf kennen?

Een andere vraag raakt Harari’s bekende waarschuwing: om te voorkomen dat ons hart wordt gehackt, moeten we onszelf beter leren kennen. De vragensteller veronderstelt dat daarvoor vooral intellect nodig is. Harari nuanceert dat. Er zijn intelligente mensen die zichzelf nauwelijks kennen; dat is juist een gevaarlijke combinatie.

Zelfkennis kan ontstaan via therapie, meditatie, kunst, sport, wandelen, stilte of eerlijke confrontatie met eigen patronen. Het is niet alleen een IQ-kwestie. Het is ook aandacht, moed, emotionele eerlijkheid en het vermogen niet direct weg te vluchten voor ongemak. In een tijd waarin technologie ons steeds beter leert voorspellen, wordt zelfkennis een democratische verdedigingslinie.

Publieksvraag: ondermijnt technologie compassie?

Ook compassie komt aan bod. Harari wijst erop dat technologie empathie niet automatisch verzwakt. Communicatietechnologie kan ons juist bewust maken van mensen aan de andere kant van de wereld. Maar het ontwerp van technologie kan compassie wel afleren wanneer systemen vooral trainen op snelheid, boosheid, competitie, status of nuttigheid.

Daar ligt een fundamenteel gevaar. Legers, bedrijven en staten vragen vaak om intelligente, efficiënte, besluitvaardige mensen. Maar als intelligentie wordt versterkt zonder compassie, ontstaat een koude bekwaamheid. Harari’s les is dat menselijke verbetering niet alleen mag gaan over slimmer, sneller en productiever worden. De vraag moet ook zijn: worden we barmhartiger, wijzer en minder wreed?

Publieksvraag: voorspellen of mogelijkheden in kaart brengen?

Aan het einde vraagt een Googler hoe Harari de toekomst voorspelt. Zijn antwoord is belangrijk: hij beweert niet de toekomst te kunnen voorspellen. Als historicus bestudeert hij verandering. Zijn methode is niet één voorspelling doen, maar meerdere mogelijke toekomsten in kaart brengen. Wie maar één toekomstscenario ziet, kijkt te smal.

Dat is een waardevolle waarschuwing voor technologiebedrijven. Een technologie heeft zelden één noodzakelijke uitkomst. Zij kan bevrijden of overheersen, genezen of exploiteren, informeren of verslaven. Verantwoord ontwerp begint daarom met scenario-denken: welke vier of vijf mogelijke gevolgen kan deze technologie hebben, inclusief de gevaarlijkste?

Publieksvraag: waarom doden mensen voor ficties?

De laatste inhoudelijke publieksvraag gaat over de macht van verhalen om mensen tot zelfvernietiging of geweld aan te zetten. Harari verbindt dat met het hacken van het brein. Wie haat wil organiseren, richt zich vaak op walging. In de geschiedenis van racisme, genocide en vervolging worden groepen herhaaldelijk voorgesteld als vies, ziekmakend, ratten, kakkerlakken of besmetting.

Dat is geen toevallig taalgebruik. Het grijpt in op diepe evolutionaire mechanismen die mensen moesten beschermen tegen ziekte. Als die mechanismen politiek worden misbruikt, wordt de ander niet meer gezien als mens, maar als bedreigende besmetting. Beschaving vraagt daarom voortdurende waakzaamheid tegen ontmenselijkende taal.

De slotopdracht aan Google

Helemaal aan het einde stelt Wilson White de vraag wat Google volgens Harari met een magische staf als volgende grote project zou moeten doen. Harari’s antwoord vat het hele gesprek samen: bouw een AI-systeem dat mij leert kennen om mij te beschermen, niet om mij producten te verkopen of mij op advertenties te laten klikken.

Dat is geen klein technisch verzoek, maar een morele opdracht. Dezelfde kunstmatige intelligentie die onze zwaktes kan uitbuiten, kan ons ook helpen onszelf te beschermen tegen manipulatie, verslaving, misinformatie, impulsiviteit en angst. Een beschavingswaardige AI is daarom niet alleen intelligent. Zij is loyaal aan het menselijk welzijn.

De hoogste bestemming van AI is niet dat zij de mens vervangt, maar dat zij de mens helpt zichzelf beter te beschermen.

Conclusie: AI als externe disciplinefactor

Harari’s gesprek bij Google raakt aan een kernprobleem van de menselijke beschaving: wij weten vaak wat verstandig is, maar handelen daar niet naar wanneer macht, angst, winst, status of groepsdruk sterker zijn. Daarom hebben mensen externe disciplinefactoren nodig: instituties, recht, publieke waarheid, morele opvoeding, wetenschap, democratische controle en soms ook technische systemen die ons beschermen tegen onze slechtste neigingen.

AI kan zo’n disciplinefactor worden, maar alleen wanneer zij ontworpen wordt als beschermer van menselijke waardigheid. Niet als advertentiemachine. Niet als verslavingsmachine. Niet als surveillance-instrument. Maar als spiegel, waarschuwer, arts, kennisbewaker en bondgenoot van de mens. Daarmee wordt Harari’s oproep aan Google ook een oproep aan Europa, wetenschap, politiek en samenleving: maak technologie die de mens niet kleiner maakt, maar beter bestuurbaar, eerlijker geïnformeerd en minder kwetsbaar voor misbruik.

Bijlage — achtergrond bij 21 lessen en de publieksvragen

1. Beknopte beschrijving van 21 Lessons for the 21st Century

21 Lessons for the 21st Century is Harari’s poging om niet vooral naar het verre verleden of de verre toekomst te kijken, maar naar de verwarring van het heden. De 21 lessen gaan over technologie, politiek, waarheid, zingeving en persoonlijke weerbaarheid in een tijd waarin oude verhalen hun overtuigingskracht verliezen en nieuwe machten ontstaan.

De rode draad is dat de mensheid tegelijk met drie grote ontwrichtingen wordt geconfronteerd: ecologische crisis, technologische macht en politieke fragmentatie. De vraag is niet alleen wat AI kan, maar of mensen nog voldoende waarheid, zelfkennis en samenwerking organiseren om die macht verstandig te gebruiken.

2. De 21 lessen in het kort
  1. Desillusie: oude politieke verhalen verliezen overtuigingskracht.
  2. Werk: automatisering kan beroepen en identiteiten ontwrichten.
  3. Vrijheid: wie mensen beter kent dan zij zichzelf kennen, kan hun keuzes sturen.
  4. Gelijkheid: data en biotech kunnen nieuwe ongelijkheid scheppen.
  5. Gemeenschap: digitale netwerken vervangen echte nabijheid niet vanzelf.
  6. Beschaving: mensheid is meer onderling verbonden dan nationale verhalen suggereren.
  7. Nationalisme: nuttig als verbondenheid, gevaarlijk als absoluut verhaal.
  8. Religie: kan betekenis geven, maar lost technische en mondiale problemen niet automatisch op.
  9. Immigratie: vraagt wederkerigheid tussen gastlanden en nieuwkomers.
  10. Terrorisme: werkt vaak via angstvergroting en overreactie.
  11. Oorlog: moderne oorlog is minder vanzelfsprekend winstgevend, maar blijft gevaarlijk.
  12. Nederigheid: geen enkele cultuur bezit het volledige morele overzicht.
  13. God: religieuze taal kan verheffen, maar ook misbruikt worden voor kleine machtsregels.
  14. Secularisme: waarheidsliefde, compassie en verantwoordelijkheid kunnen ook seculier worden gedragen.
  15. Onwetendheid: mensen weten vaak minder dan zij denken.
  16. Rechtvaardigheid: mondiale ketens maken verantwoordelijkheid complex.
  17. Post-truth: fictie is oud; de vraag is hoe we waarheid beschermen.
  18. Sciencefiction: verhalen over technologie vormen onze verwachtingen en angsten.
  19. Onderwijs: leer mentale flexibiliteit, emotionele stabiliteit en zelfvernieuwing.
  20. Betekenis: mensen zoeken verhalen die hun leven dragen.
  21. Meditatie: zelfobservatie helpt om niet volledig speelbal van prikkels te worden.
3. Belangrijke vragen uit het publiek
  • Hoe krijgen we effectieve mondiale samenwerking? Door publieke druk te leggen op politici rond klimaat, kernwapens, AI en biotech.
  • Hoe kennen we onszelf beter? Niet alleen via intellect, maar via emotionele intelligentie, therapie, meditatie, kunst, sport en eerlijke zelfobservatie.
  • Vermindert technologie compassie? Niet vanzelf; het ontwerp bepaalt of technologie empathie vergroot of juist afleert.
  • Hoe moeten Googlers over de toekomst nadenken? Niet met één voorspelling, maar met meerdere scenario’s, inclusief gevaarlijke uitkomsten.
  • Waarom sterven mensen voor verhalen? Omdat verhalen diepe breinmechanismen kunnen hacken, vooral angst, walging en groepsloyaliteit.
4. De kernopdracht aan Google

Harari’s slotzin is de kern van het gesprek: maak een AI die mij leert kennen om mij te beschermen, niet om mij producten te verkopen of mijn aandacht te exploiteren. Daarmee verschuift de AI-vraag van “wat kan de machine?” naar “aan wie is de machine loyaal?”

Bronvideo: Yuval Noah Harari — 21 Lessons for the 21st Century, Talks at Google.