Toen iemand mij (Peter Hinssen) voor het eerst vroeg naar mijn “peedoom” tijdens een conferentie over de toekomst van AI, was ik even van mijn stuk gebracht. Inmiddels weet ik dat het geschreven wordt als P(Doom) en staat voor de waarschijnlijkheid (P) dat kunstmatige intelligentie een existentieel risico vormt voor de mensheid.
Met andere woorden: het meet de kans dat AI onze ondergang teweegbrengt en is wijdverbreid geadopteerd door de tech ‘in crowd’. Ernaar vragen lijkt wel op informeren naar iemands gezondheid of het welzijn van hun kinderen. Op die conferentie hoorde ik een zeer divers scala aan P(Doom)-schattingen, variërend van enkele procenten tot ruim boven de 50%.
Een paar jaar geleden had ik het voorrecht om de Zweedse filosoof Nick Bostrom te ontmoeten, die, eerlijk gezegd, niet bepaald een opgewekt type is. Hij kent een P(Doom) van 100 procent toe en schreef daar gepassioneerd over in zijn bestseller ‘Superintelligence’. In het Future of Humanity Institute in Oxford hebben hij en een groep wiskundigen modellen ontworpen om onze overlevingskansen te berekenen als computers slimmer worden dan wij. Zijn conclusie is nul. Een tip: boek Bostrom nooit als een motiverende spreker, want zijn publiek zal gegarandeerd radicaal gedeprimeerd de zaal verlaten.
Een andere sleutelfiguur die de alarmbel luidt over de AI-dreiging is Sam Altman, oprichter en CEO van OpenAI. Hij is hard op weg om het gezicht te worden van deze AI-revolutie en was onlangs nog op een breed uitgemeten wereldtournee om wereldleiders ervan te overtuigen dat ‘AI heel gevaarlijk is, jongens’.
Zijn meest indrukwekkende optreden was ongetwijfeld zijn getuigenis voor de Amerikaanse Senaat. Zelden heb ik zo’n meesterlijke vertoning van massabeïnvloeding gezien, een masterclass in publieke manipulatie, waar zelfs de oude Vlad Poetin nog veel van zou kunnen leren. Als je het niet hebt gezien: maak wat popcorn, pak een glas pinot noir en geniet van twee uur puur vermaak.
Altman doet er alles aan om de senatoren diep in te prenten met angst voor de risico’s van AI. Vervolgens zegt hij iets als: ‘Kijk naar medicijnen. Gelukkig hebben we de FDA (de Amerikaanse medicijnenwaakhond), anders zouden er zoveel ongelukken gebeuren, toch?’ Briljant geconstrueerd. De senatoren trekken dan de natuurlijke conclusie dat een federale instantie AI zou moeten reguleren.
Maar het absolute hoogtepunt van dat spektakel moet wel zijn geweest toen een senator vroeg: ‘Meneer Altman, hartelijk dank voor uw waarschuwing. Als we zo’n agentschap zouden oprichten, zou u dan geïnteresseerd zijn om het te leiden?’ Waarop de sluw vos subliem antwoordde met iets als: ‘Nou, ik ben ongelooflijk gevleid. Maar ik vind mijn huidige baan erg leuk.’
Regulering is uiteraard noodzakelijk. Maar of we blindelings de oplossingen van deze nieuwe nerdy keizer moeten accepteren, is een andere kwestie. Timeo Danaos et dona ferentes (Ik vrees de Grieken, zelfs als ze geschenken dragen), is een Latijnse uitspraak uit Virgils Aeneïs. Ik geloof dat we veel beter af zouden zijn met minder doemdenken, angst zaaien en hysterie over AI.
Mijn persoonlijke “peedoom” is minder dan 1 procent, mocht je het je afvragen.
De gedachte van een AI Armageddon roept visioenen op van een dystopische toekomst waarin menselijke intelligentie het aflegt tegen de onstuitbare opmars van kunstmatige intelligentie. Maar is dit beeld van een door technologie veroorzaakte apocalyps gegrond, of is het een slimme zet in het machtsspel van invloedrijke tech-pioniers?
De discussie over de potentiële gevaren van AI heeft de wereld verdeeld in kampen: de ene groep waarschuwt voor een onheilspellende toekomst, de andere groep ziet AI als een kans om de mensheid naar nieuwe hoogten te tillen. In deze blog verkennen we beide zijden van het debat en vragen we ons af: zijn we op weg naar onze eigen ondergang, of is dit de briljante vooravond van een nieuw tijdperk?
Nick Bostrom, een filosoof die zich heeft verdiept in de existentiële risico’s van AI, geeft ons stof tot nadenken met zijn theorie over de waarschijnlijkheid van een AI-gedreven einde van de mensheid. Zijn sombere vooruitzichten resulteren in een 100 procent kans op ondergang. Deze visie kan leiden tot een radicaal andere benadering van hoe we met technologie omgaan en hoe we de toekomst van onze soort veiligstellen.
Aan de andere kant van het spectrum staat Sam Altman, de visionaire leider van OpenAI, die een wereldwijde campagne voert om bewustzijn te creëren over de gevaren van AI. Zijn getuigenis voor de Amerikaanse Senaat is een schoolvoorbeeld van hoe publieke perceptie vormgegeven kan worden door een combinatie van angst inboezemen en logische redenering.
De oproep tot regulering van AI is een gemeenschappelijk thema in het debat. De vraag die echter blijft hangen, is of de voorgestelde oplossingen niet een façade zijn voor een machtsspel waarin de pionnen – wij, de gewone burgers – onbewust bijdragen aan de consolidatie van macht in de handen van enkelen.
De invloedrijke tech elite, waaronder namen als Bill Gates en Ray Kurzweil, hebben zich uitgesproken voor het prioriteren van het mitigeren van AI-risico’s. Hun manifest, hoewel beknopt, spreekt boekdelen over de ernst waarmee zij de kwestie benaderen.
Deze discussie wordt nog complexer wanneer we de dreiging van regulering beschouwen als een potentieel wapen in de handen van degenen die de regels willen schrijven. De kunst van het publieke beïnvloeding, zoals gedemonstreerd door Altman, kan zowel een middel tot vooruitgang als een valkuil zijn.
Terwijl sommigen in de technologiewereld zich voorbereiden op het ergste, blijven anderen optimistisch. Het idee van een AI Armageddon mag dan wel voor sommigen een realistisch scenario lijken, voor anderen is het niet meer dan een schaakspel op hoog niveau, waarbij de inzet niets minder is dan de toekomstige koers van de mensheid.
Het is duidelijk dat de manier waarop we nu handelen, beslissingen nemen en voorbereidingen treffen, onze toekomst zal vormgeven. Of we nu kiezen voor een pad van voorzichtigheid en regulering of voor een van innovatie en ontdekking, de sleutel ligt in een weloverwogen en evenwichtige benadering.