Ze sluipt ongemerkt dichterbij, geleidelijk. Eerst zien we haar niet. Dan zien we hoe ze op ons afraast en denken we dat we kunnen reageren, en dan opeens, wat was dat?
Om iets op te merken, moet je stoppen en om je heen kijken. Bijvoorbeeld, om terug te kijken naar de verandering in de prijs van een mensenleven. Het is banaal dat het leven onbetaalbaar is, dat mensen, om de een of andere reden, dit beseffen en zo verder. In werkelijkheid hebben we te maken met een constante toename van actief ouder worden. Een persoon die het leven verliest, verliest niet zijn hele leven, maar alleen dat deel dat hij niet heeft geleefd. En hoe langer iemand nog te leven heeft, hoe angstaanjagender en onaangenamer zijn dood aanvoelt.
En in de afgelopen 100…150 jaar is het leven van de mens, als hij niet opzettelijk wordt gedood, steeds langer geworden, en zijn activiteit steeds langduriger. Ook is het niveau van kindersterfte kwalitatief en drastisch afgenomen. Wat heeft dit tot gevolg gehad? Tot een stijging van de waarde van het menselijk leven en tot de rechtvaardiging van het gebruik van beschermende maatregelen die eerder absurd of ongepast waren.
Wie van jullie kan zich jongens op fietsen voorstellen met helmen en beschermende vesten? Het hangt van het land af. In landen waar mensen langer leven en kinderen vaker opgroeien, is dit heel normaal. Nu, in de 21e eeuw. Maar niet 30 jaar geleden. En wat te denken van veiligheidsgordels, airbags en kinderzitjes? Al deze geleidelijke uitbreiding van reddingsmiddelen die we de laatste tijd waarnemen, is niets anders dan een reactie van mensen op de toegenomen waarde van hun nog niet geleefde dagen. Defibrillators naast brandblussers aan de muren in openbare ruimtes, camerasystemen, beschermende werkkleding voor beroepen die niet als gevaarlijk worden beschouwd, verkeersdrempels – al deze dingen zijn de afgelopen 20 jaar om ons heen verschenen en we hebben zelfs niet opgemerkt hoe precies.
En verder wordt het nog interessanter. Nee, het is onwaarschijnlijk dat ze een “onsterfelijkheidspil” zullen uitvinden. Ze zullen gewoon geleidelijk leren om probleem na probleem op te lossen of te vermijden. Diabetes? Kanker? Hart- en vaatziekten? Altijd een gezonde lever? Betrouwbare of vervangbare andere inwendige organen? Duur? Er is verzekering. Mensen zullen zelfs niet merken hoe ze praktisch eeuwig gaan leven. En dit zal leiden tot een natuurlijke stijging van de waarde van nog niet geleefde dagen tot in het oneindige.
En mensen zullen gewoon stoppen met leven zoals we nu zo rustig en zorgeloos doen. Wat als we liften zouden verbieden, want de kans dat een lift valt is 1 op een miljoen. En wat als het ineens eng wordt om naar buiten te gaan, want met een kans van 1 op een miljoen kan er een piano op je hoofd vallen. En als je één miljoen keer oneindig vermenigvuldigt, krijg je… nog steeds oneindig. Daar is de singulariteit, en we hebben al geen tijd meer om te reageren, omdat we ons zelfs niet hebben omgedraaid naar wat er op ons afkomt.
Dus, om verder te kunnen leven, zal de mensheid iets moeten uitvinden dat de waarde van het leven van mensen drastisch verlaagt. Hoe dan ook, dit klinkt al als een sombere dystopie. En we moeten ons voorbereiden op een typische, “singulariteitsgewijze” oplossing voor het probleem. Kijk maar naar videotelefoons. Er werd over gesproken, ze werden getoond in sciencefictionfilms, ingenieurs ontwikkelden oplossingen, bedrijven toonden hun prototypes op beurzen. Op postkantoren verschenen zelfs videocabines, en operators begonnen tarieven te bedenken voor deze “exclusieve” communicatiedienst… En toen, bam, Skype, voor iedereen. Gratis. Van overal ter wereld. Zelfs vanaf een schermpje in je zak, terwijl je in de bus zit.
Als je de opties in je hoofd draait, lijkt de meest veelbelovende oplossing een manier van digitalisering van het bewustzijn en de organisatie van een back-up daarvan te zijn. Verlies je je lichaam? Dan wordt er een kopie van jou in een nieuwe kloon geladen en functioneer je weer, trouwens, verjongd en opgewekt. De verzekering dekt de kosten. Het lijkt nog geen dystopie, toch? En wat als de toegang tot deze technologie talloze problemen oplost, beginnend met de training van soldaten – het is genoeg om één geniale strijder op te leiden en hem dan het benodigde aantal keren te kopiëren, tot aan machine learning voor alles wat nodig is. Professionaliteit? Ha! Ervaring? Ha! Ik download het zo van torrents. En zelfs als je voor jezelf oneindig waardevol blijft, is dat voor de samenleving al niet meer het geval. Je bent niet alleen vervangbaar. Je kunt altijd vervangen worden door een betere versie, en voor de meeste taken, zoals bijvoorbeeld kantoorwerk, is er voor zo’n versie zelfs geen lichaam nodig. Laat het maar werken voor zijn lichaam, zittend binnen een computer, door e-mails en presentaties voor bedrijfsrapporten te schrijven. En voor werk buiten het kantoor is er altijd een geschikte android-avatar te vinden, die geen voedsel, kleding of seks nodig heeft. En ja, de prijs daarvan is aanzienlijk lager dan de prijs van het grootbrengen van een levend wezen. Kinderen krijgen? Voor wie en waarom, en kan iedereen een plek voor kinderen vinden in een wereld waar op de posities al eeuwig volkomen perfecte specialisten zitten, vaak niet helemaal of al helemaal geen mensen meer?
Trouwens, over kunstmatige intelligentie gesproken. Het sluipt op dezelfde manier naar binnen. En we zullen precies zo niet eens begrijpen wat er is gebeurd. Het begon allemaal met “Siri” en “Ok, Google”. Maar geleidelijk aan zal AI zich vestigen op onze, verouderde laptops. In het begin zal het zich bezighouden met routinematige taken. We zullen het leren om zakelijke correspondentie voor ons te voeren. Eigenlijk, geleidelijk aan met zulke robots. We zullen het leren om interessante informatie voor ons te verzamelen. Daarna zullen we het leren om meer abstracte, maar nog steeds routinematige taken uit te voeren. Vervolgens zullen boekhouders in mensentaal aan de AI in de laptop uitleggen wat en waar precies gezocht moet worden en hoe het saldo moet worden afgesloten. Dan zal de eerste manager gevonden worden die besluit op vakantie te gaan, terwijl hij “die jongen” achterlaat die constant op het stopcontact is aangesloten. Daarna zullen we het vertrouwen om ons vrijetijdsbesteding te plannen. Vervolgens – het oplossen van praktische problemen. Eerst zullen huisvrouwen de capaciteiten van AI waarderen om recepten voor gerechten te selecteren op basis van de beschikbare ingrediënten, artsen zullen AI vertrouwen voor diagnose en behandeling van ziekten, en ingenieurs zullen niet langer hun hoofd breken over de volgende taak en zeggen: “Ok, Google, ik heb een oplossing nodig voor het vasthouden van plasma in een thermonucleaire reactor.” AI zal ons vrijetijd, carrière en financiën beheren. AI, zittend in de computer, zal namens en op verzoek van de eigenaar documenten ondertekenen, bedrijven oprichten, taken toewijzen en opdrachten formuleren voor andere mensen en machines.
Als een of andere jongeman, verzadigd van realistische 3D porno, zijn laptop vraagt om een taak op te lossen voor het creëren van een geloofwaardige mensachtige android, dan zal de AI, bijvoorbeeld, na het evalueren van de beschikbare middelen, besluiten om in de wereld van ideologische medestanders te zoeken, een nieuwe naamloze vennootschap oprichten en registreren onder de naam “Y.S. Robotics and Mechanical Man Corporation”, personeel aannemen en taken formuleren, terwijl het gedurende deze tijd slechts een zeer slimme, maar toch een applicatie op de computer blijft. De jongeman, die instemt met de plannen van zijn laptop, zal na een jaar zijn feilloze en ervaren Jessica ontvangen, en als er een meisje onder de oprichters-aandeelhouders was, zal zij een betrouwbare en verfijnde Dmitri ontvangen, die, met een verstand niet minder dan dat van de laptops van hun eigenaren, in staat zullen zijn om deze eigenaren… te vervangen.
Hier zijn twee, volkomen logische scenario’s van sluipende veranderingen. Het is onwaarschijnlijk dat we de morele gevolgen van de aanstaande veranderingen kunnen inschatten. Het is onwaarschijnlijk dat we ons erop kunnen voorbereiden of dat we dat willen. Maar beide, volkomen logische scenario’s leiden ons naar hetzelfde einde, waarin er geen plaats is voor mensen op aarde. Zal dit een tragedie zijn? Waarschijnlijk niet. Bijvoorbeeld, momenteel raakt de bevolking van Europa geleidelijk gewend aan het feit dat de samenleving niet langer kan functioneren zonder een constante en, belangrijker nog, steeds toenemende instroom van immigranten. En de autochtone Europeanen beschouwen dit over het algemeen al als een normaal verschijnsel. In de scholen zijn er steeds minder kinderen van wie de ouders in dit land zijn geboren. Op straat zien we steeds meer niet-traditionele, maar inmiddels gebruikelijke kleding. Op voedselverpakkingen verschijnen teksten in vreemde talen, en in het parlement en het kabinet komen steeds vaker mensen die de examens voor de kennis van de officiële taal hebben afgelegd toen ze al goed volwassen waren. Dit zou 100 jaar geleden als een tragedie kunnen worden gezien. Maar nu wordt het geleidelijk aan de norm. Zo is het ook met AI. Tragedie? De laatste levende mens zal dit al niet meer zo ervaren.