AGI: de singulariteit en ander mogelijke gevaren

Algemene kunstmatige intelligentie

We moeten ervoor zorgen dat de doelen correct gespecificeerd zijn, dat er niets dubbelzinnigs in zit en dat ze stabiel zijn in de tijd. Maar in al onze systemen wordt het doel op het hoogste niveau nog steeds gespecificeerd door de ontwerpers. Het systeem kan zijn eigen manieren bedenken om dat doel te bereiken, maar het creëert niet zijn eigen doel. - Demis Hassabis

Veel AI-toepassingen lijken spectaculair, maar ze blijven beperkt. Shazam kan door patroonherkenning vrijwel elk liedje dat je afspeelt op de app in een oogwenk herkennen. Dat wil niet zeggen dat Shazam al die liedjes eerder heeft gehoord. De software maakt een soort vingerafdruk van elk nummer dat je hoort en stuurt die naar de cloud. Daar wordt dat 'patroon' vergeleken met patronen van miljoenen liedjes die zijn opgeslagen in een online database. Shazam overtreft mensen in het herkennen van muziek, maar kan niet fietsen of de luier van een baby verschonen. Zal kunstmatige intelligentie ooit het niveau van 'menselijke intelligentie' evenaren of zelfs overtreffen?

Herbert Roitblat tempert de verwachtingen in zijn boek Algoritmes Are Not Enough.Natuurlijke intelligentie, zegt hij, stelt baby's in staat om het gezicht van hun moeder te herkennen binnen enkele uren na de geboorte. Die natuurlijke of aangeboren intelligentie stelt ons in staat om door een onbekende stad te navigeren of de was te vouwen. Menselijke intelligentie is niet rationeel, maar emotioneel. Ze trekt snel conclusies op basis van heel weinig gegevens. Volgens Roitblat vinden we de term 'kunstmatige intelligentie' veel te beperkt. Kunstmatige intelligentie is een georganiseerde systematische aanpak om informatie te verwerken. Het maakt niet uit of die processen worden uitgevoerd door een machine, op papier of in een brein. Algebra bijvoorbeeld stelt mensen in staat om systematisch te denken en wiskundige problemen op te lossen die voorheen onuitvoerbaar waren. De uitvinding van systematische processen heeft de ontwikkeling van de menselijke intelligentie minstens de laatste vijftigduizend jaar geleid. Deze uitgevonden intelligentie stelt ons in staat om rationeel en niet emotioneel na te denken over complexe problemen. Het is rationeel, methodisch en symbolisch. Roitblat gebruikt Einstein als voorbeeld.

Einstein werd niet erkend als briljant vanwege zijn vermogen om systematisch wiskundige vergelijkingen op te lossen, maar eerder vanwege zijn vermogen om nieuwe ideeën te creëren, nieuwe visies op de wereld die werden vastgelegd door zijn vergelijkingen. Einsteins genialiteit was niet slechts een logische recombinatie van het werk dat eraan voorafging, maar ging een stap verder. Hij leidde niet alleen natuurkundige principes af uit waarnemingen die al waren gedaan, maar voorspelde ook waarnemingen die in de toekomst zouden worden gedaan.

Computers en AI zijn al beter en sneller dan mensen in een aantal taken, maar om het niveau van Algemene Kunstmatige Intelligentie te bereiken, moet AI een groot aantal typisch menselijke eigenschappen bezitten. Roitblat noemt de belangrijkste:

Redeneervermogen;
strategisch planningsvermogen;
leervermogen;
vermogen om waar te nemen;
vermogen om conclusies te trekken;
vermogen om kennis weer te geven;
vermogen om te leren van een klein aantal voorbeelden;
problemen kunnen identificeren;
vermogen om doelen te specificeren;
het vermogen om nieuwe en productieve manieren te vinden om problemen voor te leggen;
het vermogen om meerdere benaderingen van een probleem te herkennen en elke benadering te evalueren;
nieuwe benaderingen kunnen bedenken;
kunnen nadenken over vage ideeën en ze bruikbaar maken;
in staat zijn om kennis over te dragen van de ene taak naar de andere;
overkoepelende principes kunnen extraheren;
kunnen speculeren;
tegenfeitelijk kunnen redeneren (tegen de feiten in kunnen denken);
niet-monotoon kunnen redeneren;
vermogen om kennis van gezond verstand te gebruiken;
...

Demis Hassabis, een voormalig schaakgrootmeester en videogameontwerper, heeft een graad in computerwetenschappen en cognitieve neurowetenschappen. Hij verkocht zijn onderzoeksbedrijf DeepMind in 2014 aan Google voor naar verluidt 625 miljoen dollar. Hassabis bestempelt de meeste AI-toepassingen die we al hebben als 'gewoon software'. "Het zijn dingen die werken", stelt hij. Hij wil veel verder gaan. Hassabis laat zich inspireren door het menselijk brein en probeert de eerste universele leermachine te bouwen. Door flexibele en zelflerende algoritmen te bouwen naar het voorbeeld van biologische systemen, zouden ze in staat moeten zijn om elke taak vanaf nul uit te voeren, met niets meer dan ruwe gegevens.

DeepMind was het bedrijf dat de Chinezen een hak zette met AlphaGo. Het spel Go werd al genoemd in de geschriften van Confucius en is minstens tweeduizend vijfhonderd jaar oud. Er wordt gezegd dat het aantal mogelijke zetten in het spel groter is dan het totale aantal atomen in het universum. Om een stukje software te schrijven dat dit spel beheerst, helpen brute berekeningen niet. Je kunt ook geen regels programmeren die je vertellen hoe en in welke volgorde je bepaalde zetten moet doen. Go werd daarom lang beschouwd als een van de grote uitdagingen voor AI. AlphaGo versloeg de ene Go-kampioen na de andere: Nick Bostrom, auteur van Superintelligence: Paths, Dangers, Strategies, beschrijft die gebeurtenis als baanbrekend. Als AGI (Algemene Intelligentie) wordt bereikt, zal dat een breuk betekenen in het 'weefsel van de geschiedenis'. Hierin is hij het eens met Ray Kurzweil, die gelooft dat dit ultieme moment in de zeer nabije toekomst ligt.

AlphaGo heeft zichzelf geleerd het spel te beheersen met behulp van algemene technieken voor machinaal leren. Hassabis is van plan om deze technieken toe te passen op veel grote problemen in de echte wereld, zoals de opwarming van de aarde en onderzoek naar levensbedreigende ziekten.

DeepMind combineert oude en nieuwe AI-technieken, zoals traditionele zoekmethoden en DNN's (diepe neurale netwerken). In DeepQ hebben ze DNN's gecombineerd met reinforcement learning. Dit is de manier waarop alle dieren leren, via het dopamine-gedreven beloningssysteem in de hersenen. AlphaGo ging een stap verder door langetermijngeheugenfuncties toe te voegen. Hassabis vergelijkt zijn bedrijf met het Apollo-programma van NASA en het Manhattan Project (de ontwikkeling van de atoombom). Het bedrijf brengt toptalent van over de hele wereld samen, zoals ook het geval was bij het Manhattan Project, waarvoor onder andere Von Neumann werkte.

Een andere grote doorbraak was die van AlphaFold in 2021, dat het 50 jaar oude 'eiwitvouwprobleem' oploste. Eiwitten zijn essentieel voor alle vormen van leven. Ze ondersteunen vrijwel alle biologische functies in levende organismen. Eiwitten zijn grote en complexe moleculen die bestaan uit ketens van aminozuren. De functie van een eiwit hangt grotendeels af van zijn unieke 3D-structuur. Om de functie van de verschillende soorten eiwitten beter te begrijpen, moet je daarom weten hoe en in welke vormen eiwitten zich 'vouwen'. AlphaFold loste dit oude probleem in een oogwenk op door de 3D-vouwvorm van eiwitten te 'voorspellen'.

Dramatisch banenverlies en autonome wapens

De Taiwanese Kai-Fu Lee is computerwetenschapper, zakenman en schrijver. Als promovendus aan de Carnegie Mellon University ontwikkelde hij een geavanceerd spraakherkenningssysteem. Hij heeft gewerkt voor Microsoft, SGI, Apple en Google China. Hij wordt momenteel beschouwd als een van de meest prominente figuren op het gebied van AI in China. In zijn boek AI Superpowers: China, Silicon Valley, and the New World Orderbeschrijft Lee hoe snel China zich ontwikkelt tot een wereldleider op het gebied van AI. Als een van de belangrijkste redenen noemt hij het feit dat geen enkel ander land zoveel data tot zijn beschikking heeft. Dit is onvermijdelijk, gezien de omvang van de bevolking. Bovendien wordt China niet gehinderd door wetten op het gebied van gegevensbescherming. Sinds de overwinning van AlphaGO zijn de Verenigde Staten en China verwikkeld in een AI-wapenwedloop.

Als data de nieuwe olie is, dan is China het nieuwe Saoedi-Arabië.
- Kai-Fu Lee

Kai-Fu Lee vergelijkt de vooruitgang in kunstmatige intelligentie met de industriële revolutie, maar stelt dat de impact op de werkgelegenheid veel ingrijpender zal zijn. AI is immers ook in staat om veel 'mentaal' werk en 'cognitief' werk te vervangen. Tot de cognitieve jobs die het grootste risico lopen op ontslag behoren vertaler, radioloog, bepaalde banktaken, belastingcontroleurs, telemarketeer... Deze jobs zijn relatief asociaal en kunnen gemakkelijk geoptimaliseerd worden. Sociale jobs of beroepen die steunen op creativiteit en/of strategie en bepaalde fysieke taken lopen minder risico. Maar een groot aantal fysieke banen, waaronder die van afwasser, vrachtwagenchauffeur, textielarbeider, kok en caissière, lopen ook een hoog risico.

Kunstmatige intelligentie is de toekomst, niet alleen voor Rusland, maar voor de hele mensheid. (...) Het brengt kolossale kansen met zich mee, maar ook bedreigingen die moeilijk te voorspellen zijn. Wie de leider wordt op dit gebied, wordt de heerser over de wereld. - Vladimir Poetin

Als senior adviseur voor innovatie van Hillary Clinton bezocht Alex Ross 41 landen. Hij bezocht oorlogsgebieden en vluchtelingenkampen over de hele wereld en ontmoette de machtigste mensen uit het bedrijfsleven en de politiek. Ze veranderden en verdiepten zijn begrip van waar de wereld voor staat op het gebied van innovatie en automatisering. In zijn boek De industrieën van de toekomst,onderzoekt hij hoe innovatieve technologieën, zoals robotica en kunstmatige intelligentie, de economische situatie in de wereld de komende tien jaar zullen veranderen. Hij beschrijft welke functies weinig overlevingskans hebben door cloud computing en AI.

Hij heeft het onder andere over 'cloud robotics'. Robots, waaronder drones, zullen hun 'geleerde ervaringen' uploaden naar de 'cloud' en zo kunnen leren van de ervaringen van andere robots. Door deze gedeelde kennis zullen robots en AI een vorm van adaptieve en cumulatieve leercultuur ontwikkelen. Stel je voor dat je een drone bouwt die als taak heeft om een bepaald persoon te liquideren. Als je als slachtoffer die drone uitschakelt, ben je nog niet gered. De drone heeft zijn missie, kennis en locatie (en dus die van jou) immers al doorgegeven via de 'cloud'. Door deze gedeelde kenniscultuur zullen robots nieuwe taken blijven leren.

Een enigszins beangstigend onderzoek van de Universiteit van Oxford concludeert dat 47 procent van alle menselijke banen in de Verenigde Staten de komende 20 jaar vervangen zou kunnen worden door robots en AI. Het onderzoekslab van autodeelbedrijf Uber bouwt aan een geautomatiseerde taxivloot, waardoor echte chauffeurs overbodig worden. Zowel Google X als een aantal Chinese autofabrikanten werken aan bestuurderloze auto's. Ga zo maar door...

Waarom zouden we zoveel menselijk potentieel vervangen door robots en AI? De initiële kosten van robots en automatisering zijn veel hoger, maar ze betalen zichzelf in een mum van tijd terug. Je hoeft robots geen salaris te betalen, ze eisen geen '9 tot 5 baan', ze worden niet ziek (hooguit moet je een onderdeel vervangen) en ze nemen geen vakantie. Ze werken de hele tijd. Wat raad je je kinderen aan om te studeren of, omgekeerd, waarom zouden ze willen of moeten studeren? Waarom zou je een andere taal leren als je ziet hoe goed AI-gebaseerde vertaalsystemen zoals DeepL al zijn?

AI, en automatisering in het algemeen, kan economieën stimuleren, van zware industrie tot medisch onderzoek, maar zal ook worden gebruikt voor oorlogsvoering. In de korte film Slaughterbotsuit 2017 krijgt de kijker een gedramatiseerd en dystopisch toekomstscenario voorgeschoteld. Zwermen goedkope microdrones gebruiken kunstmatige intelligentie en gezichtsherkenning om politieke tegenstanders te doden op basis van voorgeprogrammeerde criteria. De hoofdpersoon presenteert de nieuwe uitvinding voor een enthousiast publiek, op een manier die sterk doet denken aan de jaarlijkse presentatie van nieuwe Apple-producten of een TED-conferentie. Aan het einde van de film wijst hij met zijn vinger naar zijn hoofd en zegt:

Slimme wapens gebruiken gegevens. Als je je vijand kunt vinden aan de hand van gegevens, zelfs via een hashtag, dan kun je een kwaadaardige ideologie daar aanpakken waar ze vandaan komt.'

Als kijker blijf je achter met een zuur gevoel, want de technologie die nodig is om dit soort wapens te bouwen is vrij beschikbaar. Met relatief beperkte kennis van elektronica en de huidige AI-technologie kan een doe-het-zelver zo'n slim moordwapen bouwen. Stuart Russel, een Britse computerwetenschapper en hoogleraar computerwetenschappen aan de universiteit van Berkeley, werkte jarenlang aan de ontwikkeling van AI. Aan het eind van de film waarschuwt hij dat de ontwikkeling van slimme en autonome wapens dringend aan banden moet worden gelegd:

Deze korte film is meer dan alleen speculatie. Het laat de resultaten zien van het integreren en miniaturiseren van technologieën die we al hebben... Het potentieel van AI om de mensheid te dienen is enorm, zelfs bij defensie. Maar machines toestaan om te kiezen om mensen te doden zal verwoestend zijn voor onze veiligheid en vrijheid.'

De nieuwe Leviathan of redder van de wereld

We staan versteld van de enorme ontwikkeling van de mechanische wereld, de gigantische vooruitgang die deze heeft geboekt vergeleken met de trage vooruitgang van het dieren- en plantenrijk. We kunnen ons onmogelijk afvragen wat het einde van deze machtige beweging zou kunnen zijn... De machines winnen terrein op ons. Dag na dag worden we meer aan hen onderworpen... Meer mensen wijden dagelijks de energie van hun hele leven aan de ontwikkeling van mechanisch leven. - Samuel Butler (1835-1902)

De filosoof Thomas Hobbes (1588-1679) gebruikte Leviathan, een mythisch zeemonster uit het jodendom, als symbool voor de rechtsstaat, die boven alle andere menselijke machten staat. Leviathan werd gezien als een soort politieke god die boven alles verheven was. De eerder genoemde auteur George Dyson riep Hobbes uit tot de vader van de kunstmatige intelligentie.

De natuur (de manier waarop God de wereld maakte en regeert) wordt door de mens nagebootst ... zodat (de mens) een kunstmatig dier kan maken. Het leven is niets anders dan bewegende ledematen, bestuurd door een centraal deel binnenin; dus waarom zouden we niet zeggen dat alle automaten een kunstmatige vorm van leven zijn? Want is het hart niet een veer, en de zenuwen niet meer dan zoveel touwtjes, de gewrichten niet meer dan wielen die het lichaam in beweging zetten?' - Thomas Hobbes, Leviathan

De Poolse auteur Szymon Wróbel vreest dat onze moderne geautomatiseerde wereld een moderne Leviathanwordt. AI-geautomatiseerde en gedigitaliseerde bedrijven, banken, sociale mediabedrijven ... vormen een bijna ondoordringbare laag boven mensen. Banken verstrekken leningen op basis van statistische voorspellingen van kredietwaardigheid, klanten van grote bedrijven en energiebedrijven kunnen nauwelijks gehoord worden bij een klacht of probleem via geautomatiseerde telefoondiensten ... In China bepalen AI-systemen hoe 'goed' je bent als burger. Leviathanof Metropolis...Wanneer is de grens overschreden? Wat waren de 'spoetnik-momenten' in de moderne geschiedenis waarop deze verandering plaatsvond?

De AI-industrie in China heeft zich in minder dan tien jaar ontwikkeld tot een miljardenindustrie. China beleefde zijn "spoetnik-moment" in maart 2016. Toen versloeg Googles AlphaGo de Zuid-Koreaanse Lee Sedol, kampioen in het oude Chinese spel Go. Meer dan tweehonderdtachtig miljoen kijkers bekeken de wedstrijd. Een jaar later, in mei 2017, versloeg AlphaGo het Chinese wonderkind Ke Jie. Amper twee maanden later onthulde de Chinese regering haar eigen AI-strategie: tegen 2030 beloofde het land wereldleider te worden op het gebied van AI. Nicolas Chaillan, chief software officer van het Pentagon, nam in 2021 ontslag omdat hij het niet kon aanzien dat China de VS zou overtreffen op het gebied van AI en machine learning. Volgens Chaillan was het al een uitgemaakte zaak dat China de Verenigde Staten op dat gebied zou overtreffen.

Volgens Kai-Fu Lee versnelden het coronavirus en de lockdowns het gebruik van AI in zowel China als de VS. In China versnelde de pandemie het gebruik van robotica in fabrieken en restaurants, waar een dienblad op wieltjes de bestelling naar je tafel brengt. Vooruitgang op het gebied van 'taalbegrip' zal zoekmachines transformeren, net als 'deep fake'-technologie en de mogelijkheid om automatisch video en audio te genereren. Mensen zullen hun professionele en sociale leven steeds vaker doorbrengen in virtuele omgevingen, een soort 'metaverse'. Deze virtuele wereld zal niet alleen bevolkt worden door onze eigen digitale avatar, maar ook door virtuele en door AI gegenereerde avatars.

China zet AI ook massaal in voor gezichtsherkenning en een sociaal kredietsysteem, waarbij burgers worden beoordeeld op basis van hun gedrag. Met behulp van de verzamelde big data bepaalt een AI hoeveel sociaal krediet elke burger verdient. Degenen die te veel punten verliezen in dit sociale kredietsysteem worden gestraft met:

Een verbod om het vliegtuig of de trein te nemen;
beperkte internetsnelheid;
het ontzeggen van toegang aan hun kinderen tot de beste scholen;
het ontzeggen van bepaalde banen;
het ontzeggen van de toegang tot bepaalde (betere) hotels;
het afpakken van je hond;
een publiekelijk etiket van 'slechte burger'.

Autonome wapens, waaronder drones, die zelf beslissingen nemen worden steeds vaker ingezet over de hele wereld en wapenfabrikanten lijken Asimovs robotwettenniet al te serieus te nemen. Er is dringend behoefte aan regelgeving voor de inzet van 'deep tech', waaronder AI, kwantumcomputing en blockchain vallen. Isaac Asimov was een prominente sciencefictionauteur die bekend staat om de "Drie Wetten van Robotica". Deze wetten werden voor het eerst geïntroduceerd in zijn korte verhaal "Runaround", dat in 1942 werd gepubliceerd, en werden later een fundamenteel concept in zijn beroemde romanseries "Robot" en "Foundation".

De drie wetten van Robotica zijn als volgt:

1.

1. Een robot mag een mens geen letsel toebrengen of, door niets te doen, toestaan dat een mens letsel oploopt.

Deze wet bepaalt dat de primaire functie van een robot het waarborgen van de veiligheid van mensen is. Een robot mag een mens geen letsel toebrengen en moet ook handelen om te voorkomen dat een mens letsel oploopt, als hij dat kan.
2. Een robot moet de opdrachten van mensen opvolgen, behalve als deze opdrachten in strijd zijn met de Eerste Wet.
Deze wet bepaalt dat mensen de bevoegdheid hebben om opdrachten te geven aan robots en dat robots deze opdrachten moeten opvolgen. Als het opvolgen van deze bevelen echter schade zou toebrengen aan een mens, dan moet de robot voorrang geven aan de Eerste Wet boven de Tweede Wet.
3. Een robot moet zijn eigen bestaan beschermen zolang deze bescherming niet in strijd is met de Eerste of Tweede Wet.
Deze wet bepaalt dat robots een zelfbehoudsinstinct hebben en stappen moeten ondernemen om hun eigen voortbestaan te garanderen. Dit zelfbehoud mag echter niet in strijd zijn met de Eerste of Tweede Wet. Een robot mag bijvoorbeeld geen mensen kwaad doen om zichzelf te beschermen.

Wat betreft de reden waarom Asimov deze wetten bedacht, hij wilde de mogelijke impact van geavanceerde technologie en kunstmatige intelligentie op de samenleving onderzoeken. Hij was bezorgd over de mogelijkheid dat robots oncontroleerbaar zouden worden en schade zouden aanrichten, en dus creëerde hij de Drie Wetten als een manier om ervoor te zorgen dat robots altijd prioriteit zouden geven aan de veiligheid en het welzijn van mensen. De Drie Wetten zijn sindsdien een fundamenteel concept geworden op het gebied van robotica en blijven de discussies over AI-ethiek en de verantwoorde ontwikkeling van technologie beïnvloeden.

Of het nu gaat om hightechbedrijven zoals het Amerikaanse Meta (Facebook, Instagram, WhatsApp...), Microsoft, Apple of Google, of de Chinese overheid..., de basis is gelegd. De techbedrijven lijken hun zin te krijgen en de meeste mensen voorzien deze bedrijven, zonder erbij na te denken of zich ervan bewust te zijn, van een massa gegevens. De Chinese overheid neemt de rechten van haar burgers niet serieus en verspreidt haar AI-technologie over grote delen van Azië en Afrika. Ook westerse overheden en bedrijven zetten steeds meer in op AI-technologieën. Wet- en regelgeving kan het nauwelijks meer bijbenen.

Max Tegmark is natuurkundeprofessor aan het MIT en medeoprichter van het Future of Life Institute. Hij is een ietwat controversieel figuur, maar niettemin een ronkende naam in de wereld van AI. Tegmark deelt graag zijn ideeën over de mogelijkheden die AI biedt om menselijke omstandigheden te veranderen. Volgens hem is AI een game changer die het leven op aarde radicaal zal veranderen.

"De technologie die we ontwikkelen zorgt ervoor dat het leven kan floreren, niet alleen voor de volgende verkiezingscyclus, maar voor miljarden jaren.

Hij definieert AI als het vermogen om complexe doelen te bereiken. Hoe complexer het doel, hoe meer intelligentie er nodig is. Volgens hem is er geen reden om aan te nemen dat kunstmatige algemene intelligentie (AGI) niet kan worden bereikt. Er is geen natuurkundige wet die de ontwikkeling ervan tegenhoudt. Maar betekent dit ook dat de mens overbodig wordt? Volgens Tegmark is het een kwestie van perspectief. Hij ziet de enorme voordelen die AI biedt, maar we moeten de wijsheid cultiveren om de risico's te minimaliseren. We moeten, in zijn woorden, 'de wijsheidsrace winnen'. In de analoge wereld leren we van vallen en opstaan, maar als we dat principe op de schaal van AGI laten spelen, kan dat rampzalig zijn. Dus moeten we als mensen proactief voorspellen wat er mis kan gaan en zorgen voor de nodige veiligheid. Elke wetenschap kan worden gebruikt om mensen te helpen, maar ook om ze te schaden.

Omdat de drie wetten van de robotica te beperkt zijn, ontwikkelden Tegmark en zijn collega's in 2017 de 23 Asilomar AI Principles, een set praktische en ethische richtlijnen voor de ontwikkeling en toepassing van AI. Meer dan duizend onderzoekers en wetenschappers wereldwijd hebben deze principes geaccepteerd en ondertekend. Een van deze regels gaat in tegen de ontwikkeling van autonome wapens. We moeten verbieden dat AI-algoritmes beslissen om mensen te doden. De grote rijkdom die AI zal helpen produceren, moet beter worden verdeeld zodat iedereen beter af is. We moeten investeren in AI-veiligheidsonderzoek, enzovoort. Maar natuurlijk klinken deze doelen, hoe mooi en goedbedoeld ook, wat vaag en zwak zolang de grote spelers, van regeringen en banken tot bedrijven, ze niet ter harte nemen.

Daarom moeten we de doelen van AGI afstemmen op onze eigen doelen, iets wat Tegmark 'AI alignment' noemt. Als je eenmaal weet waar je heen wilt, kun je de problemen en potentiële valkuilen identificeren. In plaats van een dystopische, moeten we ons een fantastische toekomst voorstellen, stelt Tegmark. Hij gelooft dat de ontwikkeling van AGI ons kan helpen duurzaamheidsdoelen te halen, AGI als een soort levensredder die alle grote problemen van de wereld kan oplossen.

Wonen in een computerbrein

In de film The Matrixontdekt de hoofdpersoon al snel dat de wereld waarin hij leeft niet echt is. Alles en iedereen blijkt te worden gesimuleerd door een gigantische machine die de levensenergie van mensen gebruikt als een soort seriële biologische batterij. De menselijke ervaringen blijken het resultaat te zijn van ingenieuze software die gegevens voedt in de hersenen van miljoenen mensen die op de machine zijn aangesloten. De Britse computerwetenschapper Nick Bostrom heeft deze simulatiehypothese op levensvatbaarheid getest. Hij heeft een reeks voorwaarden ontwikkeld om na te gaan of een dergelijke digitale onderdompeling inderdaad mogelijk is of niet al het geval is. Immersieve technieken zijn alomtegenwoordig in de digitale wereld. Computersimulaties, 3D-games, virtual reality, augmented reality, online games (MMORPG's), enz. zijn de belangrijkste vormen van immersieve technologie, waarbij de grenzen tussen realiteit en digitale representatie vervagen.

De singulariteit

Wanneer een computer de menselijke intelligentie bereikt of het niveau waarop de mens is aangekomen na miljoenen jaren biologische evolutie, houdt het niet op voor AI. Nick Bostrom, Ray Kurzweil, Bill Gates, Elon Musk... waarschuwen voor dit schakelmoment: de singulariteit. Kunstmatige intelligentie zal zich volgens sommigen vanaf dat moment in een razend tempo blijven ontwikkelen. Menselijke intelligentie is volgens hen geen eindpunt, maar een kantelpunt, waarna menselijke intelligentie al snel overbodig lijkt te worden, als we hen moeten geloven.