Hoe willen wij worden?

Wat voor soort mensen willen wij worden? Weten we eigenlijk wel wat wij willen? Die vragen gaan deze eeuw actueel worden als gevolg van de snelle ontwikkeling van kunstmatige intelligentie (KI) en biotechnologie. De eerste heeft de afgelopen jaren een enorm momentum gekregen. Naast universiteiten en geheime diensten, investeren ook grote IT-bedrijven als Alphabet, Facebook, IBM en Baidu miljarden dollars in wetenschappelijk onderzoek naar KI. Stephen Hawking, Bill Gates en Elon Musk zijn bang dat KI de menselijke intelligentie gaat inhalen en daardoor uiteindelijk een bedreiging voor ons vormt. Musk heeft onder het motto ‘if you can’t beat them, join them’ onlangs Neuralink opgericht, een bedrijf dat zich richt op het integreren van menselijke hersenen met KI. Neuralink is geen science fiction, een aantal basistechnieken voor de integratie van natuurlijke en machine-intelligentie bestaan al. Onderzoekers kunnen bijvoorbeeld van buitenaf de hersenen van ratten aansturen. Aandoeningen als de ziekte van Parkinson, anorexia en depressie worden behandeld door elektroden in de hersenen te implanteren. Exoskeletten voor verlamde mensen kunnen via hersensignalen worden bestuurd. En neurowetenschappers kunnen het brein steeds beter in kaart brengen. Het is daarom aannemelijk dat we in de toekomst inderdaad een integratie zullen zien van mens en machine-intelligentie.

Tegelijkertijd maakt ook biotechnologie een stormachtige ontwikkeling door. We zijn niet alleen druk bezig om met behulp van genetische modificatie de menselijke gezondheid en prestaties te verbeteren, we kunnen ook steeds beter levende wezens ontwerpen en klonen. De opkomst van KI en biotechnologie betekent een nieuwe fase in de geschiedenis van de mensheid. Want nadat we eeuwenlang geprobeerd hebben het menselijk leven te veraangenamen door onze externe omgeving aan te passen, gaan we dat nu proberen door onszelf te optimaliseren.

Misschien vind je dit nog een beetje griezelig klinken en hoop je dat het allemaal zo’n vaart niet zal lopen. Maar ik kan me eerlijk gezegd geen realistisch scenario voorstellen waarin bovenstaande ontwikkelingen worden afgeremd of zelfs gestopt. En als straks de eerste genetisch geoptimaliseerde en met KI-geïntegreerde supermensen ontstaan, dan kan de rest uiteindelijk niet achterblijven. Dat is het oude ‘survival of the fittest’.

De vraag wordt daarom relevant hoe wij onszelf gaan optimaliseren: hoe willen wij worden? Wij moeten duidelijke instructies geven aan de ontwerpers van onze genen en onze machine-intelligentie. Want technologie heeft geen intrinsieke doelstelling, het functioneert slechts op basis van externe opdrachten. Dit lijkt misschien triviaal, maar dat is het niet. Laten we eens kijken naar drie verschillende scenario’s: we geven de technologie geen instructies mee, we geven instructies die slechts ten dele kloppen en de technologie doet precies wat wij willen.

Stel dat wij nalaten om aan te geven wat KI en biotechnologie voor ons moeten doen, wat gebeurt er dan? In dat geval zal de technologie waarschijnlijk gericht blijven op de dingen waarvoor ze nu al wordt ingezet: het optimaliseren van economische vraagstukken, het verbeteren van onze gezondheid en prestaties en het verlengen van onze levensduur. Dat zijn op zich hele valide doelstellingen, maar ze zijn wel een beetje eenzijdig. Want hoeveel aandacht blijft er over voor alle andere behoeftes die wij hebben? Heeft biotechnologie wel oog voor de waarde van verschillen tussen mensen en van ogenschijnlijke imperfecties? Of gaat het uitsluitend designer baby’s creëren conform ‘best practice’? En hoe zit het met rechtvaardigheid, sociaal contact en plezier, hecht onze geïntegreerde machine-intelligentie daar wel belang aan? De natuurlijke kant van de mens evolueert slechts zeer langzaam, terwijl de technologie dat in een razend tempo doet. Daardoor lopen we de kans dat we steeds minder mens en steeds meer machine worden. Een soort onverwoestbare supermachine die uiterst doelgericht en efficiënt werkt. Van een mooie lentedag zullen we dan waarschijnlijk niet meer genieten. Emoties staan onze rationele doelen immers vaak in de weg. Het bestaan wordt zo misschien perfect, maar tegelijk zinloos.

Wij kunnen dit scenario voorkomen als we dat willen. Want wij zijn de klanten van de ondernemers die KI ontwikkelen en de financiers van de biotechnologen aan de universiteit. Maar dan zullen wij hen wel duidelijke instructies moeten geven over wat wij met hun technologie willen bereiken. Maar dat weten we helaas nauwelijks zelf. De drijfveren van de mens (behoeften, voorkeuren, normen & waarden, angsten) zijn in miljoenen jaren van evolutie ontwikkeld. Vaak manifesteren ze zich als instinctieve reflexen of onbewuste emoties. Onze drijfveren zijn ooit ontstaan omdat ze nuttig waren voor ons voortbestaan. Sommige zijn dat nog steeds, andere zijn dat inmiddels niet meer. Samen vormen onze drijfveren een uiterst complex geheel, samenhangend en soms tegenstrijdig. Waarvan we veel baat hebben, maar soms ook last. Bijvoorbeeld wanneer we met onze onzekerheid bij de psycholoog zitten. Onze kennis over wat wij diep van binnen willen, is op dit moment globaal, fragmentarisch en in belangrijke mate speculatief. We weten bijvoorbeeld niet eens precies wat emoties zijn. Er wordt veel onderzoek gedaan, er is zeker sprake van vooruitgang, maar we zijn er nog lang niet.

Wat zou er gebeuren als we op basis van de huidige beperkte kennis over onze drijfveren een instructie zouden opstellen als input voor machine-intelligentie en genetische modificatie? De kans is groot dat de zorgvuldig door de evolutie gecreëerde balans van krachten en tegenkrachten uit het lood raakt. Dat bepaalde drijfveren (nieuwsgierigheid?) de bovenhand krijgen ten opzichte van andere (voorzichtigheid?). En dat er zo een soort Jenga-effect optreedt: als je lukraak wat balkjes wegtrekt, zakt het hele bouwwerk in elkaar. Dat risico is natuurlijk nog groter als we er zelf voor kiezen om sommige ‘onwenselijke’ drijfveren of emoties te elimineren, zonder dat we precies begrijpen wat de functie ervan is in het grotere geheel. Jaloezie bijvoorbeeld, of verveling.

Tot slot moeten we de mogelijkheid onder ogen zien dat we succesvol zijn. Stel dat we toch in staat zijn aan onze machine-intelligentie en de biotechnologen uit te leggen wat we diep van binnen willen (bijvoorbeeld doordat KI al onze gedachten en gevoelens weet uit te lezen), wat gebeurt er dan? De technologie gaat aan de slag om het ons naar de zin te maken. Verdriet verdwijnt, evenals angst, onrecht en lelijkheid. Alles wordt mooi en goed. Maar hebben wij dan ons doel bereikt? Of zouden we merken dat we vooral gelukkig worden van het proces van behoeftevervulling, niet van een situatie waarin onze behoeftes al vervuld zijn? Onvervulde behoeftes drijven ons en geven zin aan ons leven. Het leven in een perfecte wereld zou wel eens behoorlijk deprimerend kunnen blijken. Zonder lelijk verliest mooi zijn betekenis, zonder ongeluk is geluk een leeg begrip, zonder slecht is er geen goed, zonder angst is er geen hoop. Zonder negatieve ervaringen is er geen zin van het leven. Als we dit willen voorkomen, moeten we onze instructie aan de technologie slim aanpassen.

Het stellen van de goede vraag is net zo belangrijk, en vaak net zo moeilijk, als het geven van het juiste antwoord. Onze kennis (straks geholpen door geïntegreerde machine-intelligentie) ontwikkelt zich stormachtig, met het kunnen geven van antwoorden zijn we daarom aardig op weg. Maar we hebben nog te weinig idee wat we aan de nieuwe technologie willen vragen. Voordat we hierover keuzes maken, hebben we eerst meer zelfkennis nodig. Niet op individueel niveau, maar op het niveau van de menselijke soort. We moeten de werking van onze drijfveren begrijpen en zodanig concreet beschrijven dat we ze kunnen uploaden als input voor onze toekomstige machine-intelligentie. ‘Wat wil ik eigenlijk?’ was altijd al een vraag die individuele mensen bezig hield. Als mensheid moeten we ons die vraag nu ook gaan stellen.