Eerder gepubliceerd op 16 september in Trouw:
Voor ‘Singularitarians’ kan de digitale revolutie niet snel genoeg gaan. Liever vandaag dan morgen zien ze het computerbrein de mens voorbijstreven. Wat betekent ethiek voor deze knappe koppen?
“Jullie zijn nu onderdeel van de Singularity-beweging”, begroet gastheer Jim Stolze de overvolle zaal, zijn armen gul gespreid. En een beweging is het zeker, eentje met een onbegrensd geloof in de mogelijkheden van exponentiële technologie. Ongeveer een vijfde van de aanwezigen in het Amsterdamse DeLaMar Theater bestaat uit alumni van de Singularity University in Silicon Valley. Daarnaast vooral veel nieuwsgierige Nederlandse ondernemers – al dan niet met een Tesla voor de deur. Wat hen hier brengt? De mogelijkheid tot netwerken, inspirerende speeches, het gouden idee voor een nieuwe start-up.
Volgens futuroloog Ray Kurzweil, Director of Engineering bij Google, zal het computerbrein rond 2045 het menselijke brein in intelligentie voorbijstreven. ‘Singularity’, noemt Kurzweil het tijdperk van onbegrensde mogelijkheden dat dan zal aanbreken. Rond dit begrip is een beweging ontstaan die gelooft dat de wereld kan worden verbeterd met exponentiële technologie. In 2008 was Kurzweil medeoprichter van de Singularity University in Silicon Valley, een denktank voor technologische ontwikkelingen. De eerste dependance van dit instituut – SingularityU The Netherlands, opgericht door Yuri van Geest, Maarten den Braber, Diederick Croese en Jim Stolze – opende in mei van dit jaar in Eindhoven zijn deuren.
In de media is de kritiek op Silicon Valley niet van de lucht. Journalist Kevin Maney schreef onlangs in Newsweek dat Silicon Valley zoveel geld en talent naar de Amerikaanse westkust trekt, dat er een ongezonde machtsconcentratie ontstaat. “Hopelijk op de lange termijn een zegen voor de mensheid,” aldus Maney, “maar het kan een paar eeuwen duren voordat we dat kunnen beoordelen.”
Tijdens de Summit in Amsterdam komen duizelingwekkende voorbeelden voorbij van innovaties op elk denkbaar gebied. De bitcoin-technologie blockchain die financiële markten onherkenbaar zal veranderen; exoskeletten waardoor verlamde mensen weer kunnen lopen; luchtballonnen in de stratosfeer, die de hele wereld van gratis internet kunnen voorzien; hamburgers die worden gekweekt alsof het aardappelen zijn. De teneur: je kan het zo gek niet bedenken, of het is op termijn uitvoerbaar door een combinatie van technologische kennis en gedurfd ondernemerschap.
“Plug jezelf in”, speecht Rob Nail, CEO van Singularity University, “en laat ons je brein opnieuw bedraden.” Dat brein van ons staat nu nog ingesteld op lokaal en lineair, maar moet zo snel mogelijk worden omgeschakeld naar globaal en exponentieel. Anders missen we de boot, is de overtuiging hier in het DeLaMar.
Disruptie
Er is één woord dat op de tweedaagse Summit nog vaker valt dan singularity: disruptie. Disruptie ontstaat wanneer een nieuwe technologische ontwikkeling een industrie zodanig ontwricht, dat die industrie moet aanpassen of verdwijnen. Een goed voorbeeld van zo’n ontwikkeling is Uber, een slimme app die de taxi-industrie heeft ontwricht. Overheden staan voor een dilemma: moeten ze hun taxi-branche beschermen door de ontwrichter te verbieden, of moeten ze de nieuwe situatie juist met wetgeving accommoderen?
Vaak leidt disruptie tot sociale onrust: mensen raken hun baan en andere zekerheden kwijt, en dat veroorzaakt weer politieke schokgolven. Rob Nail toont tijdens zijn speech een fotocollage van Brexit en Donald Trump, en merkt laconiek op: “Dit zijn natuurlijke neveneffecten die je kan verwachten bij disruptie.” It sucks, maar het waait vanzelf over. Vervolgens laat Nail een foto zien van een Parijse taxichauffeur die tegen Uber protesteert. Het bovenlijf van de man is ontbloot, hij steekt een berg straatvuil in de fik. Nail gniffelt er een beetje om, het publiek gniffelt mee.
Opvallend in het verhaal van de ‘Singularitarians’ is dat ze disruptie niet alleen signaleren, maar ook actief aanmoedigen: disruptie is hun strijdkreet. Het leveren van een goed product is niet meer genoeg voor een bedrijf om te kunnen voortbestaan. Bedrijven moeten voortdurend op hun hoede zijn om niet ontwricht te raken door een andere tak van industrie, en er tegelijkertijd naar streven om zelf industrieën te ontwrichten. Anders eindigen ze net zo jammerlijk als de telefoniebedrijven die werden vermorzeld door de computertechneuten met hun glazen smartphone.
Door deze bril bezien is er dus geen vrije keus meer voor een bedrijf om wel of niet aan disruptie te doen. “Als je het niet doet, is er grote kans dat je bedrijf over twintig jaar niet meer bestaat”, speecht David Roberts, de afsluitende spreker van de Summit. Hij is directeur van het Graduate Studies Program van Singularity University en een veelvuldig bekroonde ‘serial entrepreneur’.
Roberts, rijzig van gestalte, laat af en toe nadrukkelijke pauzes in zijn verhaal vallen: “We voelen ons nu al heel erg slim met ons apenbrein van 1350 gram… maar probeer je eens voor te stellen hoeveel slimmer we nog kunnen worden met behulp van kunstmatige intelligentie. Het valt onmogelijk te voorspellen… wat het dan betekent om mens te zijn.”
Robots
“Disruptie heeft inderdaad een prijs”, zegt Roberts na afloop van zijn speech, in een studio op de bovenste verdieping van het DeLaMar. “Als Nederland besluit om robotica te omarmen, zullen veel mensen hun baan verliezen. Toen er honderdvijftig jaar geleden landbouwmachines kwamen, gebeurde iets soortgelijks. Maar er kwamen andere banen voor terug, banen waarvan niemand toen kon vermoeden dat ze ooit zouden bestaan.”
Voor Roberts bewijst het dat veel mensen onterecht bang zijn voor disruptie. “Ze associëren het enkel met vernietiging. Maar wie disruptie begrijpt, weet dat het op den duur juist voor economische groei zorgt. De Oostenrijkse econoom Joseph Schumpeter sprak over ‘creatieve destructie’. 3D-printen heeft bijvoorbeeld voor een disruptie van scheepvaart en detailhandel gezorgd, maar we creëren er ook weer nieuwe materialen mee. Straks kunnen we er enorme installaties mee bouwen in de ruimte, of juist dingen die microscopisch klein zijn. Dat biedt perspectief.”
Roberts benadrukt nogmaals dat er geen alternatief voor disruptie denkbaar is. “Als je besluit om niet te innoveren, of als jouw overheid de innovatie tegenhoudt, zal je zelf ontwricht raken. Dus nee, een keus is er niet.”
Overheden staan altijd het meest afwerend tegenover disruptie, meent Roberts. “Ze innoveren veel te weinig, ook op het gebied van regelgeving. Overheden willen wel veranderen, maar ze berusten nu eenmaal op systemen die lang voor het tijdperk van telefonie en internet zijn gebouwd. Onze regelgevers hebben bovendien zelden technologische expertise. Van de meer dan zeshonderd congresleden in de Verenigde Staten hebben er slechts zes een ingenieursdiploma.”
Compassie
Roberts spreekt bedachtzaam en met zachte stem, zijn ogen twinkelen. “I love philosophy”, zegt hij. “Het is de belangrijkste van alle menselijke disciplines.” De leden van de Singularity-beweging hebben echter weinig op met academisme. Als favoriete denker noemt Roberts de Amerikaanse ‘business-filosoof’ Jim Rohn (1930 – 2009), auteur van het boek ‘The Art of Exceptional Living’.
Is er bij Singularitarians ruimte voor ethische vraagstukken? Hoe wordt voorkomen dat ethiek voortdurend achter de pijlsnelle, ontwrichtende technologische ontwikkelingen aanholt, en er uiteindelijk alleen nog maar voor de sier is?
“Technologie brengt helaas niet automatisch een ethiek met zich mee”, verzucht Roberts. “Zoals altijd in de geschiedenis moeten we het hebben van moedige mensen die onze mentaliteit veranderen met hun ethische en morele opvattingen. Gandhi bijvoorbeeld, of Martin Luther King. Technologie geeft ons de macht om dingen te doen die nu nog onvoorstelbaar zijn, maar het maakt ons niet noodzakelijkerwijs goed. Sterker nog: het is waarschijnlijk veel makkelijker om slecht te zijn als je over een dergelijke macht beschikt.”
Roberts glimlacht. “Toch ben ik optimistisch gestemd. Naast het menselijk instinct tot zelfbehoud en het menselijk kudde-instinct bestaat er namelijk iets wat ik het derde ding noem: compassie, het besef dat het beter is om anderen te helpen dan om anderen pijn te doen.”
De missie van de Singularity University wordt in ieder geval niet ontwricht: “Wij willen de krachtigste en meest basale exponentiële machine op aarde veranderen. Het menselijk brein.”