Eerder gepubliceerd op 2 november in Trouw:
SingularityU Benelux, dependance van een denktank uit Silicon Valley, opende vijf jaar geleden haar deuren. Het debat over ethisch verantwoorde techniek stond destijds hoog op de agenda. CEO Diederick Croese blikt terug.
Maurice van Turnhout
Exponentiële technologie kan de wereld verbeteren. Dat idee vormde de basis van SingularityU NL, opgericht door Diederick Croese (41). Vijf jaar geleden stond hij met collega-ondernemers Yuri van Geest, Jim Stolze en Maarten den Braber aan de wieg van het bedrijf. Daarmee wilden zij start-ups creëren en organisaties leren om toekomstgericht te denken en handelen.
“Rond 2045 streeft het computerbrein het menselijke brein in intelligentie voorbij”, zegt Croese. “Dat zegt Ray Kurzweil, de oprichter van ons Amerikaanse moederbedrijf. Wat ons te wachten staat met zoveel nieuwe technologische mogelijkheden? Onmogelijk te zeggen, maar we moeten ons er wel op voorbereiden.”
Het tijdperk dat volgens de Amerikaanse uitvinder en futurist Kurzweil zal aanbreken als het computerbrein ons voorbijstreeft, noemt hij ‘singularity’. Rond die term is een beweging ontstaan die gelooft dat de snelle ontwikkeling van technologie de wereld kan verbeteren. SingularityU – een Europese dependance van Kurzweils bedrijf – organiseerde de afgelopen jaren competities om onder andere de gevolgen van klimaatverandering tegen te gaan. Deze ‘Global Impact Challenges’ werden gewonnen door een ontwerp voor een elektrische zonneauto en een productierobot voor kweekvlees. Ook stond er een breed publiek debat op de agenda over techniek en het ‘goede leven’.
“Juist nu techniek zich razendsnel ontwikkelt, moeten we méér tijd nemen om te doordenken welke grondwaarden we ermee willen realiseren”, zegt Croese. Hij leunt voorover op een stoel in de laptopvrije zone van het Amsterdamse Volkshotel. “Techniek heeft compassie nodig, zowel bij het ontwerp als het gebruik ervan. Idealiter vergroot het de menselijke waardigheid en het menselijk potentieel.”
Uber heeft met één app de taxi-industrie ontwricht. Dergelijke ‘disruptie’ gaat exponentieel snel en geeft de maat van het bestaan aan. Dat is een kernthema van het Singularity-verhaal. Tegelijkertijd zegt u dat er extra tijd nodig is voor reflectie. Is dat niet met elkaar in tegenspraak?
“Bij SingularityU zien we techniek in ieder geval niet als quick fix. Het is een middel, geen doel op zich. Je moet altijd goed opletten wat de mogelijke schade van nieuwe techniek is. In 1939 voorzag Einstein al dat door kernsplitsing energie kon worden opgewekt, maar ook een allesvernietigend wapen kon worden gebouwd. Social media, dat is ook zo’n tweezijdig zwaard. Wanneer technologieën als kunstmatige intelligentie de komende jaren krachtiger worden, is het belangrijk dat we collectief doorgronden waarop we die techniek moeten richten.”
Hoe zou u dat collectief mobiliseren?
“Door onderwijs. Daarmee kun je mensen in bredere lagen van de bevolking de kennis aanreiken om mee te praten over techniek. Sommige mensen geloven dat de wereld door techniek automatisch beter wordt. Ik niet. Ik ben een fan van het European Space Agency, dat in de ruimte onderzoek doet naar voedsel, energie, veiligheid en wonen. Daar plukken we hier op aarde de vruchten van. Ruimtetoerisme, daar heb je misschien minder aan.
In de afgelopen vijf jaar lieten overheden hun tanden zien aan technologiereuzen, bijvoorbeeld met wetsvoorstellen om monopolies op te knippen. Het thema disruptie kwam minder centraal te staan in jullie conferenties. Hebben die twee dingen met elkaar te maken?
“Op de achtergrond blijven de curves van technologisch-wetenschappelijke ontwikkelingen elkaar exponentieel opvolgen. Die curves worden steeds korter, met enorme maatschappelijke en culturele gevolgen. Maar we willen mensen geen angst aanjagen. Angst is een slechte raadgever, het beïnvloedt je denken en handelen op negatieve wijze. Daarom snijden we met SingularityU ook maatschappelijke thema’s aan. We nodigden bijvoorbeeld Rutger Bregman uit om over het basisinkomen te spreken. Disruptie maakt slachtoffers, zoals de taxichauffeur wiens branche vermorzeld wordt door Uber. Het basisinkomen kan een mogelijke techniek zijn om zulke mensen te beschermen.”
Met een basisinkomen is misschien een deel van de sociaaleconomische kwestie opgelost, maar vallen verlies van identiteit en waardigheid daarmee te compenseren?
“Waarschijnlijk niet. Daarin is onderwijs ook weer belangrijk. Ook om te voorkomen dat zo’n taxichauffeur zich cultureel verraden voelt, want dat veroorzaakt deels de politieke onrust die je nu wereldwijd in democratieën ziet. Democratie betekent niet dat je de belangen van de meerderheid blind volgt, maar dat je iedereen een stem geeft. Anders raken individuen beschadigd.”
Singularity biedt nu cursusprogramma’s aan voor ’toekomstige leiders’ uit overheid en zakenleven. In hoeverre gaan die programma’s over het verrijken van nieuwe technieken met compassie?
“We stimuleren deelnemers om hun producten en oplossingen te richten op duurzame ontwikkeling, op impacting people positively. Daarnaast hanteren we bepaalde gesprekstechnieken: luisteren, een beginner’s mind hebben. Zo ontwikkelen deelnemers samen een strategie om een doel te bereiken dat ze beogen voor hun organisatie. Daarbij is die nadruk op ethiek vooral mijn persoonlijke agenda. Het speelt niet een nadrukkelijke rol in onze programma’s. Wel merk ik dat deelnemers het interessant vinden om daarover te discussiëren. Het komt vaak voorbij in de vragenronde na presentaties over biotechnologie, kunstmatige intelligentie en quantum computing. Maar vooral als persoonlijke interesse. Ze moeten het namelijk ook praktisch inzetten voor hun organisatie, die nu eenmaal bepaalde behoeften heeft.”
“In 2019 bracht SingularityU Benelux energiebedrijven bij elkaar om in Brussel te praten over een versnelde energietransitie. Helaas zonder de uitkomst die we voor ogen hadden. In onze programma’s spreken we altijd over manieren om tot een duurzame economie te komen. Volgens mij is het voor iedereen helder dat we actie moeten ondernemen om klimaatverandering tegen te gaan. Mensen willen graag iets doen, maar vinden het moeilijk om de handen ineen te slaan.”
Hoe komt dat?
“Misschien is het een prisoner’s dilemma: organisaties willen niet aan het kortste eind trekken en durven daarom niet het voortouw te nemen in samenwerkingen die voor iedereen veel beter zouden zijn. In zekere zin leggen we de incentives in onze samenleving verkeerd. Voor jonge mensen is het verleidelijk om topfuncties te ambiëren bij bekende bedrijven als Facebook, functies met een carrièrepad, die niet per se een maatschappelijk belang dienen. En dat is zonde. Want jonge mensen snakken naar mogelijkheden om positieve impact te hebben, dat zien we in onze jongerenprogramma’s.”
“Ik wil natuurlijk ook graag een positieve bijdrage leveren. Maar ik merk dat ik de complexiteit en verwevenheid van het bestaan niet kan overzien. Ik schiet niet alleen in processing power tekort, maar ook in tijd. Volgens mij lijden meer mensen daaronder. Dat het allemaal heel véél is. Veel informatie. Alle in elkaar grijpende problematieken, alle in elkaar grijpende mogelijkheden.”
Croese droomt van het oprichten van ‘sociaal, emotioneel, ethisch onderwijs’ voor jongeren en volwassenen. “Meer dan ooit hebben we te kampen met een overvloed aan informatie, dus je moet mensen leren om daar gericht mee om te gaan. Vergelijk het met bewust eten: je moet informatie leren wassen, zoals je groente en fruit wast. En wat betekent het om mens te zijn, om in een gemeenschap te leven? Hoe kan je kennis en macht decentraliseren? Hoe neem je samen besluiten in een deliberatieve democratie?”
Met SingularityU wilde hij wereldwijd een dialoog opstarten over techniek en het goede leven. Dat is hem onvoldoende gelukt, zegt hij. “Ik kreeg het niet voor elkaar om het commercieel rendabel te maken. Het klinkt plat, maar we moesten ook kaarten verkopen voor onze events. In het vervolg wil ik meer tijd en aandacht hebben voor die ethische kant. Dat zal niet bij SingularityU zijn, maar met een nieuw initiatief.”