Eerder gepubliceerd op 31 maart in Trouw:
Versie 4 van ChatGPT is een feit. Even een paar slordige notities op een bierviltje inscannen, en hopla, in luttele seconden maakt deze met kunstmatige intelligentie (ki) verrijkte chatbot er een functionerende website van. Moeten programmeurs en webdesigners voor hun baan vrezen?
De afgelopen maanden zijn er tal van voorspellingen gedaan over hoe ki als ChatGPT (van het Amerikaanse bedrijf OpenAI), Bard (Google) en Sydney (Microsoft) onze levens gaan veranderen: van fraude bij schoolexamens tot massawerkloosheid en het ultieme doemscenario van robots die de macht grijpen.
Onder al deze angsten schuilt telkens dezelfde vraag: maakt de mens zichzelf overbodig? Misschien is het nodig om eerst een stap terug te zetten. Kan kunstmatige intelligentie eigenlijk wel bestaan, in de zin van een intelligentie die is losgekoppeld van de menselijke ervaring?
“Zonder menselijke input zou ChatGPT evident niet functioneren,” verklaart Gert-Jan van der Heiden, hoogleraar metafysica aan de Radboud Universiteit in Nijmegen. “De chatbot baseert zich op een gigantische database, bestaande uit teksten die eerder door mensen zijn geschreven. In Plato’s Phaedrus zegt Socrates dat een sluwe retoricus mensen kan misleiden door twee zaken die sterk op elkaar lijken aan elkaar te praten. Iets dergelijks gebeurt hier ook, want ChatGPT produceert op basis van algoritmen en kansberekening overtuigende nieuwe teksten die lijken op mensenwerk. Maar het is en blijft een illusie.”
“Maar wat is er op tegen om die illusie te benutten?” reageert Bas Haring, filosoof en hoogleraar publiek begrip van de wetenschap aan de Universiteit Leiden. “Als ik een lastige brief moet schrijven kan ik ChatGPT een opzetje laten maken dat ik later zelf redigeer. Dat is dan weliswaar een imitatie van eerder geschreven brieven, maar werkt leren niet altijd zo, met een proces van nabootsing?”
Van der Heiden: “Ik sluit niet uit dat ChatGPT een functie kan krijgen vergelijkbaar met een schaakcomputer: een handig hulpmiddel waarmee je het schrijven kan trainen. Maar het kan ons ook op een dwaalspoor zetten. Zoals je een schaakcomputer kan gebruiken om vals te spelen als je online schaakt tegen menselijke tegenstanders, zo kan je ChatGPT inzetten om jezelf als een betere schrijver voor te doen dan je bent. En wat leert een student als een robot het zware werk opknapt?”
Haring: “Volgens mij kan ki in het onderwijs juist een positieve rol spelen, als we ons maar over die angst voor robots heen kunnen zetten. Basisschoolleraren hebben bijvoorbeeld nauwelijks tijd om kwalitatieve een-op-een-gesprekken met hun leerlingen te voeren, en voor zulke dialogen is een chatbot bij uitstek geschikt.”
Van der Heiden: “Maar zo’n robot gebruikt taal toch volledig anders dan een mens? Neem bijvoorbeeld de taalvondsten van Kees van Kooten en Wim de Bie. ChatGPT kan misschien wel nieuwe woorden genereren, maar met een woord als ‘doemdenken’ hebben Koot en Bie de geest van een tijdperk gevat. Dat veronderstelt een zeker begrip van wat filosoof Edmund Husserl de ‘leefwereld’ noemt. Alleen in die leefwereld kunnen mensen betekenisvol over de werkelijkheid spreken en schrijven. ChatGPT is helemaal niet tot een dergelijke reflectie in staat, dat bevindt zich in de ‘gemathematiseerde wereld’, waar de werkelijkheid met wiskundige modellen wordt beschreven. Op het moment dat een tijdperk van doemdenkers zich voor het eerst voordoet bestaat er helemaal nog geen data waar ChatGPT zo’n karakterisering op kan baseren.”
Haring: “Als ChatGPT nieuwe woorden verzint, zal dat natuurlijk op een andere manier gebeuren dan bij Koot en Bie. Je kan ChatGPT vragen om honderd nieuwe woorden te bedenken, en dan zijn er waarschijnlijk negenennegentig volslagen oninteressant. Maar het honderdste woord is misschien zo leuk dat mensen het zich net zozeer toe-eigenen als ‘doemdenken’. Dat is dan gebaseerd op willekeur, maar zo werkt ChatGPT nu eenmaal. Het ding doet supersnelle statistische tekstanalyse, zonder enig benul te hebben waar het over spreekt. ChatGPT heeft geen drijfveren, reflecteert niet op het bestaan, vindt niets van de wereld of van zichzelf.”
Van der Heiden: “Dáár zit dat verschil met menselijke intelligentie. Zelfs als je de neurale netwerken van een menselijk brein compleet nabouwt met computers, dan nóg mis je de crux van dat menselijke bewustzijn. Om te begrijpen hoe je betekenis genereert en interpreteert, volstaat het niet om de menselijke intelligentie louter als dataverwerkingsmachine te beschouwen. Die kloof tussen dataverwerking en begrip van betekenis zal je ergens moeten dichten, en dat is – om met de Australische bewustzijnsfilosoof David Chalmers te spreken – een hard problem.”
Haring: “Zo moeilijk is dat niet, wat mij betreft zit die kloof bij het hebben van een lichaam. Het lichaam is bepalend voor de manier waarop we denken, je kent betekenis toe aan zaken omdat je die zelf met je lijf ervaren hebt. Wij mensen kunnen ons niet voorstellen hoe het is om de echolocatie van een vleermuis te hebben, om het beroemde gedachtenexperiment van Thomas Nagel aan te halen, en zo zal ChatGPT zich nooit kunnen voorstellen hoe het is om bijvoorbeeld melk te drinken. En dat zal het ook nooit snappen, hoeveel statistiek en rekenkracht je er ook tegenaan gooit, want ChatGPT mist de specifieke lichamelijke ervaring van het drinken.’”
Van der Heiden: “Vanwege die kloof tussen dataverwerking en betekenisgeving zullen bepaalde beroepen in de toekomst door ki worden overgenomen, andere weer niet. Hoe dan ook moeten we onze leefwereld anders inrichten. Voor mensen die hun baan verliezen, zal dat verschrikkelijk zwaar zijn.”
Haring: “Ik moet denken aan de uitvinding van de graafmachine. Die groef vele malen sneller dan één mens met een schop, dus mensen vreesden massale werkloosheid. Maar wat bleek? Er waren ineens veel meer timmerlui nodig, om al dat snelle graafwerk bij te kunnen benen!”
Van der Heijden: “Maar de graafmachine hulde zich niet in de gedaante van een mens, zoals ChatGPT doet.”
Haring: “Klopt, dat is een essentieel verschil. Maar bij de opmars van ki zal net zo goed vraag ontstaan naar andere beroepen. Veertig jaar geleden kon niemand voorspellen dat mensen geld zouden verdienen door zichzelf te filmen tijdens het gamen, en toch is dat inmiddels een baan. Mogelijk nachtmerriescenario is dat miljoenen mensen zo intensief met ChatGPT gaan werken, dat ChatGPT enkel nog zijn zelfgeproduceerde teksten als bron overhoudt. Dan belanden we in een rare loop. Dan stopt de mensheid met het bedenken van nieuwe ideeën en kletsen we alleen nog maar ChatGPT na. Net zoals ik me kan voorstellen dat hele generaties straks het koken verleren en alleen nog maar online maaltijden bestellen, is het ook voorstelbaar dat volgende generaties ophouden met denken.”
Toch ziet Haring de toekomst met vertrouwen tegemoet. “Stel dat al het vervelende denkwerk voortaan wordt gedaan door robots en je meer tijd overhoudt om met vrienden in de kroeg te zitten – zoiets kan je toch moeilijk een doemscenario noemen?”
Hoe denkt filosoof Noam Chomsky over ChatGPT?
“ChatGPT vertoont in zijn ‘onintelligentie’ zoiets als de banaliteit van het kwaad, via plagiaat, apathie, omzeiling van de rede. Het vat standaardargumenten uit de literatuur samen met een soort autocomplete-functie, weigert standpunten in te nemen, pleit niet alleen voor onwetendheid maar zelfs voor gebrek aan intelligentie en voert ter verdediging aan dat het louter bevelen opvolgt, zodat alle verantwoordelijkheid op de makers wordt afgeschoven.” (New York Times, 8 maart 2023)
Hoe denkt ChatGPT over Noam Chomsky?
“Als AI-model heb ik geen persoonlijke mening over individuen, omdat ik ontworpen ben om objectief en neutraal te blijven. Maar ik kan wel de bekende feiten en informatie geven over Noam Chomsky.”