Moeten machines mensen na-apen en evenaren?
Door Michiel Buitelaar
Ik ging naar de sessie The Path to Conscious AI. Ik kan daar niet veel over zeggen anders dan op meta-niveau, want ik worstel met het concept en kon de sprekerds maar ten dele volgen. Ik zal mijn probleem delen. De kern daar van is dat ik – nu maar ook vaker – me afvraag of het nuttig is om AI te vergelijken met mensen of die te duiden, te meten zelfs, in termen van menselijke begrippen. Ik denk aan wat de in kleine kring wereldberoemde wiskundige Edsger Dijkstra ooit hardop vroeg: “kan een duikboot zwemmen?”. Dat vind ik een goede, ontwortelende vraag, die mij al jaren doet twijfelen aan exercities zoals die in dit panel. Menselijke metaforen geprojecteerd op machines: mwah, what’s the point? De panelisten waren slim en interessant, ik wil ze niet afkatten, maar ze konden om te beginnen ‘bewustzijn’ niet echt definiëren, en de rest van de conversatie convergeerde ook nauwelijks.
Ik vraag me af of we wat opschieten met een eventueel antwoord op deze vraag, als dat er al komt. Wellicht ben ik te instrumenteel. Maar ik ga nog een stap verder: worden AI systemen niet te vaak of onnodig of onjuist vergeleken met mensen, en dan ook nog op onzorgvuldige, soms emotionele wijze? Vertonen alle mensen dan wel, vaak of altijd, een vorm van bewustzijn? Vraag ik me af. Zo ook als mensen LLMs verwijten te hallucineren: doet menig mens dat niet ook? En als een zelfrijdende auto iemand dood rijdt (wat zeldzaam is) dan is er enorme heisa, terwijl er dagelijks 3,700 doden zijn door menselijke auto-ongelukken (dixit Perplexity). Er wordt met rare maten gemeten, en metaforen helpen dikwijls niet.
Als een AI iets zinnigs, leuks of creatiefs doet, who cares whether it is considered conscious? “It does not matter if a cat is black or white so long as it catches mice” zei Deng Xiaoping.
Tot slot nog deze, van Marshall McLuhan, een oude techno mysticus: het concept de rearview mirror. Mensen beleven wat ze nu zien vaak aan de hand van een blik in het verleden, die in de achteruitkijkspiegel. Zo zien mensen autonomous vehicles als een auto zonder stuur of mens. En een auto – toentertijd – als een snel, mechanisch paard. Die kloppen beide niet, of althans, ze beperken het denken. Het menselijk brein met een computer vergelijken, dat werkt ook niet (werd in het panel geobserveerd). Maar deze en andere metaforen blijven menig gesprek domineren. Ik probeer er verre van te blijven. Dit panel hielp daarmee.