SXSW2024

Door Michiel Buiitelaar

Ik las het uitstekende verslag van Gerson Veenstra over 'How generative AI will transform media and democracy', een interessante sessie waarin de gezwollen titel niet werd waargemaakt. Ik wil enkele aanvullende gedachten delen over één, het business model, en twee, bubbels. Dit alles gaat over Curio, die hun nieuwe, voice-oriented, AI-powered news app Rio aanprezen.

Ten eerste, het business model: daar werd hoegenaamd geen aandacht aan besteed. Curio claimt deals te hebben met gerenommeerde uitgevers – dat zal niet gelogen zijn, maar of die uitgevers daar beter van worden, en of ze percipiëren er beter van te worden, dat werd niet onderbouwd. Deals hebben zegt op zich weinig. Ik heb bij mediabedrijven gewerkt: die sector is bovenmodaal emotioneel-conservatief, ik vraag me af welke deals – met welke geldstromen – Curio dan heeft, op welke voorwaarden, voor hoe lang; en, of die mediabedrijven zelf (zullen) kunnen wat Curio gaat doen (zie DPG nu?). Ik ben sceptisch. Net als Gerson dacht ik aan Blendle: niet hetzelfde als Curio, maar er zijn overeenkomsten. Er is een reusachtig dik en nog aanzwellend boek “Dingen die Michiel Buitelaar niet begrijpt of niet voorzag”, alsmede een flinterdun schriftje “De zeldzame keren dat Michiel Buitelaar gelijk kreeg”. In dat laatste boekje staat iets als: Blendle, dat wordt niks. Ik werkte bij een uitgever en zag geen gezond business model in Blendle. Ik heb ambtshalve zelfs dingen afgeremd, beken ik, omdat het voor bestaande uitgevers niet goed uit pakte. Menigeen was enthousiast toen, vooral omdat een opgewekt mannetje veel zendtijd kreeg om het aan te prijzen. Maar de vlieger ging niet op. Ik proef hier en nu bij SXSW enthousiasme, over Curio, maar hef een waarschuwend vingertje op, vanwege rationale zakelijke afwegingen en denkbare emoties, van andere belanghebbenden, die van invloed zijn. Laten we eens zien wat het echt wordt. Geen shoe-in lijkt mij.

Ten tweede, iets over bubbels. Het aggregeren van nieuws en verdieping uit al die bronnen klinkt goed maar er zitten ook potentiële minpunten aan. Het kan – ik denk: zal – tot bubbels leiden, tot het verblijf van de Curio gebruiker in een micro-universum van soortgelijk gekleurde berichten. Dat is een reëel gevaar, als je denkt dat diverse en objectieve journalistiek democratie faciliteert. Overigens denk ik dat dat risico regelmatig aangestipt wordt, als zijnde modern – in de contekst van social media met name – maar echt nieuw is het niet. In het verzuilde tijdperk, waarin ik nog net geboren ben, zat menigeen ook in een bubble, namelijk een katholieke, protestante, of socialistische, enzovoorts. Van krant tot voetbalclub, van kledingwinkel tot school: die zaten in zo’n bubbel toen. Ik vermoed dat Curio dat op een andere manier kan voeden – als ik dat bijvoorbeeld toesta, neem ik vooral liberale, laat-kapitalistisch gekleurde berichten tot me (disclosure: om dat in te perken, althans dat probeer ik, consumeer ik regelmatig, therapeutisch, een portie Wierd Duk, Nigel Farage, Leon de Winter, maar ook De Correspondent, Peter de Waard, of Asha ten Broeke, om mijn wereldbeeld te tarten – knabbelen aan de uiteinden!). Ik betwijfel of Corio dat faciliteert.

Ik wijs ook op de stokoude Nicholas Negroponte, die van de papyrusrol Being Digital. Die beweerde dat een krant lezen ook een serendipische activiteit is, dat het vermakelijk is om dingen tegen te komen die je niet zoekt. Dat dat ook de waarde van een klassieke, niet-gepersonaliseerde krant is: dat totaal oninteressante berichten over de families Hazes, Roelvink of Taghi, dan wel de uitslagen van fierljeppen, klootschieten of poepveulen slingeren ergens in een donkere uithoek. Dat heeft ook een functie, voor menigeen, beweerde hij. Dat is de charme van bladeren in een krant of magazine, of zappen op televisie: het toeval. Dat roept de vraag op of personalisatie voorspelbaar en saai is. Wat misschien (?) onderstreept wordt door het feit dat personalisatie waar mensen zelf iets voor moeten doen – parameters instellen en zo – zelden werkt. Ik heb dat meermaals zien stranden. Toegegeven, in het geval van Curio doet de AI dat, maar vraagtekens zijn gepast. Allemaal best, the proof is in the pudding: laat het gebeuren, het is interessant! Kom maar op, Curio?

Door Michiel Buitelaar

Dit gaat over de sessie 'Scaling safely: Waymo’s roadmap for a multi-city AV service', een interview met de CEO van Waymo (een dochter van Alphabet), Tekedra Mawakana. Dat is een verstandig, rustig type, ver van het Silicon Valley cliché. Waymo is al bijna 10 jaar geleden met autonomous vehicles (AV) begonnen, en heeft zich na overpeinzingen gericht op het maken en vermarkten van de bestuurder, niet op de auto, dat laatste laten ze aan 5 andere partijen over. Ik zou de hele aanpak samen vatten als: heel erg voorzichtig. 

Mawakana zelf sprak over een granma approach. Het gaat ze er om zelf te leren, regelgevers op te voeden, klanten vertrouwd te maken, belanghebbenden – gemeente, politie etc – te overtuigen, enzovoorts. Ze proberen ook Uber drivers die – terecht – bang zijn hun baan te verliezen in het proces te betrekken. Een rustige, langzame, verantwoorde opbouw van het fenomeen, niks geen move fast and break things of dat soort praatjes met ballen.

Waymo’s primaire claim is: veiligheid. In de USA komen nu ca 40 duizend mensen om het leven, per jaar, in autogerelateerde ongelukken; wereldwijd is dat ca 3.5 miljoen. Schokkende cijfers trouwens. Mijn persoonlijke gok (zij liet zich ook hier over heel geserreerd uit): als men morgen overgaat op massale inzet van AVs dan halveren die doden cijfers, of zoiets. Desondanks gebeurt dat niet, omdat één dode door een – meestal verklaarbare – miskleun van een AV meer heisa veroorzaakt dan honderd doden door slechte, domme of dronken menselijke chauffeurs. Apart is dat, weer een voorbeeld van de lat die voor machines hoger gelegd wordt dan voor mensen, een gangbaar verschijnsel in n rondom AI, valt mij op: LLMs hallicuneren inderdaad wel aan, maar mensen toch vaker?

Maar goed. Zij sprak niet zo cru over aantallen doden maar maakte duidelijk dat het veel kleiner maken van die 40 duizend een troefkaart van Waymo is. Dat, en convenience (inclusief het kiezen van je eigen muziek in de auto!).

Waymo is nu min of meer actief in delen van 3 Amerikaanse steden, en breidt langzaam uit. Europa staat niet op hun kaart. Ze hebben een lange adem. Ze deed geen voorspellingen (zoals de zelfbenoemde visionair Musk deed, die in 2015 aankondigde dat binnen 2-3 jaar zijn AVs rond zouden zoemen….). Een staaltje underpromise, (potentially) overdeliver was dit. Geen testosteronpraatje. Interessant was ook de suggestie dat als die mortaliteit inderdaad zo veel lager uit pakt dan die van ‘gewone’ auto’s, verzekeraars druk zullen gaan uitoefenen op menselijke automobilisten.

Dit was interessant. Het gaat nog wel even duren maar ik ben er nu nog meer van overtuigd dat het gaat gebeuren. En deze rustige aanpak lijkt me krachtig..

Documentaires, ook

Ik heb net twee documentaires gezien: Lions of Mesopotamia, en STAX: Soulsville, USA. Die over Mesopotamia (had ook op Iran kunnen slaan, zal politieke lading hebben dat die titel aan het niet-bevriende buurland gewijd wordt) gaat over de belevenissen van het Irakese voetbalelftal in het Saddam Hussein-tijdperk. Beetje knip- en plakwerk maar aandoenlijk en charmant triomfantelijk. Een David die menige Goliath versloeg, ondanks ontberingen in hun land en erbarmelijke voorbereiding en faciliteiten. Wat golven van emoties in dat verscheurde land tot stand bracht. L. Paul Bremer III, gemankeerd leider van de naoorlogse, post-Saddam Coalition Provisional Authority komt ook nog aan het woord, duidelijk vol onbegrip (lees over die rampzalige periode het boek The Prince of the marshes: and other occupational hazards, erg goed). Fijne docu die maar ten dele over voetbal gaat.

Die over STAX gaat over het gelijknamige, succesvolle en invloedrijke, ‘zwarte’ platen label uit Memphis. Deel 1 en 2 werden vandaag vertoond, en komen er nog meer, bij HBO. Deze documentaire gaat over de opkomst van onder andere Otis Redding, Carla Thomas, Booker T. Jones en Sam & Dave. Maar, het gaat eigenlijk over zwarte emancipatie via muziek, lijkt mij. Over hoe een wit zuidelijk echtpaar een studio opzet, waar lokale zwarte artiesten (eindelijk) de ruimte krijgen, met bijzondere innovaties komen en een breed, ook wit publiek veroveren. Martin Luther King komt nog voorbij met een deel van een charismatische toespraak. De beelden van beduusde Californische hippies, overdonderd door Otis Redding, zijn kostelijk; evenals die van de trip van STAX artiesten in de UK, een andere planeet, voor beide partijen. Ontroerend en fraai. Persoonlijke tip (van een muzikale Neanderthaler, ik): bezoek die studio eens, en rijd dan meteen door naar de Country and Western Music Hall of Fame, alwaar een werkelijk schitterend, historisch museum zich bevindt, en dan begrijp je waar soul, gospel, blues en rock & roll vandaan komen.

Door Michiel Buitelaar

Ik bezocht 'Is 2024 the year the super apps will take off in the US'? Vantevoren dacht ik NEE, daarin gesterkt door wat Musk – een man die een derdejaars stage ‘marketing’ van een HBO instelling niet met goed gevolg door zou komen – er over wensdenkt. Even tussendoor, wat mij opvalt: wie kameraadschappelijk over ‘Elon’ spreekt percipieert Musks woorden bijna altijd vanuit een roze bril, zoals een katholiek die, als de bisschop een scheet laat, zegt “o wat ruikt het hier lekker, net gebakken lever met ui en spekjes”. Dat werk, die bias, die fans. Ik zeg gewoon ‘Musk’. Musk droomt van een super app, die van alles doet, a la WeChat.

Maar daar ging het niet over! De panelisten herdefinieerden de vraagstelling meteen bij de start als: veelomvattende thematische apps, wordt dat wat? Want, WeChat is onder unieke culturele, commerciële en regelgevende omstandigheden geboren; in een toen nogal lege markt. Dat gaat in USA of Europa niet gebeuren, observeerden ze. Er zaten twee knakkers in het panel die financiële apps exploiteren; en een van Uber. Die laatste vond ik veruit het meest overtuigend, en genuanceerd; hij had het over allerhande functies inzake mobiliteit. Daar lijkt mij een zekere logica in te zitten. Hij had het over uitbouwen rondom dat thema, doordacht uitproberen en zo, veelal maar niet altijd via partnerships. Hij zei dat de awareness van Uber-klanten van die aanpalende functionaliteiten zelfs jaren na introductie niet zo hoog is; maar ook dat als ze ze eenmaal gebruiken, ze dat veelal blijven doen (Uber Eats bijvoorbeeld, en de pakket bezorging). Hij noemde diverse andere voorbeelden. Een stokpaardje van mij werd tot mijn vreugde aangehaald: het hoofd van vele consumenten zit vol, die houden vaak vast aan wat ze hebben en kennen. Je krijgt er bij vele (oude?) mensen niet zo veel nieuws meer tussen – iets dat marketeers onderschatten.

Het verhaal van de twee andere apps, rondom het thema ‘geld’ – ze claimden niet hetzelfde maar wel gebieden met overlap – vond ik minder overtuigend; bovendien hebben ze veel meer concurrentie, van banken en credit cards bijvoorbeeld. Ik denk dat Uber een betere positie heeft om uit te breiden in mobiliteit, qua gepercipieerde logica; of Facebook, in de financiële dimensie, wellicht, maar meer vanwege massa dan vanwege functionele logica. In uitbreiding van functionaliteit moet een logica in zitten die het brein van de klant raakt en daar blijft hangen. Ik heb littekens op mijn zakelijke ziel van brand extensions die mediamerken bij voormalige werkgevers van me nastreefden: fata morgana’s. De twee financieel gericht types kwamen ook nog met verhalen over geld uitgeven, ontvangen, sparen, credit score opbouwen, beleggingskeuzes en nog meer, die van de klant vereisen dat hij/zij dingen instelt. Ik denk dat maar een paar procent van de mensen zich daar aan zet (ook dat heb ik in de praktijk ervaren).

We kunnen geen panel hebben dat niet over AI spreekt, zei de voorzitter. Zo is het. Ook daarover zei de Uber meneer zinnige dingen, onder andere over personalisatie. Dat ging dan over gepersonaliseerde opbouw van keuzemenu’s, en selectie van relevante aanbevelingen en zo. Lijkt mij geen geavanceerde AI te vereisen maar wel prettig voor de klant en gebruiksverhogend. Ik sluit af met wat deze man als zijn belangrijkste missie beschouwt: er voor zorgen dat mensen geen eigen auto kopen. Zo is het.

Dit was onderhoudend en zette tot denken aan. Ik ben Musks super app alweer vergeten.

Moeten machines mensen na-apen en evenaren?

Door Michiel Buitelaar

Ik ging naar de sessie The Path to Conscious AI. Ik kan daar niet veel over zeggen anders dan op meta-niveau, want ik worstel met het concept en kon de sprekerds maar ten dele volgen. Ik zal mijn probleem delen. De kern daar van is dat ik – nu maar ook vaker – me afvraag of het nuttig is om AI te vergelijken met mensen of die te duiden, te meten zelfs, in termen van menselijke begrippen. Ik denk aan wat de in kleine kring wereldberoemde wiskundige Edsger Dijkstra ooit hardop vroeg: “kan een duikboot zwemmen?”. Dat vind ik een goede, ontwortelende vraag, die mij al jaren doet twijfelen aan exercities zoals die in dit panel. Menselijke metaforen geprojecteerd op machines: mwah, what’s the point? De panelisten waren slim en interessant, ik wil ze niet afkatten, maar ze konden om te beginnen ‘bewustzijn’ niet echt definiëren, en de rest van de conversatie convergeerde ook nauwelijks.

Ik vraag me af of we wat opschieten met een eventueel antwoord op deze vraag, als dat er al komt. Wellicht ben ik te instrumenteel. Maar ik ga nog een stap verder: worden AI systemen niet te vaak of onnodig of onjuist vergeleken met mensen, en dan ook nog op onzorgvuldige, soms emotionele wijze? Vertonen alle mensen dan wel, vaak of altijd, een vorm van bewustzijn? Vraag ik me af. Zo ook als mensen LLMs verwijten te hallucineren: doet menig mens dat niet ook? En als een zelfrijdende auto iemand dood rijdt (wat zeldzaam is) dan is er enorme heisa, terwijl er dagelijks 3,700 doden zijn door menselijke auto-ongelukken (dixit Perplexity). Er wordt met rare maten gemeten, en metaforen helpen dikwijls niet.

Als een AI iets zinnigs, leuks of creatiefs doet, who cares whether it is considered conscious? “It does not matter if a cat is black or white so long as it catches mice” zei Deng Xiaoping.

Tot slot nog deze, van Marshall McLuhan, een oude techno mysticus: het concept de rearview mirror. Mensen beleven wat ze nu zien vaak aan de hand van een blik in het verleden, die in de achteruitkijkspiegel. Zo zien mensen autonomous vehicles als een auto zonder stuur of mens. En een auto – toentertijd – als een snel, mechanisch paard. Die kloppen beide niet, of althans, ze beperken het denken. Het menselijk brein met een computer vergelijken, dat werkt ook niet (werd in het panel geobserveerd). Maar deze en andere metaforen blijven menig gesprek domineren. Ik probeer er verre van te blijven. Dit panel hielp daarmee.