SXSW2024

(Door Michiel Berger)

Een van de aardigste praatjes op SXSW was voor mij die van Josh Klein, CEO van Indigometrics, dat zich richt op meetbaar maken van processen op het werk. De kern van zijn verhaal is: Generatieve AI is een heel ander gereedschap dan wat we kennen, en het is belangrijk om juist dat nieuwe te ontdekken en in te zetten. Hoe, dat legt hij uit.

Orthogonaal kijken

Orthogonaal betekent loodrecht. Als je AI gaat bekijken vanuit de processen die je kent zal je ontdekken dat je die kan verbeteren, versnellen, efficiënter kan maken. Niks mis mee, maar met generatieve AI is het mogelijk heel nieuwe werkwijzen te ontwikkelen. Dat is de kern van het orthogonale kijken: bekijk problemen en oplossingen niet vanuit de rechte lijn benadering die je gewend bent, maar gebruik de creatieve mogelijkheden. Daar zitten een aantal belangrijke kenmerken aan:

•  Generatieve AI is elke keer anders, in tegenstelling tot traditionele processen waarbij de uitvoer volledig afhangt van de invoer. Dit betekent dat het meer een verkenning of conversatie is en je soms meerdere malen moet proberen tot je het juiste resultaat krijgt.
• Een chatbot of basis van generatieve AI voelt soms erg menselijk. Dit is vaak goed maar soms ook gevaarlijk. Het voorbeeld van Air Canada kwam ter sprake waarbij de AI een product verzon, en een voorbeeld over een website over eetstoornissen waarbij de nieuwe chatbot iemand advies gaf om op dieet te gaan. Als het klinkt als een mens, gelooft men dit eerder. Dit is dus een risico en je moet goed en grondig testen om dit soort schade te voorkomen; zie ook het punt hier boven.
• Een interne kennisbank kan dankzij AI veel sneller en sterker leren dan vroeger, door juist de interne experts de veel voorkomende vragen te beantwoorden. Indigometrics gebruikt daarvoor een 'proxy', dat kan kijken naar welke vragen er gesteld worden en welke antwoorden er komen. Op die manier kan je snel komen tot de meest nuttige content.
• De toegankelijkheid van generatieve AI zorgt er voor dat iedereen er mee kan werken, en het dus ook makkelijk is om een team samen te stellen met heel diverse achtergronden. Maak hier gebruik van.
• Werving met generatieve AI: In plaats van de traditionele vragenlijstjes voor kandidaten gebruiken ze AI om heel andere en onconventionele vragen te stellen. Daarmee konden ze makkelijker de diverse skills en talenten van kandidaten ontdekken. 

Menselijkheid

Met generatieve AI kan je op een fundamenteel nieuwe manier met technologie werken, en die gebruiken om de processen juist naar je eigen waardes in te richten. Het kan je ook helpen om die nieuwe processen te vinden, doordat je er zelf op een creatieve manier mee kan werken. Het is een unieke nieuwe manier voor het zoeken van nieuwe oplossingen. 

Zelf heb ik gewerkt met heel wat HR systemen en werkwijzen en ik kan je zeggen: Ik wou dat er toen ook generatieve AI was. Vaak dwingen die systemen je te werken volgens hun voorgeschreven proces, zeer rechtlijnig en gericht op "meer van hetzelfde". Applicant Tracking Systems voelen soms echt als een lopende band, met standaard testjes en vragen. 

Dankzij generatieve AI kan je dit nu anders aanpakken:

1. Niet lineair denken: Je kan nu op een heel andere manier naar problemen gaan kijken dan de 'efficiënte' manier die je gewend bent. 
2. Mens centraal: AI is uniek in hoe het kan begrijpen, en de meer menselijke interactie maakt heel nieuwe processen mogelijk
3. Verkennen en innoveren: De tool is creatief en kan je heel nieuwe ideeën laten ontdekken en verkennen. Gebruik die dialoog-functie. 
4. Menselijke waardes: Juist omdat je meer kanten op kan is het belangrijk om goed te controleren of je het eens bent met het resultaat. Technisch kan het goed werken, maar is het resultaat ook wat je nastreeft? 

Deze nieuwe mogelijkheden zijn volgens mij een mooie weergave van waar hij bij SXSW24 om ging: Hoe kunnen we deze nieuwe mogelijkheden van generatieve AI inzetten om juist meer menselijk te worden, echt nieuwe dingen gaan doen, en de ouderwetse "IT gedomineerde" werkwijze omver te gooien. 

AI & technologie gaan een steeds grotere rol spelen in ons leven, ons werk, en onze samenleving. Als ik naar de presentaties kijk die ik heb gezien zijn deze thema's te ontdekken. Niet uitputtend, maar mijn interpretatie van wat mij opviel. En mogelijk knutsel ik nog verder aan dit stuk  

Technologische vooruitgang en integratie

• AI & Machine learning: In iedere presentatie ging het over de grote snelheid waarmee dit veld zich ontwikkelt, en het effect dat het al heeft op het alledaagse leven en op werk. Weet ook dat dit veld zich voortdurend versnelt: Wat er volgend jaar kan is een veelvoud van nu. En dat is ieder jaar zo. En dit soort exponentiële groei is lastig voor te stellen: 5 jaar lang iedere keer 3x beter betekent 243x beter. 
• Creatieve toepassingen van AI: Deze tools lenen zich goed voor creatief probleem oplossen en innoveren. Een van de beste praatjes daarover vond ik "Orthogonal AI strategies" waarover ik een apart stuk schreef, waarin wordt beargumenteerd dat we juist niet moeten proberen om AI in te zetten om bestaande processen beter/efficiënter/goedkoper te maken, maar er echt op een andere manier naar te gaan kijken: Hoe kan je AI inzetten zodat je leven en werk beter wordt, door de mens centraal te houden.
• Simmer werken: AI is goed in het automatiseren van routineklusjes, zodat je zelf kan focussen op meer strategische en creatieve taken. Programmeren gaat bijvoorbeeld veel efficiënter met een hulpje er bij die stukken code voor je schrijft, en een AI is prima geschikt om mee te luisteren met een gesprek en daar slimme notulen van te maken.
• Data-gedreven beslissingen: Analytics en AI kunnen grote hoeveelheden data structureren en verwerken, wat goed kan helpen bij inzicht en beslissingen. Ook kunnen systemen dit zelf gebruiken, en zelf beslissingen nemen over optimale strategie, zoals het laden van een thuisbatterij, of een AI die wordt ingezet door een legal team om te helpen met analyse, of een AI voor medische diagnose.  Dit werkt het beste als AI echt zit 'ingebouwd' in het product. Momenteel zien we nog veel 'side panels' en 'toverstokjes' waarmee AI wordt aangezet, waardoor het een gefragmenteerde ervaring blijft. 

Mens-AI samenwerking en ethische overwegingen: Willen we dit wel?

• Vergroten van het menselijk potentieel: AI kan je mogelijkheden vergroten; je kan beter beslissen, creatiever zijn, en je kan makkelijk over nieuwe onderwerpen leren. Er is zoveel te leren door het gewoon aan een AI te vragen. Daardoor kan je ineens veel meer zelf doen dan vroeger. En ben je dus ook breder inzetbaar in je werk. AI hielp ook om de grotere rubrieken voor dit stukje te vinden; ik heb er daarna wel aan gesleuteld (zoals de rubriek onderwijs) en deze tekst is 100% zelf gemaakt. Maar het hielp wel om de analyse te doen, puur op basis van mijn notities van de talks. 
• Verandering van de arbeidsmarkt: Het is niet te ontkennen, AI zal banen laten verdwijnen. Wat moet die taxi-chauffeur gaan doen, als zijn werk minder wordt wegens zelfrijdende auto's? Nieuwe skills leren is gelukkig ook makkelijker, en er zal in nieuwe sectoren werk komen zoals tech support, AI systemen trainen, data annoteren. Levenlang leren, ondernemerschap zal steeds belangrijker worden. De wereld verandert, en biedt daarmee ook nieuwe kansen. Mensen die dit omarmen en mee-veranderen zullen in het voordeel zijn.
• Andere ethische en maatschappelijke risico's: Als alles om data gaat draaien worden privacy en data security steeds belangrijker. En AI vergroot potentieel de ongelijkheid in de wereld: Het technologisch geavanceerde deel van de maatschappij, land of wereld heeft een voordeel.
• Misdaad en fraude: Ieder gereedschap kan ook een wapen zijn. Dit zag ik met name bij het praatje over "Taken or Mistaken? AI’s Role in in Virtual Kidnapping Scams". Virtuele ontvoeringen zijn geen ontvoeringen, maar bedreigingen: Je wordt gebeld met de dreiging dat ze een naaste van je hebben, en zullen vermoorden als je niet snel betaalt. Dankzij AI wordt dit veel overtuigender, met gegenereerde foto's of geluidsfragmenten. Een van de beste dingen die je daar tegen kan doen is een codewoord afspreken met je familie: als dat woord niet kan worden genoemd weet je dat ze hem of haar niet echt hebben. Behalve deze criminele toepassingen zijn er talloze manieren denkbaar om met AI content of chatbots te maken die mensen beïnvloeden, bijvoorbeeld bij verkiezingen.

Veranderingen in werk & organisaties

• Werk wordt steeds flexibeler, en ondersteund door AI. "Banen zijn dood, maar het werk niet". Het gaat steeds meer over welke skills je hebt, en hoe handig je bent in het inzetten van tools. Hierover kan je meer lezen in dit stuk van Gerson Veenstra
• Kleine teams en eenmansbedrijven nemen toe; het is steeds makkelijker om (wederom dankzij AI) flinke waarde toe te voegen, en een voorspelling van Sam Altman is dat er binnen afzienbare tijd ergens een eenmansbedrijf zal ontstaan met een waarde van boven de miljard dollar.
• Veranderende organisatiestructuur en -cultuur: Als steeds meer van je mensen steeds meer verschillende dingen kunnen, dankzij AI tools, komt er meer zelfstandigheid in de teams. "The small team is now the ultimate flex" zei Ian Beacraft. Beslissingen worden meer decentraal genomen, en het leiderschap zal hierin moeten meeveranderen. AI gaat geen bedrijven kapot maken, maar het vasthouden aan oude systemen en technologie wel. Ondersteun het meer 'agile' werken, geef toegang tot AI tools, en help het leren van het gebruik daarvan.

Toegang tot de technologie

• Democratisering van de technologie: Een terugkerend thema in veel verhalen is de noodzaak voor brede toegang tot geavanceerde technologie, zodat niet alleen de bevoorrechten de voordelen van AI kunnen ervaren. No-code en Low-code platformen kunnen hierbij een bijdrage geven, maar ook onderwijs over het gebruik.
• Verantwoordelijke ontwikkeling en gebruik: Bij alle ontwikkelingen is het belangrijk om de ethische grenzen te onderzoeken. Wie heeft hier voordeel van, wie sluiten we uit? Zijn er onvoorziene gevolgen? Het concept "red teaming" viel regelmatig, waarmee een methode wordt bedoeld om een ontwikkeling opzettelijk uit te dagen, zwakheden te ontdekken, en potentieel misbruik in te schatten. Dit is bijzonder relevant in de AI wereld, waar het maar al te makkelijk is een niet goed doordachte tool online te gooien, met potentieel heel schadelijke gevolgen.

AI-kunde en onderwijs

• Begrip van AI: Er is een noodzaak om mogelijkheden én beperkingen kennen van AI systemen. Niet alleen over hoe je omgaat met de tools zelf, zoals het schrijven van goede prompts of het effectief gebruik maken van assistents voor bijvoorbeeld programmeren, maar ook hoe je gefopt kan worden door een AI systeem, bedoeld of onbedoeld. Wij zijn als mensen geneigd om iets wat 'mens-achtig' overkomt te geloven en te vertrouwen, zoals een AI chatbot. Wat ook enorm helpt is het simpelweg elkaar vragen: "Hoe doe jij dit met ChatGPT?". 
• Blijf een expert: Om goed te kunnen werken zal je nog steeds moeten weten wat je aan het doen bent, en de diepe achtergronden in de vingers te hebben. Ook als je met een AI samenwerkt. Peter Deng van OpenAI: "You're not going to know if the answer is right, unless you actually know your stuff"
• AI in het onderwijs zelf: Er zijn talloze mogelijkheden voor veel leerlingen om 'bijles' te krijgen van een AI, of zichzelf laten overhoren, of hun kennis juist te verdiepen, maar ook voor docenten om aangepaste lessen te ontwerpen. En je kan denken aan een AI programma in het onderwijs. Zo hoorde ik over een middelbare school die lessen wijdde aan prompting. 
• Toegang tot AI om er mee te leren werken: Ook een aantal keer gehoord: Bedrijven moeten niet alleen cursussen bieden voor hun eigen AI toepassingen, maar ook hun medewerkers opties bieden, en accounts bij AI tools faciliteren. Dit geldt ook voor ouders vind ik zelf, en ik zal er voor zorgen dat mijn kinderen alle mogelijkheden hebben om te klooien met AI. Ook hier een citaat van Peter Deng: "There should always be a free version, absolutely". Hier is ook een taak weggelegd voor de grote tech bedrijven. 

Eindelijk eens een praatje waarbij de term 'AI' niet viel. Althans niet vaak. Een presentatie over klimaatverandering van Ben Wolkon van MUUS Climate Partners, en daarna een interactive sessie geleid door Ellie Johnston. Kern van de boodschap is: Er is niet 1 enkele oplossing die alles zal oplossen, maar alle oplossing die er nodig zijn bestaan al. Het is een kwestie van implementeren en opschalen. 

De duurzame toekomst

Het verhaal van Wolkon was mij al relatief bekend. Electra zal toe moeten nemen in industrie, vervoer en gebouwen. Het opwekken van die stroom zal groen moeten worden. Daarbij is er synthetische brandstof nodig voor bijvoorbeeld luchtvaart. Daar is trouwens wel een rol voor AI en analytics, om al die systemen te managen en optimaliseren: een slimme thuisbatterij of warmtepomp die de optimale strategie uitvoert. 

De interactieve tool

De tweede helft van de presentatie was bijzonder goed. Ellie Johnston gebruikte een online enquete (van pollev.com) om het publiek te laten kiezen welke maatregelen het meest effectief waren, en het meest overhyped. Die uitkomsten waren direct live te zien, en gebruikte ze vervolgens om de schuifjes in te stellen in de simulatietool die zij en Climate Interactive samen met MIT heeft ontwikkeld. Je kan er zelf direct mee gaan spelen op https://www.climateinteractive.org/en-roads/ maar het is raadzaam om daar wel even de tijd voor te nemen, het is een erg complete en complexe tool.

Een voorbeeld. Stel dat je wil weten wat het effect is van het tegengaan van ontbossing. Je kan dan het beste de rechtergrafiek zetten op Deforestation, of een andere grafiek uit die rubriek. En je kan dan direct aan de schuif Deforestation gaan trekken, maar slimmer is om op de 3 puntjes bij die schuif te klikken, zodat je kan zien wat de inputs precies zijn. 

Duidelijk wordt dat er niet 1 maatregel is die alles zal oplossen. Om op +1.5 C uit te komen moet je heel wat puzzelen. En ook duidelijk is het effect van carbon pricing. In de sessie zette Johnson dit op $100 per ton, 'ongeveer een dollar per gallon benzine', en dat blijkt een groot effect te hebben. Maar je kan ook zien wat het gevolg is van het later invoeren van maatregelen.

Erg goed gedaan, en een overtuigende sessie. Climate Interactive verzorgt dit soort groepssessies, en er zijn in veel landen nu vertegenwoordigers die deze sessies kunnen leiden. 

Maar vooral: Ga er mee aan de slag. Erg goed. https://en-roads.climateinteractive.org/scenario.html

Veel software producten, wellicht alle, hebben nu of binnenkort een AI component, of zijn opgebouwd rondom AI. Ik was bij een prima verhaal van een mevrouw van Miro die goed heeft nagedacht over hoe de user experience van AI ontworpen moet worden. “We shape our tools, and thereafter, our tools shape us.” is een bekend citaat dus de design beslissingen van AI zijn belangrijk. Een presentatie vol met ‘5 ways’ achtige lijstjes. Here we go.

Uitdagingen van AI design. 

• Werken met bias. De spreekster ziet dit zowel als een probleem als als een kans. We kunnen de wereld van de AI namelijk zo maken zoals we willen door de trainingsdata goed te kiezen. 
• Veiligheid en privacy. De zorgen om een AI die de wereld overneemt zijn niet gegrond, maar privacy en deep fakes zijn wel een zorg, en psychologisch welbevinden door chatbots die verkeerde of agressieve adviezen geven
• Ontwerp voor kans. Een LLM is niet deterministisch, je kan van te voren niet voorspellen wat er uit gaat komen. 
• Vertrouwen en transparantie. Je ziet iedere dag voorbeelden van ‘hallucinaties’ van taalmodellen die zelf dingen verzinnen. Van belang is om de bronnen te laten zien, en daarmee het vertrouwen te blijven winnen

Dus hoe moet je dan ontwerpen?

• Begin vanuit de mens, niet vanuit de technologie. De gebruiker moet aan het stuur zitten, zij leiden de interactie.
• Vecht tegen bias, en pak de kansen om de juiste wereld te creëren. 
• Maak het veilig. Geef de gebruiker een kans om zaken te rapporteren, of het pad te ‘resetten’. 
• Maak het voor iedereen. AI moet voor iedereen toegankelijk zijn, en dus makkelijk te gebruiken. 
• Wees goed. Bedenk goed of je tool iemand kan beschadigen.
• Laat zien hoe het werkt. Vaak weet je niet van te voren wat er kan met zo’n AI tool.

De ervaring met AI is wezenlijk anders dan met klassieke software tools. Je bent daarmee gewend om opdrachten te geven: Doe dit, doe dat. Nu moet je de tool aansturen vanuit het doel. “Dit is wat ik wil”. Dat is een wezenlijke verandering. 

De beste AI first producten hebben geen ‘zijpaneel’ waarin de AI dan wordt gestopt, zoals je nu veel ziet. De tool wordt daarmee gefragmenteerd. De toekomst zit in producten waarbij de AI geen echte interface heeft, maar het product zelf ineens iets nieuws en goeds doet. 

En wat voor soort dingen zijn dat dan, waarmee een AI een ervaring ineens beter kan maken?

• Relevantie. Je kan de ervaring volledig afstemmen op de gebruiker. Niet alleen wat voorkeuren zijn maar ook bijvoorbeeld z’n context: Is hij mobiel of achter bureau, is het ochtend of avond. 
• Ruim de interface op. Apps gaan verdwijnen, als je een AI agent simpelweg dingen kan vragen. 
• Toegankelijkheid: Met AI kan je vrij makkelijk de interface verbeteren voor slechtzienden, door taal te interpreteren en uit te spreken, en automatisch beschrijvingen te maken van plaatjes. 
• Behulpzaamheid. Een chatbot kan jou snappen, en je een oplossing bieden door met de juiste oplossing te komen. “Your problem, your way”.
• Verbeter het leren. Als product team kan je AI inzetten om snel prototypes te maken, en concepten testen. Zo kan je sneller testen en leren wat werkt.

Waar blijven wij als mens dan? Een AI zal nooit je leven en psychologie begrijpen, je achtergrond, je stemming op dit moment. En het kan alleen opdrachten ontvangen en uitvoeren, een AI kan niet verzinnen welk probleem opgelost moet worden, en wat het proces moet zijn. Daar zijn wij voor.

Eerste verhaal waar ik heen ging was van Google en McKinsey, en was best prima. Er is ook al over geschreven door Erwin Blom en Michiel Buitelaar maar ik zal mijn perspectief geven.

Het beeld wat ik er uit haalde was: Je hebt goede data nodig, een goed taalmodel en je mensen moeten snappen wat ze daar aan hebben. Daarmee kan je krachtige impact maken.

Data: Bij Google hebben ze een geweldige codebase: De code waarop bijvoorbeeld Chrome en Search draait. 500,000 manjaar aan werk, met niet alleen goede code maar ook alle wijzigingen worden bijgehouden, alle vragen die ontwikkelaars in fora stellen en de antwoorden. Dus niet alleen het eindproduct maar ook het proces.

Taalmodel: Vanuit Google gezien is hun LLM genaamd Gemini natuurlijk de beste, met een 'context window' van 1 miljoen tokens, veel groter dan de concurrentie. En wat heb je daar aan? Het kan werken met veel meer input data. Documenten, broncode van software, beeld, geluid, etc.

Werkwijze: Iedereen heeft meteen wel iets aan een chat-achtig taalmodel, maar zodra je bijvoorbeeld ontwikkelaars een cursusje geeft om te laten zien hoe ze het meest hebben aan een 'coding co-pilot', stijgt de impact. Niet 20% effectiever, maar 50-70% effectiever werken. 

Impact: McKinsey vertelde over een aantal chatbot voorbeelden, o.a. van onze ING. Daar werd een ouderwetse chatbot vervangen door een met generative AI, waardoor er ineens 70% van de inkomende vragen kon beantwoord worden door de chatbot, ipv 40% bij de oude versie. Kassa, maar ook hogere klanttevredenheid. En Google liet zien hoe hun Gemini de ontwikkelaars helpt bij het vinden van bugs, het code reviewen, en verbeteringen voorstellen om code te verbeteren. Er werd zelfs een filmpje getoond waarbij iemand met z'n telefoon gefilmd had hoe een bepaalde bug gebeurde, en dat filmpje was al genoeg voor de AI om de bug te vinden en een oplossing voor te stellen.

Nu is het met Google wel soms de vraag of het een eerlijk voorbeeld was, en wat er omheen gebeurde, maar toch. Een van de verbazende aspecten van generatieve AI is toch dat het je blijft verbazen.