[Door Monique van Dusseldorp]

 Ik zit in het vliegtuig naar Austin. Er is prima wifi aan boord, mensen kijken naar films op hun eigen schermpjes, slechts een enkeling vraagt nog om oortjes. Mijn dochter zit in Malaga - ik gebruik chat-GPT en stuur haar een limerick in het spaans. Het is nog steeds oorlog in Europa, en meer. We sturen elkaar vrolijke berichtjes in de app groep - hee, wij gaan ook, appen we van vliegtuig naar vliegtuig. Het is het jaar 2024, we zijn meer verbonden dan ooit, en we zijn op weg naar SXSW: een avontuurlijk schoolreisje, een informatie expeditie, Nederland promotie en nog veel meer - waaronder een blik op het einde ter tijden.

Wie nog nooit in Austin was: je mist zoveel meer dan je meemaakt! 

Er zijn honderden Nederlanders die deze reis jaarlijks maken - artiesten die optreden, mensen van onderwijsinstellingen, VR ontwikkelaars die hun werk gaan laten zien, beleidsmakers, designers, wetenschappers, ondernemers.. 

Het is de tweede keer dat ik hier ben, uitgenodigd door CreativeNL, dat in samenwerking met New Dutch Wave een mooie Nederlandse missie opgezet heeft. Ik heb een aantal sessies samengesteld, met Nederlandse en internationale sprekers, over ontwikkelingen op het gebied van immersieve media. Daarover later meer.

Het SXSW programma omvat bij elkaar misschien wel 1.000 sessies. Een paar honderd daarvan zijn de officiele congres sessies, allemaal een uur lang, keynotes en panels, die plaatsvinden in het nogal verouderde  ‘’convention centre’’ (een sooort RAI van 20 jaar terug)  aangevuld met lelijke zalen in een aantal grote hotels in de buurt. 

Alleen de hoofdzaal - 2500 zitplaatsen - heeft keurig stage design en een extra groot scherm. Voor de rest is het afzien: slecht verlichte balzalen met een slordig  ‘’pipe & drape’’ achtergrondje, sprekers in het halfdonker, geluidsoverlast van andere zalen…en dan die vloerbedekking overal! Verder heel, heel, heel veel lange rijen om in te staan voor je binnen bent. 

Maar goed, meer dan 1000 sessies dus! Dat wil zeggen dat je op elk moment van de dag uit tientallen sessies moet kiezen. Ze beginnen om 10 uur en gooien de tent om 5 uur alweer dicht. Vier, misschien 5 sessies per dag is eigenlijk het maximum. En voor de populaire sessies kan je dus makkelijk een uur in de rij staan….om dan terecht te komen in een voorzaal waarin dus ook weer een rij staat… maar waar niet uit vriendelijkheid nog een afkijkscherm is geplaatst. 

Naast het hoofdprogramma is er echt nog heel veel meer. Veel sessies georganiseerd door partners - door de hele stad zijn er plekken waar landen, steden, regio’s, brands, media, en allerlei belangengroeperingen hun eigen programma organiseren. Het kost een paar duizend dollar om je sessie te laten vermelden in het SXSW programma, velen doen dat niet. Die staan dan dus ook niet in de SXSW app - en wie door het offciele programma heenkijkt ziet alleen sessie titels, geen sprekers of onderwerpen, je moet veel doorklikken. Het selecteren van sessies is al snel uren werk. Het is grappig om te zien hoe men aandacht trekt. SXSW plakt alle zuilen en wanden af met doorzichtig plakplastic, tot in de wijde omgeving. Jan en zijn mallemoer plakken die vervolgens vol met posters en promotie. 

Tel daarbij op een grote beursvloer/braderie - kappers, massagestoelen, rimpelcreme en tech demo’s, alles door elkaar, en op een andere lokatie een enome immersive expo. Buiten dan nog een groot aantal ‘’activaties’’ - ervaringen om een bepaald product of een dienst onder de aandacht te brengen. Hele kermissen worden er opgebouwd. We zien allemaal iets anders! We dwalen met zijn alles wat rond. 

En ik dwaal af! Vorig jaar schreef ik op basis van de sessies die ik toen bezocht een paar observaties - waarbij de groeiende onzichtbaarheid van de technologische ontwikkelingen me vooral trof. AI, brain-computer interfaces, de geheime diensten, de algoritmes - we hebben iets gemaakt dat we niet meer kunnen zien of begrijpen. En dus ook niet kunnen beheersen.

Er zijn mensen in de delegatie die geweldige verslagen maken van de sessies, en passant alle laatste technieken inzettend: een automatische transcriptie van de audio opgenomen in de zaal, die tekst weer verwerkt tot een samenvatting gemaakt met Chat-GPT, met nog een eigen observatie op het einde. Dat zijn eigenlijk allemaal prima stukken. 

Zelf loop ik van sessie naar sessie en krabbel wat aantekeningen bij elkaar, pen op papier, een rommelige set observaties. Pas nu ik het eindelijk opschrijf begin ik sommige dingen te begrijpen. 

Een AI tool om teksten te produceren helpt daarbij helaas niet, ik moet zelf woordjes achter elkaar husselen om te begrijpen wat ik denk. Ik vul hier alles aan met ontwikkelingen van de afgelopen weken. De tech supercycle dendert voort - sinds SxSW is er heel veel gebeurd.

Hoe was het dan dit jaar? Nou, de wereld is ‘’out of control’’, dat vooral. Fear, uncertainty, doubt… Hier mijn FUD lijstje van het jaar - op basis van de SXSW sessies die ik zelf uitkoos. Voor wat het waard is. Fear, eigenlijk dat vooral. 

Als je in Austin uit de terminal loopt naar de speciale parkeerplaats van de Ubers en Bolds, staat er een boom vol kwetterende vogels, het voelt alsof je aankomt in de tropen. Het zijn ‘’grackles’’ die door heel Austin zwermen, ‘’glanstroepialen’’ vertelt Wikipedia me. Mooi woord. Bij de AirBnB - 10 minuten fietsen van het convention centre, in een wijk vol lage huizen met veranda’s -  schiet een raccoon met zwart-witte staart weg in de tuin. Bij het koffie apparaat liggen cups met de smaken  

In andere woorden: het is de eerste dag in een nieuwe omgeving en alles valt op. Als ik wandel naar Austin Bikes om een leenfiets op te halen - langs de muurschilderingen en food trucks waar de stad vol van is - kom ik langs een klein, vervallen pretparkje. Ik maak een foto van de surrealistische plakkaten. Later herken ik iets van die foto: een techno utopie uit 1894, terug te vinden in mijn eigen straat. Ik kom erop terug.

Wat zijn op basis van de verhalen waar ik naar geluisterd heb nou de belangrijkste ontwikkelingen dit jaar? Of eigenlijk dus andersom: wat zijn de belangrijkste ontwikkelingen op basis waarvan ik mijn sessies uitkoos? Wat verbaasde me, wat viel op?

Ik kies 4 dingen uit, in willekeurige volgorde - die op verschillende manieren in elkaar haken.

1. Robots in mensvorm
2. Land of the giants 
3. Dual use tech
4. Data honger en AGI

Robots!

Vorig jaar begonnen we te begrijpen dat ‘’generative AI’’ iets is wat we moeten volgen, een technologie waarmee we informatie kunnen samenvatten, beelden en video kunnen maken, en meer. De eerste voorbeelden van goed klinkende digitale stemmen en AI gegenereerde muziek werden snel gedeeld en sindsdien vallen we van de ene verbazing in de andere.  

Een jaar en tien acceleraties verder, zien we hoe AI ineens niet alleen onze digitale wereld begrijpt, maar ook de fysieke wereld onder de knie aan het krijgen is. Op het niveau van cellen - de biotech wereld is in overdrive op het moment - en atomen - AI leert de wereld te begrijpen, hoe dingen werken.

Tot mijn verbazing, zijn we daardoor ineens weer terug bij 50-er jaren science fiction - een robot in de vorm van een mens!

Jared Flicklin van Argodesign nodigde me uit voor een bijenkomst waar ik zelf even kennis kon maken met de Apptronik robot. Argos doet het design van een apparaat dat geschikt is om klussen uit te voeren in een magazijn, of aan een lopende band. Apptronik zelf heeft inmiddels een deal met Mercedes-Benz.  Zij zijn niet de enigen. De Figure robot werkt samen met BMW, en wordt net als de 1X, de mens robot uit Noorwegen ondersteund door OpenAI. (Een vergelijking van Fusion en Apptronik is hier te vinden). En zijn zij niet de enigen, robots in de zorg, in magazijn, in fabrieken.

Waarom ineens deze nieuwe robot energie? Door ‘’computer vision ‘’ kunnen computers de wereld om zich heen observeren en begrijpen, labels toekennen, weten wat elk object is. En door AI kan het zien van de wereld nu gecombineerd worden met een actieplan - de modellen ‘’snappen’ steeds beter wat de bedoeling is. Net als bij taalmodellen gebeurt dat op basis van modellen van de wereld: LAM  (Large Action Models) zorgen dat de machine weer wat die moet doen. 

De kennismaking met de Apptronik robot was heel charmant - de robot ‘’ziet’’ je staan, en reageert op je handbewegingen. Toch blijft natuurlijk de vraag - waarom zou je voor zo’n robot de vorm van de mens kiezen?

De samenwerking met fabrikanten als BMW en Mercedez Benz maakt het misschien wel duidelijk: deze robots zijn echt bedoeld om mensen te vervangen. Een produktielijn rond een kostbaar goed als een auto is al grotendeels geautomatiseerd. Die laatste klusjes die nu nog echt door mensen gedaan moeten worden - die kunnen op deze manier ook veel beter en efficienter door een robot uitgevoerd worden. En ineens komt de consumentenmarkt ook weerin beeld - Apple gaat zich nu ook weer over robotica buigen.  Softbank, dat honderden miljoenen stopte in Uber, Wework etc  stort zich met Saudisch geld op industriele robots https://www.maakindustrie.nl/nieuws/high-tech/saudische-alat-en-japanse-softbank-bundelen-krachten-rond-industriele-robots/  

Nvidia, Microsoft, Intel, en OpenAI hebben $675 million geinvesteerd in Figure AI. Amazon heeft een fonds van 1 miljard voor startups die AI en robotics combineren. Saudi Arabie heeft 100 miljard apart gezet voor de komende 6 jaar te stoppen en werkt samen met Softbank, de club die zoveel geld stopte in de platform bedrijven als Uber en Wework. 

Tot nu toe hebben de doorbraken in generatieve AI zich geconcentreerd op programmeren, en tekst en afbeeldingen. Maar net zoals grote taalmodellen patronen in taal hebben gedecodeerd, kan AI de verborgen patronen van de fysieke wereld decoderen die te complex of snel bewegend zijn voor mensen om waar te nemen.

Land of the Giants - die een nieuwe infrastructuur aan het het bouwen zijn

We hebben het heel veel over AI, en veel aandacht gaat uit naar AI als tool, een soort tovermiddel om te kunnen programmeren, om beeld en geluid en gesprekken te genereren, om allerlei teksten te kunnen schrijven, samenvatten en nog veel meer.  We moeten nog leren wat we met die nieuwe digitale laag allemaal kunnen doen, maar we snappen de relevantie.

En we zien de tech giganten met elkaar strijden zoals we dat gewend zijn: lanceren van nieuwe tools, gratis of betaald, met tech demos waar we van achterover vallen, in rap tempo bedrijven overnemen die iets bijzonders doen als dat nodig is..

Maar deze keer is er meer aan de hand dan een wedstrijdje digitale tools.. Het is een strijd van titanen die niet alleen draait om de beste en meest populaire diensten … er wordt tegeljkertijd een hele nieuwe infrastructuur opgezet.

Het ontwikkelen en gebruiken van AI via de genoemde AI ’large language models’’ vereist veel meer dan een lekker snel netwerk. En met de investeringen die nu gemaakt worden verandert de manier waarop onze ‘’tech stack’’ georganiseerd is. 

Een paar voorbeelden? En denk niet dat ik al deze industrieen heel goed ken of echt doorgrond - het is meer dat je ziet dat alles in elkaar grijpt nu, en dat er een heel klein groepje extreem machtige bedrijven niet alleen de diensten ontwikkeld maar ook alles wat er onderligt. En dat zag je terug in veel van de sessies.

Supercomputers

• Microsoft en OpenAI plannen bijvoorbeeld supercomputer Stargate en zetten daar $100 miljard voor apart. Ook Amazon zet $150 miljard in op datacenters voor AI. Nvidia is het bedrijf dat nu de grootste groei doormaakt, nu de wens naar supercomputers  zo snel toeneemt. Nvidia is betrokken wij super computers over de hele wereld. In Austin werd Lisa Su, CEO van chip maker AMD ondervraagd (een verschrikkelijk gesprek overigens, dankzij de ijdele moderator). Groot applaus toen ze het podium op kwam lopen. Ze is de nicht van Jensen Huang, de CEO van Nvidia. Kleine wereld ja. Ze liet een bij SXSW een chip with 153 miljard transistors zien. 

Datacenters

• Naast die supercomputers worden er ook enorme investeringen gedaan in data centers. Twee voorbeelden. G42 uit Abu Dabi en Microsoft stoppen 1 miljard in de digitale infrastructuur in Kenya, waar vooral data centers worden aangelegd. En Microsoft gaat 3,2 miljard USD in Zweden investeren, een land met veel schone water energie. Google heeft al 21 miljard aan zijn eigen data centres uitgegeven, en is nog lang niet klaar. Een miljard naar Finland, 5 miljard naar Singapore, over de hele wereld worden enorme faciliteiten opgezet. 

Energie

• De cloud heeft inmiddels  een grotere ecologische voetafdruk dan de luchtvaartsector. Eén datacenter kan het equivalent van de elektriciteit van 50.000 huishoudens verbruiken.Sam Altman, vooral bekend als CEO van OpenAI, is tevens voorzitter van een kernenergiebedrijf genaamd Oklo, dat pas naar de beurs is gegaan. Altman heeft ook geld gestoken in Exowatt, een groene energie startup die zich richt op datacenters. Amazon, Google en Microsoft zijn allemaal bezig met het opzetten van eigen energie bronnen. In Austin waren er sessies zoals ‘’Designing and Demonstrating Advanced Nuclear Reactors’’. Onderdeel van het ‘’interactive’’ programma dus. Dat zijn nu dus gewone onderwerpen in onze nieuwe digitale wereld.

Computing

• Het gaat niet alleen maar om meer rekenkracht, maar ook ‘’computing’’ zelf verandert. In het programma veel aandacht voor onderwerpen als quantum compting, en ‘’neuromorphic computing’’. Ik bezocht de sessie Future-Proofing Computers for an Evolving World, waar Google, Johns Hopkins, Applied Materials, and the U.S. Navy zich over deze vraag bogen. Er zijn ontzettend veel hele slimme mensen aan het werk, en ze werken voor Google, Microsoft en..  het leger. De sessie van de Nstiona

Satellieten en kabels

• De enorme datastromen gaan nu via satelliet, kabels onder oceaan, en via 5G netwerken en fijn vertakte glasvezelnetwerken daar is Starlink nu bijgekomen. Dit netwerk van kleine ‘’low orbit satellites’’, heeft al bijna 6.000 satellieten die over ons heen vliegen, en biedt nu internettoegang aan  2,7 miljoen abonnees in 75 landen - daaronder de strijdkrachten in Oekraine. Het Amerikaanse leger betaalt mee. SpaceX wil 42.000 satellieten in een megaconstellatie rond de aarde laten draaien. Omzetprognose voor 2024 is $6,6 miljard. Het plan is 42.000 satellieten in circulatie te brengen. Van wie is dit bedrijf? Elon Musk.

• Nog even die kabels onder de oceaan, waar 95% van het internationale internet verkeer doorheen gaat. Dat zijn echte kabels die gelegd worden. De dag dat ik terugvlieg beschadigt een onderzeeer 4 kabels, waardoor grote delen van Afrika afgesloten raken van internet. De afgelopen maanden zijn hele landen steeds afgesloten door dit soort beschadigingen.   

2Africa is de naam van het bedrijf dat al een tijd bezig is om 45.000 km kabel onder de oceaan te leggen, rond het hele continent Afrika, en dat 3 miljard mensen van internet zal voorzien. De verwachting is dat het netwerk dit jaar in gebruik genomen kan worden. Wie legt zoiets aan vraag je je af. Een aantal samenwerkende telecom bedrijven waaronder Chinese telecom onder de leiding van… Meta. Een van de grootste infrastructuur projecten van onze tijd. Een ander netwerk, van Marseille naar Kenya en door naar Pakistan wordt ook nu aangelegd, onder leiding van de Chinese telecom maatschappij. En China heeft net weer een half milard aangekondigd voor Chinese kabels. De VS ziet die kabels namelijk als een groot risico, een geopolitieke strijd die gaat over het afluisteren van data.

We staan erbij en kijken erna, een paar bedrijven die de infrastructuur aan het opzetten zijn voor de volgende generatie internet. We zien niet echt wat er gebeurt, maar die onderliggende structuur gaat veel bepalen. Kerncentrales van Microsoft, internet kabels van Meta. en van alles van Musk. Hij heeft net 6 miljard dollar opgehaald voor zijn AI start up. Alsof hij met Tesla, X (formerly Twitter), SpaceX, en Neuralink niet al teveel macht heeft.. 

Schrijfster Maria Farrell publiceerde onlangs een mooi (en nogal lang) stuk, genaamd ‘’We need to rewild the internet’’, dat goed beschrijft hoe de concentratie in onze infrastructuur nadelig is voor innovatie.Het internet is, zoals zij aanhaalt, immers  “the infrastructure of all infrastructure.”

It’s how we organize, connect and build knowledge, even — perhaps — planetary intelligence. Right now, ‘’it’s concentrated, fragile and utterly toxic’’.

We are in the army now

Bij de vorige editie van SXSW bezocht ik een interessante sessie van de CIA. Dit jaar heb ik de sessies van het Amerikaanse leger bezocht. 

Het leger is een SXSW ‘’supersponsor’’ en overal aanwezig. En de CIA was er ook weer, met een grote stand. En de NRO, die ervoor zorgt dat de VS ‘’ the undisputed leader in space.’’ blijft. Daarbij ook nog allerlei toeleverancies van het leger, zoals Collins Aerospace, Raytheon en  BAE Systems. Dat zijn bedrijven die de wapens maken die op dit moment ingezet worden door Israel om Gaza en de mensen die daar leven te vernietigen.  De VS stuurt miljarden in wapens die kant op, ‘’As of October 2023, the United States has 599 active Foreign Military Sales (FMS) cases, valued at $23.8 billion, with Israel’’. 

Niet iedereen was daar blij mee. Meer dan 80 artiesten trokken zich uit protest terug uit het SXSW muziek programma. De reactie van SXSW? ‘’The Army’s sponsorship is part of our commitment to bring forward ideas that shape our world.’’

Ik was nieuwsgierig naar dat wereldbeeld en heb zowel sessies als bezocht als de zeer grote stand op de beursvloer. Niet omdat ik er zo naar verlang de wereld van militaire technologie te doorgronden, maar omdat zoveel technologie ‘dual use’ is. Dual use technologie is de term voor technologie die wordt ontwikkeld om gebruikt te worden door zowel leger en geheime diensten als de grote markt van consumenten. Die grotere markt is namelijk relevant voor snelle innovatie. 

Het NATO Innovatiefonds is bijvoorbeeld specifiek voor ‘dual-use technologieën’, opgezet, in hun woorden, ‘’toepassingen die tegelijkertijd ook gebruikt kunnen worden in de samenleving’’. De aankomende 15 jaar wordt er € 1 miljard geïnvesteerd in start-ups die zich bezighouden met nieuwe technologieën als AI, quantum, biotech en meer. Het hoofdkantoor zit in Nederland. De VS doet trouwens niet mee met dit fonds, die hebben hun eigen plan. En in Austin was goed te zien hoe verweven de werelden van tech innovatie en het leger zijn.

Wat voor innovaties liet het Amerikaanse leger zien? Ten eerste is het veld heel breed. Ze werken aan zaken als ‘’advanced textiles’’, ‘synthetic biology’’, en ‘’advanced electronics’’ en doen natuurlijk ook heel veel werk met sensors, en algoritmes. Het verzamelen en duiden van informatie zit bij de CIA, het leger gebruikt informatie voor allerlei acties en bewegingen. En ook hier speelt AI een steeds grotere rol. Machine learning! Neural networks!

Ik had een leuk gesprek met een van de soldaten op de beursvloer, uitgerust met allerlei tech om de mens beter te maken - sterker, scherper, oplettender. Brillen met aanvullende informatie over de omgeving, exoskeletten waardoor een soldaat sterker is, meer kan tillen, harder kan lopen. En de sessies van het leger over AI waren ook echt interessant - het ging er onder andere over hoe het leger een heel rigoreuze manier van testen heeft, die uitgaat van betrouwbare en herhaalbare resultaten, voor al het materiaal, voor alle processen. Dat gaat niet met AI - de uitkomsten veranderen steeds, het staat niet vast, en de procedures hoe resultaten ontstaan zijn niet te volgen.

In Gaza worden door  bombardementen worden aan de hand van AI ingepland. Een combinatie van camera’s, gezichtsherkenning, lokaliseren van target en bijna automatische aanvallen. 

AI is US

Op een slecht verlicht podium in een gehorige zijzaaltje staat Blaise Aguera y Arcas - in  2007  nodigde ik hem uit om te spreken bij PICNIC, in Amsterdam. Hij had toen als wetenschapper ‘’Photosynth’’ net ontwikkeld:  een manier om van allerlei verschillende fotos, genomen door verschillende mensen, uit verschillende hoeken, een samengevoegd 3D beeld te maken. Hij is nu Vice President Research bij Google, en leidt een team van 500 mensen dat aan large language models werkt. 

Hij stond op het podium om te vertellen over iets anders - een boek dat hij geschreven heeft - Who Are We Now?, ‘’an exploration of how biology, ecology, sexuality, history, and culture have intertwined to create a dynamic “us” that can neither be called natural nor artificial.’’  Op basis van een uitgebreide enquete onder duizenden Amerikanen over identiteit, gedrag, en sex, liet hij zien hoe de wereld verandert - hoe en waar en met wie we samenleven beinvloedt hoe we onszelf en anderen zien.

Natuurlijk kreeg hij vanuit het publiek ook een vraag over AI. Moeten we er bang voor zijn? Nee,AI zei hij.  AI is gebaseerd op onszelf, onze eigen woorden, beelden, cultuur. ‘’Ai is us’’. 

Nou ja, dat ‘’wij’’ waarop de large language modellen gebaseerd is, dat is dan wel een nogal willekeurig wij. Een wij van diegenen die online het meest gedeeld hebben, bijvoorbeeld. Veel grote modellen zijn gebaseerd op een gigantische berg data geschraapt van internet. 

Een van de grootste datasets, die ook door OpenAI gebruikt wordt, en waar Google een aangepaste versie van gebruikt,  is ‘’Common Crawl’’ - dat sinds 2007 data van het internet binnenhaalt en opslaat. De stichting die deze dataset verzamelt deed dat in eerste instantie voor onderzoekers, maar nu blijken deze data ineens heel nuttig voor het trainen van AI modellen. Common Crawl heeft nu  250 miljard webpagina’s opgeslagen en daar komen elke maand 5 miljard bij. Daarvan is 46% engelstalig. Ze zijn niet de enige grote dataset. Andere veel gebruikte bronnen zijn Wikipedia, Github en Reddit.En allerlei teksten, zoals teksten van boeken. Op het moment dat AI rare antwoorden produceert - zoals afgelopen weken gebeurde bij Google’s nieuwe AI zoekresultaten - is vaak zelfs terug te zoeken waar de fout vandaan komt.

De honger naar data van al die bedrijven die nu met AI modellen bezig zijn is enorm, en veel groter dan alles wat online te vinden is. Ik begon dit verhaal met de sprong naar data over onze fysieke wereld. Waar komt die informatie dan vandaan? Video van de wereld, maar ook allerlei data van sensoren bijvoorbeeld. 

En veel van de informatie komt inderdaad van ons zelf. Er wordt ook steeds meer informatie over ons verzameld. Er waren bij SXSW meerdere sessies over brain-computer interfaces.  Bedrijven als Neuralink (Elon Musk) en Synchron maken het al mogelijk dat breinsignalen worden opgepakt om bijvoorbeeld een computer aan te sturen. De eerste mensen met een implant in hun brein zijn er al. Voor mensen die gevangen zitten in hun lichaam een enorme belofte. Maar er zijn ook andere manieren om hersenactiviteit te meten, huid resistnatie, hartslag. Er komen allerlei nieuwe consumenten produkten aan die niets anders doen. 

In de CreativeNL sessie liet Mariette van Huijstee i(Rathenau Instituut) zien wat je allemaal kan meten - om een idee te krijgen haar overzicht hieronder. 

Het laatste SXSW gesprek dat ik hier aan wil halen was met Shane Legg, Chief Scientist van DeepMind.  Hij was ook degene die ooit AGI als term koos, ‘’Artificial General Intelligence’’ voor het idee dat de computer net als een mens intelligent kan zijn. Of inteligenter. 

Ook deze sessie was achteraf, in een klein zaaltje, en werd niet op video opgenomen. Het gesprek is wel terug te luisteren op de de SXSW website, Best raar voor iemand die zo’n grote rol speelt, als Co-founder en Chief AGI Scientist van Google DeepMind.

Het ging over de toekomst, wat er mogelijk wordt, en wanneer. Hij schat de kans op  50% dat we in 2028 al zover zijn, dat we dan kunnen spreken van AGI. ‘’De modellen zijn zo snel beter aan het worden, dat AGI niet zo ver weg lijkt’. Grote modellen zoals Google's Gemini en OpenAI's GPT-4 vertonen al tekenen van AGI. Volgens hem zitten we nu op ‘’niveau 3’’ van de niveaus die Google Deepmind hanteert.  Het vijfde niveau is het hoogste, waar het model kunstmatige superintelligentie bereikt en beter presteert dan alle mensen.

Hij ontkende ook niet dat dit allerlei gevaren met zich mee zal brengen. Iemand vroeg hem vervolgens of dit proces eigenlijk nog te stoppen is.  Het antwoord: waarschijnlijk niet. Voor een aantal bedrijven is de ontwikkeling van AGI ‘’mission critical’’ geworden, ze hebben zoveel geld binnengehaald met deze belofte, ze moeten nu wel.

En dan nu de opmerking die zijn verhaal weer koppelt aan de eerdere observaties. 

Zelfs als je zou willen stoppen, dan lukt dat eigenlijk niet meer. Want? Hij noemde het de “moeilijkste” groep van allemaal, de inlichtingendiensten. ‘De National Security Agency (NSA) in de VS beschikt bijvoorbeeld over meer gegevens dan wie dan ook en heeft toegang tot openbare informatie en signaalinformatie door het onderscheppen van gegevens uit elektronische systemen. De gigantische hoeveelheden data die daar verzameld worden… ze moeten wel, ze kunnen niet anders, ze gaan het doen.

Conclusie

SXSW opende met een groot verhaal van Amy Webb, over de ‘’technology super cycle’’ waar we inzitten. Zo’n ‘’supercycle’’ is een tijd waarin alle verandert, door een ‘’general purpose technology’’, techniek die op allerlei manieren ingezet kan worden. Electriciteit was er een, de opkomst van internet ook. 

Maar deze is anders omdat het niet slechts één technologie is die de verandering aanstuurt, maar een samensmelting van drie is: AI, biotechnologie, en de verbondenheid van alles in de digitale, fysieke en biologische wereld. 

AI gaat de fysieke wereld in. Er wordt een infrastructuur gebouwd door commerciele bedrijven die zijn weerga niet kent. De belangen van het leger en de geheime diensten zijn verweven met de technologische innovaties die ontwikkeld worden. De macht ligt bij een handjevol bedrijven en mensen, die zich keer op keer niet wensen te houden aan de regels. 

Er is een ongekende data honger bij alle partijen, en wij zijn degenen die met alles wat we doen heel veel van die data genereren en leveren. 

Fear, uncertainty, doubt - ik kwam van SXSW terug en moest er een tijdje over nadenken. Maar ik geloof dat fear het toch wel het beste samenvat.

(Wie kritisch naar SXSW kijkt weet dat er wel meer geld inzit met een luchtje. Nadat het event door corona bijna was omgevallen, is het overgenomen door Penske media - een bedrijf dat vlak ervoor  200 miljoen ophaalde bij het PIF fonds - het investeringsvehikel de Saudi overheid, geleid door de man die Kashoggi liet vermoorden)..