Door Kitty Leering
Het is geen verrassing dat het tijdens SXSW2024 veel gaat over AI. Discussies in de media lijken AI ofwel vanuit een dystopisch of utopisch perspectief te beschouwen. Een aantal van de sessies in Austin probeert daar wat meer nuance in aan te brengen. Zo ook het panel in het Dell House dat bespreekt wat AI voor een betere wereld kan betekenen.
Ondanks de gesponsorde setting en een bekend techbedrijf als organisator, vond ik de discussie een stuk boeiender dan verwacht. Dat kwam vooral door Yvette D. Clarke, United States House of Representatives, voor het 9de District van New York. Deze flamboyante dame in knalgeel kostuum liet zich niet afleiden door het nogal eenzijdige techno-optimisme van vooral Jason Oxman, president en CEO van het Information Technology Industry Council. Daarnaast bood Rich Gagnon, Assistent City Manager en CIO van de relatief kleine maar snel groeiende stad Amarillo in Texas, een vooral menselijk perspectief. Zijn bijdrage was misschien iets minder 'catchy' dan die van de congresswoman en Jason, maar zijn daadwerkelijke ervaring met en praktische visie op de toepassing van AI door een lokale overheid en de voordelen en uitdagingen die daarmee gepaard gaan, waren stiekem misschien wel het meest interessant.
De moderator, Matt Baker SVP AI Enablement bij Dell Technologies, wilde de conversatie graag starten met de positieve impact van AI. Jason noemde veel van de bekende domeinen waar AI een positieve bijdrage aan zou kunnen leveren, zoals kankeronderzoek, klimaatonderzoek en efficiëntere stedelijke mobiliteit. Maar uiteindelijk was het Rich Gagnon de enige die ook cijfers kon verbinden aan AI toepassingen en de voordelen heel praktisch wist te maken. Zoals de indrukwekkende 60% verbetering van reactietijd van nooddiensten in zijn stad, of de sterk verbeterde taal-toegankelijkheid van onderwijs in Amarillo, een stad waar 60+ talen worden gesproken door de grote groepen vluchtelingen die daar onderdak vinden.
Essentieel voor dat soort positieve toepassingen is samenwerking tussen overheid, bedrijfsleven, kennisinstituten en NGO's. Hier waren alle panelleden het roerend met elkaar eens. Immers, AI wordt gevoed door data van burgers en bedrijven. De vraag is hoe veilig is dat? Het succes van AI toepassingen valt of staat bij het vertrouwen van de gebruikers (burgers) dat hun gegevens niet tegen hen worden gebruikt. Daarvoor is transparantie over hoe die persoonlijke gegevens worden gebruikt een basisconditie. Iets waar, volgens Clarke, Amerika niet aan voldoet. Sterker nog, Amerika is daarin, in de (Westerse) wereld, de zwakste schakel.
Als zwarte vrouw in Amerika, weet Yvette Clarke waar ze het over heeft. De gevolgen van de ingebouwde bias en discriminatie in digitale software in het algemeen, en AI systemen in het bijzonder, ondervindt zij aan den lijve. De economische argumenten waardoor imperfecte software toch gewoon op de markt wordt gebracht heeft vooral dramatische gevolgen voor minderheidsgroepen. Ze geeft als voorbeeld hoe haar huisbaas, vanuit de goede bedoeling om zijn appartementen voor de bewoners veiliger te maken, het gebouw met gezichtsherkenningssoftware uitrustte, waardoor Yvette haar huis niet meer in kon omdat de software haar niet herkende.
Volgens Clarke moet juist Amerika, als land dat het meest vooruitloopt qua technologische ontwikkeling, en tegelijkertijd een land dat 'has not yet cracked the code on diversity', werk maken van de voordelen van AI voor al haar burgers. Data privacy is wat haar betreft een prioriteit. En daarbij haalt ze ook de jongere generatie aan, die helemaal is vergroeid met het digitale ecosysteem. Er moet meer moeite worden gedaan om hen te beschermen tegen onheus gebruik van hun data. Onderwijs en voorlichting zijn belangrijk, maar regelgeving is noodzakelijk volgens Clarke.
Daarnaast maakt het hele panel zich natuurlijk zorgen over mis- en desinformatie en de invloed die dit kan hebben op de democratie zelf. De fake robocalls die de stem van president Biden imiteerden en stemmers opriepen om niet te gaan stemmen, werden snel aangepakt. Maar hoe zit dat als het niet om een hoog profiel als de president gaat? De oplossing wordt vooral gezocht in de authenticatie van informatie. Waar komt de informatie vandaan, wat is de bron? Maar hoe dat vorm moet krijgen, wordt helaas niet helemaal duidelijk.
Volgens Rich Gagnon ligt een meer overkoepelend deel van de oplossing in human values als uitgangspunt voor alle toepassingen. Het gaat volgens hem niet zozeer over de technologie, maar veel meer over beter inzicht hebben in hoe die technologie verschillende groepen in de samenleving kan ondersteunen. Dus niet vanuit een techno perspectief, maar vanuit een 'human central' strategie. Wat wil je bereiken en voor wie? Hoe betrek je de toekomstige gebruikers bij het proces en maak je beslissingen transparant? Hij noemt onder andere de samenwerking met Digital Rights House, om zijn team daar scherp op te houden.
Op de vraag wat de belangrijkste toekomstige vaardigheden zijn in een AI maatschappij, geven alle panelleden aan dat het uiteindelijk niet gaat om computer science majors, maar juist om mensen die kritisch kunnen denken. In het team van Rich Gagnon heeft minder dan 10% computer science gestudeerd. Anderen hebben achtergronden zo divers als design, engineering, geschiedenis en rechten. Maar de kritische houding is hetgeen wat ze allemaal gemeen hebben. En daar zal het in de toekomst steeds meer om gaan.
