Door Gerard Dielessen
De onweerstuitbare opkomst van kunstmatige intelligentie biedt de journalistiek ongelooflijk veel kansen. Toch zijn er ook talloze bedreigingen. Daar ging het misschien nog wel meer over dan over de kansen tijdens al die inspirerende SXSW24-sessies hier in Austin. Ook tijdens onze eigen beschouwingen kwamen we eenvoudig tot de conclusie dat kunstmatige intelligentie een fascinerend en inspirerend fenomeen is en mensheid echt verder vooruit kan helpen. Maar dan moeten we tegelijkertijd de bedreigingen wel serieus nemen.
Als je met een aantal geïnteresseerde mensen in een huis zit dan ontkom je daar niet aan doorwrochte inhoudelijke nabetrachtingen, het verkennen van interessante filosofische vergezichten en zo nu en dan een heftige discussie. Soms tot diep in de nacht. En de volgende dag weer scherp. The full treatment dus. Heerlijk. SXSW24.
Tsja, kansen en bedreigingen dus voor de media en de journalistiek in het bijzonder. Daar hebben we het veel over gehad de afgelopen dagen. En over wat dat dan weer betekent voor de democratie. Ik schreef daar al eerder over in het stuk ‘Hoe bedreigend is AI voor de democratie?’
Vertrouwen
Verantwoordelijkheid en vertrouwen. Dat zijn wel kernbegrippen die steeds weer terugkomen in de discussie over het gebruik en de gevolgen van de opmars van kunstmatige intelligentie in ons dagelijks bestaan.
Goed, eerst maar eens terug naar de journalistiek.
Laat ik eens beginnen met de voordelen van AI op een rij te zetten.
Er kan veel sneller worden geproduceerd omdat kunstmatige intelligentie (AI) journalisten in staat stelt om met behulp van geavanceerde algoritmen automatisch artikelen, samenvattingen of zelfs hele rapporten in zeer korte tijd te (laten) produceren.
Door AI te gebruiken kunnen journalisten grote datasets en andere relevante stukken snel laten analyseren waardoor patronen en trends worden herkend, die ze vervolgens kunnen uitwerken in hun nieuwsverhalen.
AI versterkt ook de creativiteit. Chat GPT is bijvoorbeeld heel goed in staat om nieuwe ideeën aan te dragen, voorstellen te doen voor nieuwe formats of vertelstijlen.
Generatieve AI stelt mediaorganisaties in staat om content op maat te maken voor individuele lezers op basis van hun voorkeuren, interesses en gedrag. Daarmee kan de betrokkenheid van je publiek verder worden vergroot natuurlijk. Het gevaar daarvan is wel dat je meehelpt aan het creëren van bubbels. Vriend Buitelaar schreef daar over in zijn verslag over Rio. Een AI-audiodienst van het bedrijfje Curio.
Een ander belangrijk voordeel is dat AI journalisten kan helpen om hun taalvaardigheid te verbeteren door suggesties te doen voor betere zinsconstructies, woordkeuzes en grammatica.
Als laatste noem ik hier het voordeel van schaalbaarheid. Door automatisering kunnen, vooral, kleine mediaorganisaties hun journalistieke productie opschalen zonder daarvoor extra mensen aan te nemen.
En dan ben ik met bovenstaande opsomming vast niet volledig.
Bedreigingen
Tot zover het goede nieuws. Want het gebruik van AI in de journalistiek neemt ook grote risico’s met zich mee. Dat werd ook wel duidelijk tijdens veel SXSW-sessions dit jaar. Zo deden professor Joan Donovan (professor Journalism and Emerging Media Studies van de Boston University) en Colorado Secretary of State Jena Griswold in één van de bijeenkomsten een klemmend beroep op de journalistiek om misinformatie tegen te gaan. Beiden vinden dat er een zware verantwoordelijkheid ligt op de schouders van de journalistiek, waardoor zij als het ware de ‘poortwachters’ zijn geworden van onze vrije democratie. Grote woorden, een grote opdracht bovendien. Een worsteling tegelijkertijd.
Dat bleek ook uit de sessie AI and Journalism: The Massive Consequences When Truth is AI. In het panel vertegenwoordigers van CNN en The Washington Post. Bernadette Tuazon, director of Photography van CNN bekende dat ze een jaar geleden nog geen idee had over de gevolgen van AI voor haar werk als fotochef van één van de grootste nieuwsagency's ter wereld. Ze heeft zich met grote spoed laten bijscholen, gesprekken gevoerd met AI-deskundigen en veel meer. Dat hij bijvoorbeeld tot gevolg dat zij snel in de gaten had dat de foto van prinses Kate en haar kinderen was gemanipuleerd door het Britse Koninklijk Huis. Ze liet de foto niet offline halen, maar ze besloot, in overleg met de redactie, het verhaal over de gemanipuleerde foto te vertellen.
Wat bij deze grote mediabedrijven centraal staat is het kernwoord vertrouwen. Verkeerde onware publicaties kunnen de reputatie van mediaorganisaties in now time te niet doen. Stilzitten is er dus niet bij. Je redactie inrichten op het herkennen van gemanipuleerde foto’s en video’s en misinformatie is essentieel om het vertrouwen van het publiek te behouden. Daar waren alle panelleden het met elkaar zeer over eens.
In het verlengde daarvan waag ik hier een poging om de nadelen van generatieve kunstmatige intelligentie voor de journalistiek op een rij te zetten.
Allereerst is het met behulp van AI dus heel gemakkelijk om desinformatie te verspreiden. Valse nieuwsberichten, misleidende informatie of nepnieuws kan door AI gemakkelijk worden gemaakt en is dan nauwelijks van echt te onderscheiden.
Automatische gegenereerde berichten kunnen fouten en onnauwkeurigheden bevatten, vooral als het gebruikte algoritme is getraind op onbetrouwbare en bevooroordeelde gegevens. Daarom is menselijke controle zo belangrijk.
Dan zijn er de privacyrisico’s. Kunstmatige intelligentie kan worden gebruikt om persoonlijke gegevens te verzamelen, wat kan leiden tot inbreuk op de privacy van individuen. Daar moeten journalisten zich goed bewust van zijn.
Media moeten zich er bewust van zijn dat ze niet té afhankelijk worden van AI. Het risico bestaat dat ze dan hun oordeelsvermogen en kritisch denkvermogen verliezen. Het vinden van een goede balans is essentieel.
Met behulp van AI kan nieuws heel eenvoudig worden gepersonaliseerd. Daar is op zich niets mis mee, maar het gevaar bestaat dat er al snel gesloten informatiebubbels ontstaan. Het vinden van een juist balans van hetgeen mensen specifiek interesseert en van nieuws dat voor de algemene samenhang van de samenleving van belang is belangrijk en een kerntaak van de journalistiek, naar mijn vaste overtuiging.
Dan een hele belangrijke: AI kan worden gebruikt voor het manipuleren van audio-, video- en tekstinhoud. Daar zijn al vele voorbeelden van bekend en die vooral als doel hebben om vals bewijsmateriaal te creeren of om gewoon de werkelijkheid te verdraaien voor eigen gewin.
Niet-transparant
AI-systemen zijn vaak moeilijk te begrijpen of te doorgronden en zeker niet transparant. De grote tech-bedrijven, zoals OpenAI, Google, Amazon, Microsoft, Apple houden zich nauwelijks bezig met al deze ethische aspecten van de exponentionele ontwikkeling van generatieve kunstmatige intelligentie. Terwijl ze wel een belangrijke bijdrage zouden kunnen leveren. Krtische opmerkingen van interviewers of vragen vanuit het publiek gingen vertegenwoordigers van deze techs tijdens SXSW vaak uit de weg met nietszeggende antwoorden.
Daarom is het wat mij betreft essentieel dat mediaorg
anisaties en hun journalisten al deze bedreigingen serieus nemen. Opleidingen, trainingen, gesprekken en het opstellen van richtlijnen hoe verantwoord om te gaan met deze nieuwe technologische toepassingen vormen de basis van het behoud van het vertrouwen van het grote publiek. Maak een manifest waarin transparantie en verantwoording zijn vastgelegd. Waarin wordt beschreven dat de eindredactie nooit kan worden overgelaten aan slimme machines. Het zijn de mensen, de journalisten die daar aan het einde van de dag verantwoordelijk voor zijn.