Controversie verkoopt en dus zijn we voorlopig niet van deepfakes af

Door Erwin Blom

Controversie verkoopt, stelt Ben Colman, de oprichter van Reality Defender in de sessie 'Defending reality vs Gen-ai; the war against deep fakes'. Het bedrijf ontwikkelt en verkoopt bedrijfs-software om deepfakes en nepmateriaal te herkennen en ontmaskeren. De software wordt verkocht aan bedrijven en overheden, maar bedrijven die AI-genererende afbeeldingen en video's maken, zijn doorgaans niet geïnteresseerd, laat hij weten. Volgens de oprichter levert controversieel materiaal uiteindelijk simpelweg reuring en dus aandacht en dus geld op. Daardoor hebben deze bedrijven naar zijn stellige overtuiging geen belang bij het voorkomen en ontmaskeren van met AI gegenereerd nep-materiaal dat voor echt moet doorgaan.

De oprichter van Reality Defender vindt dat de overheid meer stappen moet zetten om misbruik met nep-materiaal te voorkomen. Dat kan op veel terreinen. Of het nu de politiek betreft waar kwaadwillenden met AI mensen dingen kunnen laten zeggen die ze nooit gezegd hebben, of dat het het persoonlijk leven van mensen betreft waar slecht volk de identiteit van kinderen kan 'stelen' om af te persen. Colman vindt dat bij wet meer verboden moet worden. Hoewel veel al niet mag, zoals oplichting en je als een ander voordoen, meent hij dat de overheid verder moet gaan.

Echter, het bestrijden van deepfakes lijkt een kat-en-muis-spel te worden. Want ook al wordt de software van Reality Defender steeds beter, de andere AI-technologie dendert ook door. Hoe reëel is het om te verwachten dat Reality Defender blijvend nep-materiaal kan herkennen?

En stel, er komt meer en stevige wetgeving. de productie van nep-beeld en geluid is laagdrempelig en zonder grenzen. Is het vangen van de verantwoordelijke boeven realistisch en zal die genoeg prioriteit hebben? Heel eerlijk? Ik ben bang van niet.