Controversie verkoopt en dus zijn we voorlopig niet van deepfakes af

Door Erwin Blom

Controversie verkoopt, stelt Ben Colman, de oprichter van Reality Defender in de sessie 'Defending reality vs Gen-ai; the war against deep fakes'. Het bedrijf ontwikkelt en verkoopt bedrijfs-software om deepfakes en nepmateriaal te herkennen en ontmaskeren. De software wordt verkocht aan bedrijven en overheden, maar bedrijven die AI-genererende afbeeldingen en video's maken, zijn doorgaans niet geïnteresseerd, laat hij weten. Volgens de oprichter levert controversieel materiaal uiteindelijk simpelweg reuring en dus aandacht en dus geld op. Daardoor hebben deze bedrijven naar zijn stellige overtuiging geen belang bij het voorkomen en ontmaskeren van met AI gegenereerd nep-materiaal dat voor echt moet doorgaan.

De oprichter van Reality Defender vindt dat de overheid meer stappen moet zetten om misbruik met nep-materiaal te voorkomen. Dat kan op veel terreinen. Of het nu de politiek betreft waar kwaadwillenden met AI mensen dingen kunnen laten zeggen die ze nooit gezegd hebben, of dat het het persoonlijk leven van mensen betreft waar slecht volk de identiteit van kinderen kan 'stelen' om af te persen. Colman vindt dat bij wet meer verboden moet worden. Hoewel veel al niet mag, zoals oplichting en je als een ander voordoen, meent hij dat de overheid verder moet gaan.

Echter, het bestrijden van deepfakes lijkt een kat-en-muis-spel te worden. Want ook al wordt de software van Reality Defender steeds beter, de andere AI-technologie dendert ook door. Hoe reëel is het om te verwachten dat Reality Defender blijvend nep-materiaal kan herkennen?

En stel, er komt meer en stevige wetgeving. de productie van nep-beeld en geluid is laagdrempelig en zonder grenzen. Is het vangen van de verantwoordelijke boeven realistisch en zal die genoeg prioriteit hebben? Heel eerlijk? Ik ben bang van niet.  

Zin in, SXSW2024!

Vrienden,

Vanaf 7 maart is er weer een peloton Nederlanders in Austin, Texas voor het leukste en interessantste festival dat technologie, film en muziek combineert. Het is het festival waar in het verleden o.a. Twitter en Foursquare aan de oppervlakte kwamen en waar vorig jaar AI centraal stond en waar onder meer topspelers van OpenAI van de partij waren.

Traditiegetrouw bundelen we verslagen en inzichten van de Nederlandse delegatie op een blog. Dit blog. 

Lees vanaf 7 maart de verhalen en vertrek je zelf naar Austin? Doe mee. Mail me op erwblo@gmail.com en ik voeg je toe als schrijver. Meedoen is heel simpel, verhalen mailen naar deze site volstaat!