‘De ontwikkelingen op het gebied van deepfakes gaan zo snel, dat het voor regelgeving moeilijk is om het tempo bij te houden. In de AI-wet, die sinds anderhalf jaar in ontwikkeling is, staan maar een paar regels geschreven over generatieve AI. Met het project SOLARIS willen mijn collega-onderzoekers en ik een bijdrage leveren aan de regelgeving.’

Digitale geletterdheid

‘De oorspronkelijke gedachte was dat deepfakes vooral een bedreiging zouden kunnen vormen voor democratische processen op een heel hoog niveau, maar nu zien we de ontwikkeling verschuiven naar iets dat ieder individu zou kunnen raken. Moeten we dan nu in paniek raken? Nee. We moeten verschillende generaties uitrusten met digitale geletterdheid en wat de implicaties zijn van delen. Hiervoor ligt een verantwoordelijkheid bij instituties op verschillende niveaus: de overheid natuurlijk, via regelgeving, maar ook organisaties als universiteiten en grote bedrijven.

Met de projectgroep SOLARIS ondersteunen we deze ontwikkelingen door te simuleren hoe fake news en deepfakes worden gedeeld op sociale media. We gaan ook de relatie tussen de kwaliteit van de deepfake en de geloofwaardigheid ervan onderzoeken. Hoe overtuigend de uiteindelijke deepfake zal zijn, hangt af van een heleboel factoren. Natuurlijk hoe goed de maker is met technologie, maar ook de kwaliteit van de originele video en/of audio, en hoeveel tijd je hebt voor de productie van de deepfake. En maakt het bijvoorbeeld verschil voor de geloofwaardigheid dat een video eruitziet alsof hij is gemaakt door een betrouwbaar nieuwsmerk zoals de NOS?

We gaan ook informatie verzamelen over de nieuwsconsument: waarom sommigen eerder geneigd zijn fake news te geloven en welke verspreidingswijzen het meest geloofwaardig zijn. Een van mijn hypothesen is dat fake news dat je rechtstreeks wordt toegestuurd door iemand die je kent, bijvoorbeeld op Whatsapp, door meer mensen zal worden geloofd dan een deepfake op je Facebook-feed.’

De positieve toepassingen van generatieve AI

‘Mensen moeten zich bewust zijn van de gevaren van generatieve AI, maar er zijn ook positieve toepassingen mogelijk. Zo wordt generatieve AI al ingezet in het onderwijs en de gezondheidszorg, om een politiek leider mensen te laten aanspreken in verschillende talen en om gevaarlijke filmscènes op te nemen zonder dat je hiervoor acteurs hoeft te gebruiken. Een Spaanse minister tweette over deepfakes: geld mag niet worden vervalst, en mensen ook niet. Ik vind dat te zwart-wit: we moeten niet te rechtlijnig zijn in het bestempelen van generatieve AI als “goed” of “slecht”.’  

‘Ik denk wel dat iedereen zijn verantwoordelijkheid moet nemen als individu: wees voorzichtig met wat je deelt en wees kritisch over wat je gelooft. Veel mensen denken dat je vooral selectief moet zijn in wat je deelt via traditionele social media zoals Twitter en Facebook, maar dit is niet het geval. Het geldt voor alles wat je via het internet van jezelf verspreidt. Deel je weleens een stemopname via Whatsapp? Dan kan er ook van jou een deepfake wordt gemaakt.’

Federica Russo is wetenschapsfilosoof en als onderzoeker verbonden aan de projectgroep SOLARIS, die een bijdrage wil leveren aan wetgeving op het gebied van AI en met bijvoorbeeld simulaties onderzoekt hoe fake news en deepfakes worden gedeeld op sociale media.