Managed hosting door True

Meer regulering nodig voor deepfake

Tilburgse onderzoekers zien handhaving tekort schieten

 

Makers van deepfakes genieten te veel vrijheid, voor alles omdat de handhaving erop ernstig tekort schiet. Door ook het produceren en aanbieden van bijvoorbeeld fake-porno te verbieden, is deze ontwikkeling beter aan banden te leggen. Thans is alleen het gebruik van deepfakes voor specifieke doeleinden strafbaar. Maar dan is het kwaad al geschied.

Dat blijkt uit een vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology and Society (TILT). De onderzoekers stellen vast dat het huidige recht al veel regels stelt aan deepfakes. Denk aan het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming (AVG) en het recht op vrijheid van meningsuiting. Maar de handhaving van deze regels blijft achter. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een aantal opties tot regulering.

Een daarvan is niet alleen het gebruiken en in bezit hebben van deepfake te verbieden, maar ook het ontwikkelen en verspreiden op de consumentenmarkt. Daarnaast is te overwegen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.

Zeer realistisch

"Experts verwachten dat over vijf jaar meer dan negentig procent van alle online-content geheel of gedeeltelijk gemanipuleerd zal zijn"

Een deepfake, een samentrekking van 'deep learning' en 'fake', bestaat uit een beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. Experts verwachten dan ook dat over vijf jaar meer dan negentig procent van alle online-content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnieken zijn beperkt in capaciteit en kunnen slechts een deel van het fake-materiaal automatisch wegfilteren.

Door de opkomst van deepfakes zal de vraag naar de echtheid vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes zijn te gebruiken om nepnieuws te verspreiden. Het is ook mogelijk ermee verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake-pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde.

Seksuele handelingen

De onderzoekers stellen nu dat een brede discussie omtrent de wenselijkheid van deepfakes noodzakelijk is. Meer bewustwording en regelgeving zijn te overwegen, waarbij de prioriteit moet liggen bij het beïnvloeden van verkiezingen via fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.

Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fake-materiaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.

Zeker veel aandacht behoeft de aanpak van zogenoemde non-consensual porn. Naar schatting ruim 95 procent van alle deepfakes betreft pornovideo’s waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl daar helemaal geen sprake van is geweest. Het is bekend dat de verspreiding van dergelijke video’s een grote impact kan hebben op jonge meisjes.

Opdrachtgever van de studie is het Wetenschappelijk Onderzoek- en Documentatiecentrum (WODC), het kennisinstituut voor het ministerie van Justitie en Veiligheid. 

Dit artikel is afkomstig van Channelweb.nl (https://www.channelweb.nl/artikel/7299331). © Jaarbeurs IT Media.

?


Lees ook


 

Jouw reactie


Je bent niet ingelogd. Je kunt als gast reageren, maar dan wordt je reactie pas zichtbaar na goedkeuring door de redactie. Om je reactie direct geplaatst te krijgen, moet je eerst rechtsboven inloggen of je registreren

Je naam ontbreekt
Je e-mailadres ontbreekt
Je reactie ontbreekt
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste resellernieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in

Stuur door

Stuur dit artikel door

Je naam ontbreekt
Je e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.