Facebook détectera les « deepfakes » et leur origine grâce à la rétro-ingénierie
Facebook traque depuis un certain temps la publication de deep fake vidéos sur le réseau social et vient d’annoncer une avancée importante pour les combattre, retraçant également leur origine. Il s’agirait d’une évolution de son interdiction de publier ce contenu et de sa volonté d’éliminer tout contenu manipulé qui est publié sur le réseau social, politique lancée l’an dernier à l’occasion des élections présidentielles aux États-Unis d’Amérique.
De fausses vidéos profondes superposent de manière réaliste les gestes d’autres individus sur les visages de personnes célèbres
Dans un effort conjoint avec la Michigan State University, Facebook développe une méthode qui utilise le rétro-ingénierie pour identifier les deepfakes. Esto supone que, partiendo del análisis de una imagen (un vídeo, en este caso) puede comprobarse si ha sido generada de manera artificial y en su caso a partir de qué modelo de inteligencia artificial y con qué herramienta, con lo que podría rastrearse su Origine.
La méthode en cours de développement permettrait de détecter des patterns que les outils de création de ce type de contenu incluent dans les vidéos, ce qui permet de découvrir que la vidéo est un deepfake et avec quel outil elle a été générée.
Ces modèles sont appelés hyperparamètres, et parce qu’ils doivent être adaptés à chaque modèle d’apprentissage automatique, comme les rouages d’une machine, ils révèlent une sorte d ‘«empreinte digitale» sur chaque vidéo qui vous permettrait de retracer sa provenance.
Du comparaison de ces modèleset en traçant la publication de ces vidéos sur le réseau social fondé par Zuckerberg, ils espèrent pouvoir déterminer l’origine des vidéos en comparant les marqueurs présents dans différentes vidéos, avec lesquels ils pourraient même identifier la personne qui les a générées. .
Pour le moment, cet outil est dans une phase de développement très préliminaire, il n’est donc pas prévu qu’il soit utilisé à court terme.
