Facebook interdit les « deepfakes » et supprimera tout contenu manipulé

Alors que la campagne électorale présidentielle est en cours aux États-Unis, Facebook a annoncé que les vidéos et photos manipulées seraient interdites. Les soi-disant deepfakes seront éliminés de toutes ses plateformes, aussi bien Facebook qu’Instagram, Messenger…

Facebook supprimera les deepfakes créés grâce à l’intelligence artificielle, mais pas les vidéos manipulées à l’aide d’un logiciel de montage.

Ce changement de politique a été annoncé dans un article de blog. Dans la publication, Facebook a indiqué qu’il commencerait à éliminer les contenus modifiés « afin que n’ai pas l’air faux«. Autrement dit, il éliminera tout contenu qui a été manipulé de telle manière qu’une « personne moyenne » ne peut pas faire la différence ou qui a été créé à l’aide de l’intelligence artificielle ou algorithmes d’apprentissage automatique.

Ce n’est pas la première fois que l’entreprise envisage de résister aux deepfakes. La mesure n’inclut pas les contenus parodiques ou satiriques, et ne supprimera pas non plus les vidéos qui ont été éditées pour couper des mots ou modifier l’ordre de certaines phrases.

Ce changement de politique intervient avant une audience de la Chambre sur l’énergie et le commerce sur la manipulation des médias qui est prévue demain. L’auteur de la publication, Monika Bickert, vice-présidente de la gestion politique mondiale de Facebook, représentera le géant des réseaux devant les législateurs lors de l’audience qui aura lieu cette semaine.

L’interdiction des deepfakes intervient après qu’une vidéo falsifiée de la présidente de la Chambre, Nancy Pelosi, soit devenue virale sur les réseaux sociaux l’été dernier. Cette vidéo a été largement visionnée sur Facebook et, interrogée, la société a déclaré que la vidéo ne violait pas pas de politique d’entreprise.

La nouvelle interdiction de Facebook n’affecterait toujours pas la vidéo de Pelosi, puisqu’elle n’a pas été créée à l’aide d’une intelligence artificielle, mais avec un logiciel d’édition cela a permis de manipuler le discours.

D’autres plateformes ont également été affectées par le problème vidéo de Pelosi. En novembre, Twitter a commencé à élaborer sa propre politique de protection contre les deepfakes et a sollicité les commentaires des utilisateurs sur les futures règles de l’entreprise. Pour le moment, Twitter ne publie toujours aucune directive sur les médias manipulés.