Ils créent un filtre qui élimine le « nu » dans les DM Twitter
L’envoi de « nus » est une pratique qui consiste à envoyer des photographies de corps nus à des personnes sans leur consentement. Il est principalement envoyé aux femmes – par des personnes ou des robots – qui déclenchent une sorte de « harcèlement sexuel » à leur encontre et il est un peu plus populaire sur Twitter qu’on ne le pense. Compte tenu de cette action, un filtre a été créé qui permet de détecter et de supprimer la photo, en plus de bloquer l’utilisateur qui l’a envoyée.
Pour activer le filtre contre les « nus », vous devez accéder au site « register.safedm.com » et fournir les données du compte Twitter à protéger.
Ce n’est pas une fonctionnalité native de Twitter ou une initiative portée par le réseau social, mais de Kelsey Bressler, une étudiante qui a lancé une campagne intitulée « Safe DM » et le slogan « Dick-Free DMS ». Sa création est un filtre qui utilise l’Intelligence Artificielle qui permet de vérifier le contenu des messages directs pour détecter ces images – en particulier le pénis de l’homme – en supprimant automatiquement la photo et en bloquant l’utilisateur qui l’a envoyée.
Apparemment, cette jeune analyste et testeuse de logiciels en avait assez de recevoir des photos d’hommes nus sans leur consentement, elle a donc décidé de lancer la campagne et de développer cet algorithme. Pour utiliser le filtre, vous devez accéder au site officiel «register.safedm.com» et fournir les données du compte Twitter à filtrer. Cela permet à l’algorithme d’entrer dans le profil et de protéger le compte de ces photographies inappropriées. Voici un tweet de la jeune femme invitant ses followers à faire partie du projet :
Pour entraîner l’intelligence artificielle de ce filtre, de vraies photos et des envois de nus ont été utilisés via des messages directs sur un compte Twitter créé pour aider expressément l’algorithme. Il s’agit de @showYoDiq et dans sa biographie de profil, il demande à envoyer des nus sur ce compte tant qu’il a plus de 18 ans, avertissant qu’il participe à une expérience et que la photo est partagée de manière consensuelle.
Cela a servi de formation à l’intelligence artificielle pour renforcer la fonction de détection, d’élimination et de blocage des « nus ». Jusqu’à présent, le robot qui contrôle cette fonction a reçu plus de 4 000 photographies collaboratives, de manière altruiste, et a montré une efficacité de 99 %.
Cependant, si l’on compare ce filtre robotique avec le filtre de Twitter pour arrêter les abus dans les DM d’utilisateurs inconnus ou d’applications tierces, le processus d’apprentissage de cette Intelligence Artificielle est un peu lent. C’est le seul inconvénient existant, puisque ses performances pourraient être améliorées dans le futur avec l’intégration directe du service Twitter.
