Après une série de rapports mettant en évidence des préoccupations importantes liées au contenu YouTube destiné aux enfants, la plate-forme a franchi une étape spectaculaire en désactivant les commentaires sur « des dizaines de millions de vidéos qui pourraient être sujettes à des comportements prédateurs « .
Dans un nouveau billet de blog, YouTube a annoncé l’action, qui fait partie de son processus en cours pour répondre aux préoccupations suite à la découverte d’un réseau pédophile qui utilisait la plateforme pour trouver et partager des clips mettant en vedette de jeunes enfants en état de déshabillage.
Selon YouTube:
« Nous savons que beaucoup d’entre vous ont suivi de près les mesures que nous prenons pour protéger les jeunes sur YouTube et que nous sommes aussi profondément préoccupés que nous que nous y parvenions. «
La décision fait suite à la suppression récente par YouTube de plus de 400 canaux et leur activité connexe, et représente une montée en puissance significative en réponse de la plate-forme, qui a été à plusieurs reprises critiquée au cours de ses processus de modération de contenu ces derniers temps.
Peu de gens pourraient affirmer qu’il y a une préoccupation plus urgente – la protection des enfants et des jeunes utilisateurs est quelque chose que toutes les plates-formes doivent prendre au sérieux, et si la désactivation complète des commentaires pour un tel contenu est une mesure drastique, si cela aide, YouTube devrait le faire.
YouTube note que:
« Un petit nombre de créateurs pourront garder les commentaires activés sur ces types de vidéos. Ces chaînes devront activement modérer leurs commentaires, au-delà de la simple utilisation de nos outils de modération, et démontrer un faible risque de comportement prédateur. Nous travaillerons directement avec eux et notre objectif est d’augmenter ce nombre au fil du temps à mesure que notre capacité à détecter les commentaires violents continue de s’améliorer. «
YouTube dit également qu’il travaille sur un nouvel outil de « classificateur de commentaires » qui identifiera et supprimera plus efficacement les commentaires prédateurs.
C’est une énorme préoccupation de voir le contenu YouTube utilisé de cette manière, et cela souligne, une fois de plus, le côté le plus sombre d’Internet, l’exposition que tous les utilisateurs ont à ceux qui cherchent à exploiter leurs images et leur contenu. Le fait que ses enfants dans ce cas ne font qu’empirer les choses et souligne une fois de plus la nécessité pour toutes les plates-formes numériques d’allouer une plus grande partie de leurs revenus à la détection et à la suppression des contenus concernés et à la protection de leurs utilisateurs.
Cela, en soi, présente une gamme de défis complexes (il suffit de lire l’aperçu déchirant de Casey Newton sur ce que les modérateurs de Facebook traversent), mais il est clair que davantage doit être fait, plus d’efforts doivent être entrepris pour identifier et éliminer les abus.
Dans ce contexte, la désactivation des commentaires est une petite étape.
