YouTube a annoncé une extension de son processus de détection automatisée de contenu, qu’il utilise actuellement pour capturer les téléchargements qui illustrent la violence graphique, la nudité ou le discours de haine.
À présent, YouTube étendra son utilisation de ses outils d’IA pour couvrir davantage de types de violations de règles, et classera par la suite plus de téléchargements qui ne sont pas appropriés pour les utilisateurs de moins de 18 ans.
Comme expliqué par YouTube:
«Aujourd’hui, notre équipe Confiance et sécurité applique des restrictions d’âge lorsque, au cours de l’examen du contenu, elles rencontrent une vidéo qui ne convient pas aux spectateurs de moins de 18 ans. À l’avenir, nous nous appuierons sur notre approche consistant à utiliser l’apprentissage automatique pour détecter contenu à examiner, en développant et en adaptant notre technologie pour nous aider à appliquer automatiquement des restrictions d’âge. «
Lorsqu’une vidéo est soumise à une limite d’âge, les utilisateurs devront être connectés pour l’afficher.
« S’ils ne le sont pas, ils voient un avertissement et sont redirigés vers d’autres contenus adaptés à leur âge. Notre Règles de la communauté comprendre conseils aux téléverseurs sur le moment où le contenu doit être soumis à une limite d’âge. »
L’effort d’application élargi aidera à assurer la sécurité des jeunes utilisateurs sur la plate-forme – ce qui est sans aucun doute une préoccupation importante pour les nombreux parents qui tentent de divertir leurs enfants pendant les verrouillages COVID-19. En effet, dans une enquête récente, 64% des répondants ont indiqué avoir regardé plus de contenu YouTube pendant la période de verrouillage, tandis que pour les enfants, les stars de YouTube sont désormais des influenceurs clés, sans doute plus que les présentateurs de télévision traditionnels.
YouTube est connu pour entraîner parfois les téléspectateurs vers le bas en ce qui concerne les trous de lapin, via ses recommandations vidéo connexes. Avec cette nouvelle poussée, cela devrait signifier que moins de ces clips «Up Next» finissent par égarer les jeunes téléspectateurs.
Et YouTube s’attend à voir une augmentation du contenu marqué comme « plus de 18 ans seulement » en conséquence:
« Étant donné que notre utilisation de la technologie entraînera une augmentation du nombre de vidéos soumises à une limite d’âge, notre équipe chargée des politiques a profité de cette occasion pour revenir sur les limites du contenu soumis à une limite d’âge. Après avoir consulté des experts et comparé à d’autres cadres mondiaux de classification du contenu, seulement des ajustements mineurs ont été nécessaires. Nos pages de règles ont été mises à jour pour refléter ces changements. Toutes les modifications décrites ci-dessus seront appliquées au cours des prochains mois. «
Les téléverseurs pourront faire appel de toute décision qui, selon eux, n’a pas été correctement appliquée, mais YouTube affirme qu’il ne prévoit pas que le changement aura un impact majeur sur les revenus des créateurs, car la plupart des vidéos concernées enfreignent également ses consignes de convivialité pour les annonceurs. donc pas éligible pour les annonces dans les deux cas.
YouTube développe ses systèmes sur ce front depuis un certain temps. Le mois dernier, YouTube a signalé que entre avril et juin de cette année, il a supprimé 11 401 696 vidéos pour violation de ses règles de contenu, la grande majorité d’entre elles étant automatiquement signalées par ses systèmes.
En tant que tel, étendre ses systèmes semble être une valeur relativement sûre – et encore une fois, avec autant d’enfants passant du temps sur la plate-forme, c’est une décision importante, qui pourrait avoir des avantages positifs majeurs.
Mais cela entraînera aussi, sans aucun doute, des faux positifs et des restrictions erronées. Cela pourrait avoir un impact sur les créateurs YouTube qui cherchent à monétiser leur contenu, mais comme pour toutes les nouvelles règles de YouTube, tout ajustement ne prend que peu de temps et les créateurs peuvent généralement gérer tous les impacts.
C’est également un élément clé des efforts publicitaires de YouTube. En 2017, diverses grandes marques ont réduit ou réduit leurs dépenses publicitaires sur YouTube après que leurs annonces aient été affichées à côté d’un contenu offensant. Ce boycott aurait coûté des millions de dollars à YouTube en revenus, et c’est ce qui a vraiment incité YouTube à améliorer ses systèmes de détection automatisés, ce qui a maintenant conduit à cette dernière mise à jour.
Dans le même temps, YouTube subit une pression croissante pour réduire sa dépendance à l’égard des humains pour la modération du contenu, avec un nouveau procès intenté contre la plate-forme pour des allégations de SSPT d’anciens membres du personnel de modération. En tant que tel, YouTube a une motivation importante pour augmenter sa dépendance aux outils d’IA pour cette tâche, même si cela finit par conduire à des catégorisations et des restrictions plus incorrectes.
En plus de cela, YouTube ajoute également un nouveau processus de vérification de l’âge:
« Dans le cadre de ce processus, certains utilisateurs européens peuvent être invités à fournir une preuve d’âge supplémentaire lorsqu’ils tentent de regarder du contenu réservé aux adultes. Si nos systèmes ne parviennent pas à établir qu’un spectateur a plus de 18 ans, nous leur demanderons de fournir un contenu valide. Une pièce d’identité ou une carte de crédit pour vérifier leur âge. «
La mise à jour est conforme à l’évolution des règles de l’Europe sur le contenu numérique, y compris le ra révisé la Directive sur les services de médias audiovisuels (SMAV) qui a été promulguée l’année dernière.
