Conseils aux plateformes sociales sur le retrait de contenu – Comment éviter les problèmes de violation des droits de l’homme

Les actions de masse du printemps arabe et des émeutes de Londres et le cas récent de Kony2012 mettent en évidence le rôle énorme que jouent les médias sociaux dans la façon dont nous pensons et agissons. Les plateformes UGC sont de plus en plus utilisées par une gamme d’acteurs civiques de manière innovante : pour amplifier leur voix, organiser des campagnes et des services d’urgence, et plaider autour de questions d’intérêt commun.

Capture vidéo de Kony 2012

Bien que les plateformes soient publiques et que le contenu provienne de l’utilisateur, il est soumis aux conditions d’utilisation (ToU) définies par les sociétés privées propriétaires des plateformes. Compte tenu de l’influence de l’UGC et du journalisme citoyen, il est alarmant de penser à ce manque de responsabilité par rapport aux normes professionnelles du journalisme – contrairement, par exemple, aux fameuses règles d’impartialité de la BBC. Quel type de normes sont définies pour garantir une approche cohérente et équilibrée de la modération ?

Au milieu de la récente fureur provoquée par les directives publiées par Facebook (les mamelons sont grossiers mais les membres écrasés sont acceptables), eModération à fait quelques recherches pour savoir s’il existe une sorte de réglementation, personnelle ou autre, qui guide les réseaux sociaux sur ce qui est et ce qui n’est pas, un contenu acceptable, et commenter les CGU doivent être transmises aux utilisateurs pour promouvoir la clarté, la transparence et la confiance.

Nous sommes tombés sur cet excellent rapport de septembre 2011 : Désactivation de compte et suppression de contenu : principes directeurs et pratiques pour les entreprises et les utilisateurspublié par le Berkman Center for Internet & Society et le Center for Democracy & Technology.

Citant le rapport :

« La clarté, la transparence et la cohérence de la manière dont ces conditions sont définies et mises en œuvre sont importantes pour tous les utilisateurs, mais pour le nombre croissant de militants des droits de l’homme qui dépendent des plateformes Web 2.0 pour les éléments essentiels de leur travail – et pour qui le contenu supprimé et les comptes supprimés peuvent avoir de graves conséquences – les enjeux sont beaucoup plus importants. Pour les fournisseurs de plaques-formes, l’application des directives du site peut nécessiter un équilibre entre des considérations complexes et souvent concurrentes, notamment le soutien aux normes communautaires et l’activité innovante des utilisateurs, tout en maintenant un environnement en ligne sûr et sécurisé, en protégeant le libre les droits à l’expression et à la vie privée des utilisateurs tout en appliquant les normes juridiques ou en répondant aux pressions du gouvernement, et en tenant compte des risques potentiels auxquels sont confrontés les militants. »

Le rapport montre comment les entreprises peuvent avoir un impact significatif sur les droits et la satisfaction des utilisateurs en étant plus claires et plus cohérentes dans la manière dont elles mettent en œuvre les conditions d’utilisation et interagissent avec les utilisateurs. Le résumé ci-dessous contient une grande partie de ce que nous recommandons régulièrement à l’un de nos clients conformément à une communauté UGC :

• Utilisez un langage clair et accessible pendant le processus d’inscription, en termes d’utilisation et dans d’autres formes de directives d’utilisation.
• Traduire les conditions d’utilisation et les directives d’utilisation dans les langues dans lesquelles les services et fonctionnalités sont proposés.
• Communiquez clairement aux utilisateurs quand et commentez les conditions d’utilisation variant d’une juridiction à l’autre.

B. Répondre lorsqu’une violation présumée des conditions d’utilisation est identifiée

• Exigez des utilisateurs qui signalent un contenu inapproprié qu’ils spécifient la règle que le contenu enfreint.
• Accompagnez les avertissements, la suppression et le blocage de contenu et les désactivations de compte d’un avis immédiat, d’une explication claire de la violation et d’une description des étapes suivantes.
• Prévoyez des étapes intermédiaires ou un processus d’escalade pendant le processus de révision du contenu ou du compte.
• Fournissez des canaux clairs par lesquels les utilisateurs peuvent contacter la plate-forme avec des plaintes, des questions et des problèmes.

C. Offrir des possibilités de recours : appels, procédure régulière et exportation de données

• Développer un processus d’appel pour réduire l’impact des erreurs ou des abus par des tiers.
• Répondez rapidement aux appels et communiquez aux utilisateurs pourquoi l’action a été prise et ce qu’ils doivent attendre du processus d’appel.
• Fournissez aux utilisateurs des options pour conserver et exporter les données lors de la désactivation des comptes.

D. Intégrer les considérations relatives aux droits de l’homme dans la pratique de l’entreprise et la conception de la plate-forme

• Tenez compte des contextes temporels, politiques, géographiques et autres lors de l’évaluation du contenu.
• Offrir une formation pertinente aux droits de l’homme au personnel, y compris aux équipes d’examen et aux gestionnaires de plateforme.
• Impliquez les institutions universitaires, les groupes de défense des droits de l’homme et les ONG locales concernant les problèmes émergents, les contextes locaux et d’autres facteurs susceptibles d’influencer l’activité et le contenu des utilisateurs et d’éclairer la prise de décision de l’entreprise.
• Incorporer les considérations relatives aux droits de l’homme à la fois dans le processus d’élaboration des politiques et dans les évaluations continues des politiques existantes.
• Élaborer des orientations spécifiques pour les militants des droits de l’homme concernant les bonnes pratiques et les règles applicables.

• Renseignez-vous sur les plateformes avec pourquoi vous vous engagez et utilisez ces services de manière responsable.
• Utilisez des étiquettes, des balises et d’autres indices pour fournir des informations contextuelles et d’autres informations pertinentes concernant votre contenu.
• Dans la mesure du possible, conservez des copies de vos documents ou téléchargez-les sur un autre service en guise de sauvegarde.
• S’engager avec des entreprises et d’autres parties impliquées en participant à des réseaux, des dialogues et d’autres efforts visant à approfondir la compréhension des problèmes émergents susceptibles d’avoir un impact sur le contenu, les droits et les activités des utilisateurs .

« Lorsque le comportement ou le contenu de l’utilisateur a généré l’attention sur les violations des conditions d’utilisation, les communications à l’utilisateur doivent s’efforcer d’expliquer pourquoi la plaque-forme émet un avertissement ou prend d’ autres mesures détaillées contre l’utilisateur et ce qui suit. Par exemple, une telle communication doit inclure :

• une description des règles spécifiques que les actions de l’utilisateur violeraient ;

• un mécanisme par lequel l’utilisateur peut demander plus d’informations sur l’allégation (par exemple, un formulaire Web ou une adresse e-mail) ;

• un mécanisme par lequel l’utilisateur peut contacter l’entreprise pour contester l’allégation, au cas où l’utilisateur pense qu’une règle a été mal appliquée à son contenu ; et,

• des liens vers des informations expliquant le processus du fournisseur de services pour répondre aux communications des utilisateurs, y compris le calendrier et ses processus de traitement des appels.

« Lorsqu’elles sont communiquées avec un avis de retrait de contenu ou un avertissement intermédiaire, ces informations éduquent l’utilisateur, lui donnent une opportunité significative d’ajuster son comportement et permettent de prévenir de futures violations. Lorsque la suppression du contenu ou la désactivation du compte (ou toute autre action intermédiaire défavorable) est imminente, la communication avec l’utilisateur peut lui permettre d’atténuer l’impact d’actions décrites contre son compte et de faire appel s’il pense qu’une erreur a été commise.

« L’avis doit être rédigé dans la langue dans laquelle l’utilisateur s’engage avec la plate-forme ; par exemple, si l’utilisateur s’engage avec la version française de la plate-forme, alors l’avis doit être en français. Sauf là où la loi l’interdit, un utilisateur doit également avoir la possibilité de récupérer son contenu ou les informations de son compte, même si son compte n’est plus accessible au public. »

Bien que ces recommandations soient excellentes, c’est dans la section D, sur les considérations relatives aux droits de l’homme, qu’elles deviennent des plus intéressantes, reconnaissant l’impact des techniques d’application des conditions d’utilisation sur les les défenseurs des droits de l’homme, les militants et ceux qui sont engagés dans le discours politique ou les efforts de réforme démocratique.

« Lorsque le compte d’un militant est fermé ou que du contenu est supprimé, cela peut paralyser une campagne en cours, supprimer un canal vital de diffusion d’informations ou anéantir des réseaux en ligne ».

Par exemple, le rapport recommande que les membres clés du personnel impliqués dans l’examen du contenu signalé soient informés du potentiel d’abus du système de plainte et de la manière de répondre aux plaintes liées à des sujets politiquement sensibles, avec des directives qui peut varier selon la langue.

Il est important de noter que ce rapport ne propose pas de solution unique pour l’ensemble complexe de défis soulevés par l’application des conditions d’utilisation (ToU). Les plaques-formes varient en termes d’historique, de mission, de contenu hébergé, de taille et de base d’utilisateurs, et aucun ensemble de pratiques ne conviendra dans tous les cas. Il ne sous-estime pas non plus la la complexité de ces défis et l’inévitabilité que les utilisateurs et les entreprises commettent des erreurs. La création de processus pratiques, évolutifs et applicables à l’échelle mondiale n’est pas une mince tâche et nécessite des solutions innovantes et des approches créatives qui s’appuient sur des processus techniques, humains et communautaires.

Des ressources utiles existent pour aider les plateformes à définir des programmes et des politiques conformes aux normes et pratiques en matière de droits humains. Les fournisseurs de services doivent consulter les principes de la Global Network Initiative sur la liberté d’expression et la confidentialité ; le cadre Protéger, acceptant et réparer créé par John Ruggie, le Représentant spécial du Secrétaire général des Nations Unies sur les sociétés transnationales et autres entreprises commerciales ; et les « Lignes directrices à l’intention des entreprises multinationales – Recommandations pour une conduite responsable des entreprises dans un contexte mondial » de l’OCDE.