Facebook a présenté ses dernières avancées en matière de détection précoce et de suppression des faux profils, cette fois grâce à l’utilisation de données liées aux demandes d’amis et à la variance du rejet des demandes d’amis entre de vraies personnes et de faux profils.
Comme expliqué par Facebook:
« Les réseaux sociaux en ligne sont fréquemment la cible d’acteurs malveillants qui créent de faux comptes dans le but de commettre des abus. En gros, la maltraitance se déroule en trois phases. Premièrement, les acteurs malveillants créent des comptes. Ensuite, ces comptes doivent établir des connexions avec de vrais utilisateurs (par exemple, en envoyant des demandes d’amis sur Facebook). Enfin, une fois qu’ils ont établi un nombre suffisant de connexions, les faux comptes peuvent exposer leurs réseaux sociaux à une variété d’activités malveillantes et d’abus. «
Essentiellement, les faux comptes doivent établir suffisamment de connexions pour avoir un impact réel, ils doivent donc envoyer beaucoup de demandes d’amis tôt pour gagner cette traction. Mais ces jours-ci, la plupart des utilisateurs de Facebook se méfient de plus en plus des demandes d’amis aléatoires, ce qui signifie que, par conséquent, les demandes de faux profils sont rejetées à un taux beaucoup plus élevé que celles des personnes que vous connaissez.
Facebook a constaté qu’il pouvait cartographier ce comportement, en lui donnant un point de données de base pour les rejets de vrais faux comptes.
Sur la base de cette découverte, Facebook a exploré plus en profondeur et a constaté que, dans plusieurs variantes du modèle, il est possible de créer un algorithme de base qui peut sonner l’alarme sur les faux profils probables basés sur un tel comportement.
Il existe cependant plusieurs variantes – par exemple:
« UNELe comportement intuitif que nous avons observé dans les données est que les faux comptes sont souvent prudents lorsqu’ils choisissent les cibles de leurs demandes d’amis, ce qui est le plus susceptible de maximiser la probabilité que leurs demandes soient acceptées. «
Ainsi, les faux créateurs de profils cibleront les utilisateurs qui sont plus susceptibles d’accepter les demandes d’amis de n’importe qui. L’algorithme de Facebook peut également suivre cela, en tenant compte du taux d’acceptation des amis pour un compte et en les comparant à une nouvelle activité de profil, par rapport à d’autres actions.
Le résultat final est un nouveau processus, que Facebook appelle SybilEdge, qui est capable de détecter et de mettre en évidence les faux profils probables à un taux beaucoup plus élevé.
C’est une approche assez logique de la détection de faux comptes, mais le fait que Facebook ait pu construire un algorithme autour de tels comportements est significatif. Il existe des variations dans la façon dont ces comptes agissent, et les créateurs deviennent toujours plus intelligents, mais il y aura toujours des modèles sous une forme ou une autre. Garder un œil sur ce sujet pourrait considérablement améliorer la capacité de Facebook à identifier les faux comptes plus tôt dans leur processus de création.
Il s’agit d’un domaine clé pour la plate-forme – alors que Facebook a récemment fait des progrès significatifs dans la détection et la suppression de faux profils de sa plate-forme, les faux comptes restent un problème important sur le réseau social.
L’année dernière, dans le cadre de son reportage régulier sur la transparence, Facebook a présenté un aperçu de son action renforcée pour supprimer les faux comptes, notant qu’il a supprimé plus de 5,4 milliards de faux comptes au cours des trois premiers trimestres de 2019, contre 3,8 milliards au total en 2018.
Pourtant, même avec cette activité de suppression accrue, Facebook estime que environ 5% de sa base d’utilisateurs est constituée de faux profils. À 2,5 milliards d’utilisateurs, cela signifie qu’il y a encore quelque 125 millions de faux profils actifs sur la plate-forme à l’heure actuelle.
Cela pourrait ne jamais être entièrement résolu – étant donné la valeur que les organisations peuvent tirer de la création et de l’utilisation de faux comptes, de divers moyens, il y aura toujours des développeurs travaillant sur de nouvelles façons de contourner les systèmes de Facebook et d’ajouter de faux comptes à l’application. Peut-être que 5% est le meilleur qui puisse être fait. 125 millions semblent beaucoup, mais encore une fois, à l’échelle de Facebook, c’est une petite fraction, probablement avec peu d’influence.
Pourtant, en même temps, «l’influence» à cet égard est relative. Bien sûr, à ces chiffres, vous penseriez que la capacité des faux profils d’influencer les changements politiques serait mineure, mais ils pourraient toujours être en mesure d’escroquer les utilisateurs avec des escroqueries, d’amplifier les escroqueries au clic-appât qui ajoutent des logiciels malveillants aux appareils des utilisateurs, ou fournissent des milliers d’abonnés à de faux « influenceurs » qui cherchent à se présenter comme quelque chose qu’ils ne sont pas.
À quelque titre que ce soit, les faux profils restent problématiques, c’est pourquoi il est bon de voir Facebook explorer de nouvelles façons de détecter et de supprimer ces derniers de la plate-forme.
Vous pouvez lire le rapport de recherche complet de Facebook « Friend or Faux: détection précoce basée sur un graphique des faux comptes sur les réseaux sociaux » ici.
