Dans les années 60, la CIA dirigeait un programme secret appelé « MKUltra », qui était chargé de mener des expériences humaines dans le but de développer des médicaments et des procédures qui «affaibliraient l’individu et forceraient les aveux à contrôle de la pensée ». Cela ressemble à de la science-fiction (ce qu’elle est d’ailleurs devenue), mais cette recherche a en fait eu lieu et a eu des impacts durables pour divers participants.
Parmi ces expériences, il y en avait une qui impliquait des implants cérébraux, avec des chiens censés courir et s’arrêter sans commandes verbales ou physiques, uniquement par le biais de ces implants connectés à leur cerveau.
C’est assez bizarre, non? C’est ce à quoi m’ont fait penser ces dernières nouvelles sur Facebook, avec les implications potentielles de ce domaine d’enquête qui semblent virer à un territoire très discutable, très préoccupant.
Selon les rapports, Facebook a acquis une start-up appelée CTRL-Labs, une entreprise qui travaille sur un logiciel qui permettrait aux gens de contrôler un avatar numérique, en utilisant uniquement leurs pensées.

Selon Bloomberg:
« La start-up de quatre ans, qui compte des dizaines d’employés et a levé des dizaines de millions de dollars en capital-risque, utilise un bracelet pour mesurer l’activité neuronale dans le bras d’un sujet afin de déterminer le mouvement auquel la personne pense, même si ce n’est pas le cas. t physiquement en mouvement. Cette activité neuronale est ensuite traduite en mouvement sur un écran numérique. «
Facebook paierait entre 500 millions et 1 milliard de dollars pour CTRL-Labs, qu’il apportera à ses équipes de recherche expérimentale pour poursuivre ses travaux sur la prochaine phase de connexion numérique. Ce qui pourrait être la connexion directe de Facebook à votre cerveau – ce qui ne semble pas être une idée particulièrement intéressante.
Facebook travaille en fait sur le même depuis un certain temps. En 2017, lors de sa conférence F8 Developer cette année-là, The Social Network a révélé qu’il avait un Équipe de 60 personnes travailler sur un nouveau système qui permettrait aux utilisateurs de taper des mots à l’écran, simplement en pensant à ce qu’ils voulaient dire.

Cette annonce est venue de Facebook secret ‘Bâtiment 8‘division, qui a depuis été dissoute – mais l’acquisition de CTRL-Labs montre qu’il s’agit toujours d’un domaine d’enquête actif, Facebook travaille toujours sur des outils qui pourraient, essentiellement, lire vos pensées.
Bien entendu, un tel système présente des avantages. Facebook a noté qu’une telle innovation aiderait les personnes atteintes de paralysie sévère, de la même manière technologie de reconnaissance d’image automatisée aide les malvoyants.
Il y a des exemples d’utilisation clairement bénéfiques pour ce genre de choses – mais la plus grande question à laquelle tout le monde se pose sans aucun doute est: «devrions-nous faire confiance à Facebook pour envahir nos pensées mêmes?
La réponse simple, pour le moment, est non. Facebook a montré à maintes reprises qu’il n’est pas particulièrement doué pour réfléchir à toute la gamme des implications potentielles de ses outils – que ce soit la façon dont les données personnelles des gens peuvent être utilisées à mauvais escient, comment les agents politiques peuvent manipuler les utilisateurs via son système publicitaire, comment ce système publicitaire lui-même peut être utilisé pour un ciblage discriminatoire. Facebook est très ambitieux, et à juste titre, mais il a été démontré à plusieurs reprises qu’il n’accordait pas suffisamment de poids ou de considération aux inconvénients potentiels de ses fonctions.
Compte tenu de cela, même l’imagerie des impacts potentiels des puces cérébrales Facebook ramène ces vibrations MKUltra effrayantes.
Cela dit, c’est loin. Facebook investit vraiment dans l’avenir, la prochaine génération de consommateurs numériques, le prochain niveau de connectivité technologique. Facebook ne va pas sortir avec des connecteurs « jack-in » de type Matrix pour votre cerveau cette semaine, ou même cette décennie, nécessairement. Mais l’acquisition soulève un niveau d’inquiétude quant à la direction que prend Facebook et aux sauvegardes et protections mises en place par les régulateurs pour garder le contrôle de ces expériences à mesure qu’elles évoluent.
Et si les exemples susmentionnés mettent en évidence les propres failles de Facebook, ils soulignent également les échecs de nos organes de surveillance à prédire les mêmes résultats et à les contrôler efficacement. Et compte tenu de cela, les progrès de Facebook devraient susciter des inquiétudes importantes – à la fois en termes de ce qu’ils peuvent faire et de ce qu’ils sont autorisés à mettre sur le marché.
Encore une fois, il y a du temps, mais Facebook pourrait bien avoir besoin de contraintes externes plus rigoureuses pour passer à cette phase suivante. Nous espérons que les mesures nécessaires seront prises pour assurer une surveillance appropriée.
