shutterstock_331994210_CMJN

Silicon Valley face à ses responsabilités

La révolution numérique s’est accompagnée de son lot d’addictions, à commencer par la chasse aux likes sur les réseaux sociaux. Ce qu’on sait moins, c’est que les applications technologiques sont pensées autour de la manipulation comportementale des utilisateurs, au détriment de leur santé mentale. Contrairement aux avertissements habituels concernant l’intelligence artificielle et l’automatisation, la plus grande menace pour l’humanité à court terme ne vient pas de nos machines, mais des personnes qui les conçoivent.

Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.

En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.

Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.

La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.

Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.

En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.

S'abonner à SAY
3écrans+4couv transparent 240 dpi

S'abonner à SAY

Profitez d'un accès illimité aux idées et opinions des plus grands penseurs du monde, y compris des lectures hebdomadaires, des critiques de livres et des interviews !  

Offre de l'été : 70€ au lieu de 78€

S'abonner maintenant !

Propriété des données personnelles

Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?

Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.

Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.

En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.

https://www.say.media/PfrVUZZ