La révolution numérique s’est accompagnée de son lot d’addictions, à commencer par la chasse aux likes sur les réseaux sociaux. Ce qu’on sait moins, c’est que les applications technologiques sont pensées autour de la manipulation comportementale des utilisateurs, au détriment de leur santé mentale. Contrairement aux avertissements habituels concernant l’intelligence artificielle et l’automatisation, la plus grande menace pour l’humanité à court terme ne vient pas de nos machines, mais des personnes qui les conçoivent.
Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.
En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.
Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.
La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.
Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.
En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.
Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?
Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.
Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.
En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.
Pour avoir un accès illimité à notre contenu, y compris des articles approfondis, des critiques de livres, des interviews exclusives, veuillez vous abonner.
Personne ne sait quelle tournure prendra la pandémie ou si les récentes augmentations de prix seront transitoires, ce qui signifie que les prévisions économiques sont devenues encore plus hasardeuses que jamais. Néanmoins, certaines tendances doivent être surveillées de plus près que d’autres, et certaines politiques doivent être modifiées quoi qu’il arrive.
Déchirés entre les craintes inflationnistes et la peur de la déflation, les banquiers centraux des principales économies avancées adoptent une approche attentiste potentiellement coûteuse. Seule une refonte progressive de leurs outils et de leurs objectifs peut les aider à jouer un rôle post-pandémique socialement utile.
Bien que les États-Unis soient depuis longtemps à la pointe de la technologie, la Chine constitue un défi de taille dans des domaines clés. Mais, en fin de compte, l’équilibre des forces sera déterminé non pas par le développement technologique, mais par la diplomatie et les choix stratégiques, tant à l’intérieur qu’à l’extérieur du pays.
Sur plus de 10 000 espèces d’oiseaux, près d’une sur sept est actuellement menacée d’extinction. Le sort des oiseaux, qu’il s’agisse d’individus sauvages ou d’animaux de compagnie, serait plus difficile à ignorer si davantage de personnes comprenaient à quel point ils sont intelligents et complexes.
Historiquement, les succès comme la Conférence de Bretton Woods de 1944 sont beaucoup plus rares que les rassemblements internationaux qui produisent soit de l’inaction, soit des récriminations. La clé est de se concentrer sur ce qui peut être mesuré, plutôt que sur les personnes à blâmer.
La position de l’Inde sur le charbon lors de la récente conférence sur le changement climatique (COP26) a suscité de vives critiques, mais les économies occidentales les plus riches n’ont pas fait grand-chose pour aider la transition écologique des pays en développement. L’Inde, concernée par les conséquences du réchauffement, fera un effort de bonne foi pour contribuer à éviter la catastrophe climatique, mais seulement dans les limites de ce qu’elle peut faire.
L’ère de la « non-paix »Migrants rassemblés à l'intérieur de la zone tampon de la frontière Turquie-Grèce, à Pazarkule, dans le district d'Edirne, le 20 février 2020.
Les récentes tragédies migratoires dans la Manche et aux frontières occidentales de la Biélorussie montrent à quel point les civils sont devenus des armes involontaires dans une nouvelle ère de conflits perpétuels. Les gouvernements se rendant coupables de mauvais comportements sous couvert d’hypocrisie et de déni plausible, une course « vers le fond » est déjà en cours.
La fin du consensus économiqueLa présidente de la Commission européenne Ursula Von Der Leyen lors de laConférence de presse sur la réponse de l'Union européenne à la crise du coronavirus, à Bruxelles, le15 avril 2020.
Alors que le choc de la pandémie de Covid-19 a initialement suscité l’unité et la convergence en Europe, la phase actuelle de la crise est beaucoup plus délicate sur le plan économique et politique. Si elle est mal gérée, elle peut rouvrir de vieilles blessures et briser la légitimité nouvellement acquise des décideurs politiques.
Connexion/Inscription
Veuillez vous connecter ou vous inscrire pour continuer. L'inscription est gratuite et ne requiert que votre adresse e-mail.
Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.
En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.
Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.
La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.
Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.
En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.
S'abonner à SAY
Abonnez-vous à notre Newsletter ! Ne loupez plus les dernières actualités économiques, environnementales, technologiques et plus encore.
Je m'abonne !S'abonner maintenant !
Propriété des données personnelles
Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?
Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.
Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.
En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.