La révolution numérique s’est accompagnée de son lot d’addictions, à commencer par la chasse aux likes sur les réseaux sociaux. Ce qu’on sait moins, c’est que les applications technologiques sont pensées autour de la manipulation comportementale des utilisateurs, au détriment de leur santé mentale. Contrairement aux avertissements habituels concernant l’intelligence artificielle et l’automatisation, la plus grande menace pour l’humanité à court terme ne vient pas de nos machines, mais des personnes qui les conçoivent.
Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.
En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.
Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.
La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.
Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.
En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.
Profitez d'un accès illimité aux idées et opinions des plus grands penseurs du monde, y compris des lectures hebdomadaires, des critiques de livres et des interviews !
Offre de lancement : 70€ au lieu de 78€
S'abonner maintenant !
Propriété des données personnelles
Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?
Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.
Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.
En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.
Pour avoir un accès illimité à notre contenu, y compris des articles approfondis, des critiques de livres, des interviews exclusives, veuillez vous abonner.
Le grand jeu de BidenNEW YORK, NY - JANUARY 07: Democratic presidential candidate VP. Joe Biden delivers remarks on the Trump administration's recent actions in Iraq at Chelsea Piers on January 07, 2020 in New York City.
R
Joe Biden s’apprête à embarquer pour sa première visite en Europe depuis son élection à la présidence des États-Unis. Après un sommet du G7 au Royaume-Uni, il participera au sommet de l’OTAN à Bruxelles, puis à une rencontre bilatérale avec le président russe, Vladimir Poutine, à Genève. Mais si l’Europe offre le cadre, le point de mire, au bout du compte, sera la Chine, car la priorité stratégique de Biden est d’articuler, face au comportement des Chinois, une réponse occidentale unie.
Après 12 ans de pouvoir de Binyamin Netanyahou, Israël est plus divisé qu’il ne l’a jamais été, et les Israéliens ont largement perdu l’espoir que leur pays puisse être à la fois juif et démocratique. Le nouveau gouvernement, uni uniquement par son aversion pour le plus ancien Premier ministre du pays, peut-il s’opposer à cet héritage ?
Les talibans étant plus puissants que jamais et prêts à reprendre le pouvoir en Afghanistan, le seul vainqueur extérieur sera l’agence de renseignement pakistanaise : l’ISI. Mais comme cette dernière le sait, le problème avec la création et le parrainage de groupes militants est qu’ils finissent souvent par briser la chaîne qui les lie à leurs maîtres.
L’histoire nous fournit abondamment d’exemples sur ce à quoi peuvent mener d’étroites collusions entre politique et finance. À l’aune d’une complexité croissante de la finance et de ses instruments, il est plus que jamais nécessaire de tirer les leçons des observations que Machiavel, Smith et d’autres avaient pu faire en leur temps. La comparaison entre la ruine des Médicis et celle de Greensill offre un parallèle éclairant sur les conséquences d’un système où banquiers se font rois.
Bien qu’une grande partie du débat actuel sur le vaccin Covid-19 soit centrée sur la question des dérogations aux droits de propriété intellectuelle, le transfert de connaissances et de technologies n’en est que la première partie. La capacité de fabrication mondiale et la tarification sont tout aussi importantes, et l’ensemble doit être pensé pour préserver notre capacité de réponse aux crises futures.
Israël : la fin d’une illusionGAZA STRIP - JAN 18 2009:Israeli soldiers partially withdraw from Gaza into Israel, as both Hamas and Israel announce separate cease-fires.
Alors qu’une flambée de la violence fait ressurgir les démons du passé dans le conflit israélo-palestinien, il convient de réexaminer les forces en présence et les enjeux, idéologiques comme politiques. Le temps n’est plus aux victoires militaires éclatantes, et face à un Israël sûr de sa force de frappe, le Hamas semble bien avoir compris que le conflit actuel lui donne les moyens de rebattre les cartes.
L'économie post-pandémique pourrait bien être définie par le retour d'une croissance robuste de la productivité globale après 15 ans de sclérose. Entre l’accès accru à de nouvelles technologies puissantes et des politiques fiscales agressives, les étoiles sont alignées pour une reprise rapide dans le monde entier.
Fin avril, les ministres des affaires étrangères de l'Union européenne ont approuvé la Stratégie de l'union pour la coopération dans la région Indo-Pacifique. Il s'agit d'une mesure opportune qui témoigne d'une prise de conscience de l'importance stratégique croissante de cette région . Toutefois, comme c'est souvent le cas avec les cadres de l'UE, cette stratégie comporte beaucoup de plans vagues, de grands principes, de jargon bureaucratique et peine à exposer une réelle clarté stratégique.
Connexion/Inscription
Veuillez vous connecter ou vous inscrire pour continuer. L'inscription est gratuite et ne requiert que votre adresse e-mail.
Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.
En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.
Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.
La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.
Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.
En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.
S'abonner à SAY
Profitez d'un accès illimité aux idées et opinions des plus grands penseurs du monde, y compris des lectures hebdomadaires, des critiques de livres et des interviews !
Offre de lancement : 70€ au lieu de 78€
S'abonner maintenant !
Propriété des données personnelles
Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?
Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.
Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.
En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.