La révolution numérique s’est accompagnée de son lot d’addictions, à commencer par la chasse aux likes sur les réseaux sociaux. Ce qu’on sait moins, c’est que les applications technologiques sont pensées autour de la manipulation comportementale des utilisateurs, au détriment de leur santé mentale. Contrairement aux avertissements habituels concernant l’intelligence artificielle et l’automatisation, la plus grande menace pour l’humanité à court terme ne vient pas de nos machines, mais des personnes qui les conçoivent.
Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.
En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.
Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.
La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.
Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.
En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.
Profitez d'un accès illimité aux idées et opinions des plus grands penseurs du monde, y compris des lectures hebdomadaires, des critiques de livres et des interviews !
Offre de l'été : 70€ au lieu de 78€
S'abonner maintenant !
Propriété des données personnelles
Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?
Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.
Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.
En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.
Pour avoir un accès illimité à notre contenu, y compris des articles approfondis, des critiques de livres, des interviews exclusives, veuillez vous abonner.
Comment décrire une campagne électorale pour la conquête d’une ville du Sud de la France qui ressemble étrangement à deux villes emblématiques de notre littoral méditerranéen ?
Le marché des véhicules électriques est en pleine expansion et semble suivre la route tracée par son prédécesseur à essence lors du siècle dernier. Cet emballement aura un fort impact sur l'économie mondiale et il faut en cerner tous les enjeux, notamment énergétique, pour s'y préparer au mieux.
Les courants de pensée qui s'affrontent sur la question climatique peignent un tableau biaisé de l'avenir du capitalisme. Mais la réalité est que nos sociétés seront nécessairement transformées en profondeur. Il convient d'étudier avec précision la nature de ces changement pour permettre aux citoyens de comprendre comment le défi climatique sera relevé, et avec quelles conséquences sur leurs vies.
Interprété comme un aveu de faiblesse, le retrait des troupes américaines en Afghanistan n’est que la conséquence logique d’un monde qui change. Alors que les flux de la mondialisation devaient nous rapprocher, ils sont les nouveaux terrains d’un conflit interplanétaire, et les États-Unis ne comptent pas rester en retrait.
Le philosophe Peter Singer défend depuis longtemps de nombreuses causes humanitaires et animales. Ayant gagné il y a peu un prix d'un million de dollars qu’il compte reverser en totalité, il s’interroge ici sur son approche et la meilleure manière d’utiliser cet argent. Et il demande l'aide de ses lecteurs.
Les grandes puissances confrontent leurs visions du monde sur de plus en plus de terrains et à l’aide de nouvelles technologies qui contribuent à tendre l’environnement sécuritaire mondial. La saison des exercices militaires de grande ampleur approchant, les responsables politiques doivent œuvrer pour éviter des accidents aux conséquences potentiellement dramatiques.
En 1958, l’agent spécial senior Michael Travis est missionné pour enquêter sur un cadavre découvert dans un cirque ambulant « Carnaval Diablo » qui fait escale à Senecal Falls dans le Kansas. Michael Travis a connu une enfance compliquée, sa mère a été condamnée à mort pour le meurtre de son père qui était un homme rustre et violent. Son passé ressurgit.
Les changements monétaires et sécuritaires radicaux sont les signes d’un remaniement de l’ordre mondial. La débâcle américaine en Afghanistan évoque ces moments où les empires se fissurent. Une réorganisation du pouvoir mondial semble nécessaire pour assurer la stabilité financière.
Connexion/Inscription
Veuillez vous connecter ou vous inscrire pour continuer. L'inscription est gratuite et ne requiert que votre adresse e-mail.
Dans la Silicon Valley, nombreuses sont les entreprises et les start-ups qui travaillent sur les moyens de transformer les humains en robots contrôlables. L’industrie se concentre de moins en moins sur la technologie et de plus en plus sur le «marketing des troubles de la personnalité». Le paradigme sur lequel ces technologies se basent est le suivant : pour le cerveau humain, tous les plaisirs sont plus ou moins égaux, qu’ils proviennent d’une victoire à la table de blackjack, d’une ligne de cocaïne ou de likes sur les médias sociaux. Alors qu’elles le faisaient de façon involontaire ou accidentelle jusqu’alors, les puissantes entreprises (voire, dans certains cas, les gouvernements) qui contrôlent Internet se sont mises au cours des dernières décennies à créer des « robots » humains à dessein.
En 2000, le citoyen américain moyen passait 9,4 heures par semaine en ligne ; aujourd’hui, certaines estimations portent ce chiffre à 30 heures. Et avec l’arrivée des appareils de réalité virtuelle destinés aux consommateurs et de l’Internet des Objets (IoT), il est facile d’imaginer que nous passerons bientôt 75% de nos heures d’éveil dans des espaces virtuels conçus pour manipuler notre comportement.
Certes, la programmation du comportement n’est pas un phénomène nouveau. Tout au long de l’histoire, des légions de soldats ont marché sciemment vers la mort, des adeptes religieux ont accepté des principes de foi sans se poser de questions, et des consommateurs ont acheté des biens et des services dont ils savaient qu’ils n’avaient pas besoin. Dans les années 1930, B. F. Skinner, un psychologue controversé de Harvard, a été le pionnier dans le domaine de l’analyse comportementale. Skinner pensait que le libre-arbitre est en fait illusoire. Chacun est en fait contrôlé par des récompenses et des punitions subtiles et complexes. Cela l’a amené à conclure qu’une « technologie du comportement » pouvait être utilisée pour améliorer le sort de l’homme. Grâce à un cycle d’indices, d’activités et de récompenses, il a développé un processus de « conditionnement opérationnel » du comportement humain, dont les casinos ont profité depuis lors.
La nouveauté réside dans l’efficacité, l’omniprésence et la portée des technologies de manipulation humaine. Les « contrôleurs » (pour reprendre un terme emprunté à l’industrie) ont considérablement amélioré leurs processus de contrôle, perfectionné leurs boucles de rétroaction et affiné leurs mécanismes de détection, tout cela pour recueillir davantage d’informations sur notre corps, nos émotions, nos habitudes et notre cerveau.
Aujourd’hui, avec la diffusion de l’Internet des objets, les gouvernements et les entreprises pourront utiliser un éventail toujours plus large d’informations et d’outils - dont la plupart sont invisibles dans le monde qui nous entoure - pour contrôler les comportements individuels et collectifs. Grâce aux progrès rapides de la reconnaissance faciale, nos émotions se liront de plus en plus comme un livre ouvert, soumises à de nouvelles formes subtiles d’influence.
En outre, les coûts d’acquisition pour transformer les gens en robots ont considérablement diminué. Plutôt que d’attirer les gens dans les casinos ou de les rendre accros à la cigarette, les principales plateformes technologiques, qui ont déjà accès à presque tous les possesseurs de smartphones, n’ont qu’à s’appuyer sur la science comportementale pour concevoir leurs produits et services en vue de créer une dépendance.
S'abonner à SAY
Profitez d'un accès illimité aux idées et opinions des plus grands penseurs du monde, y compris des lectures hebdomadaires, des critiques de livres et des interviews !
Offre de l'été : 70€ au lieu de 78€
S'abonner maintenant !
Propriété des données personnelles
Il pourrait en être autrement. Il faudrait d’abord pour cela que les décideurs politiques, les chefs d’entreprise et les citoyens ordinaires reconnaissent l’ampleur du problème. Le moteur de la manipulation comportementale repose sur les informations personnelles, dont une grande partie est transmise de notre plein gré. Demandez-vous combien de fois vous refusez les logiciels gratuits comme Gmail ou Facebook, qui mettent toutes vos actions et secrets en ligne directement entre les mains de sociétés extérieures. Saviez-vous que la barre au chocolat que vous venez d’acheter sera cataloguée sur des centaines de serveurs et dans des milliers d’institutions à travers le monde au cours des prochaines semaines ?
Jusqu’à preuve du contraire, nous restons libres. Nous avons le droit de choisir de participer ou non à cette manipulation et d’exiger plus d’informations sur ce que ce processus implique. Les citoyens devraient avoir un accès complet aux dossiers recueillis sur leurs informations personnelles et en être les propriétaires. Rétablir la propriété et le contrôle voudrait dire que les entreprises pourraient stocker les informations relatives aux cartes de crédit pendant quelques années, tout en limitant leur capacité à accéder à l’historique de navigation d’un utilisateur à quelques jours au maximum. Mais les contrôleurs devraient également être tenus de divulguer leurs techniques de manipulation comportementale ; le «opt-out» devrait être le paramètre par défaut de l’utilisateur. Tout cela nécessitera une réglementation gouvernementale, avec des sanctions sévères pour toute organisation qui dépasserait les limites.
Une proposition encore plus radicale permettrait aux utilisateurs non seulement de décider comment et quand leurs données sont partagées, mais aussi de les monétiser. Si une société de jeux en ligne vous manipule pour que vous lui fournissiez des données comportementales pendant huit heures par jour, elle devrait peut-être vous payer pour ce service. Mais nous devons également faire preuve d’autodiscipline. Nous sommes inondés de nouveaux services et de réseaux sociaux merveilleux qui pourraient améliorer notre vie dans le monde réel, plutôt que de nous aspirer plus profondément dans des trous virtuels. Notre objectif devrait être de créer un environnement commercial dans lequel ce sont ces modèles qui réussissent.
En revendiquant la propriété de nos données et en mettant un prix sur la manipulation comportementale, nous sommes en mesure de modifier les conditions fondamentales qui ont donné naissance à une industrie toxique. En mettant en place un contrôle et une transparence pour les utilisateurs, d’autres changements positifs pourront suivre : une législation imposant des services de cybersécurité supplémentaires, des codes d’éthique à l’échelle de l’industrie et une génération d’entrepreneurs technologiques qui se remettent à créer de la valeur pour la société. Le temps est venu de « disrupter» la Silicon Valley elle-même.