pour la réunion du 17 avril 2024, par JYR

Trafic des opinions, réseaux sociaux
ou de la toxicité des données et de leurs supports pour la démocratie

Partie 1 à propos de quelques déterminants

Stratégiques …. pour ceux qui manipulent,
Psychosociologiques … de tous ceux qui sont manipulés, c’est-à-dire tout le monde

Selon Sun Tzu, dans son traité sur « L’art de la guerre », Vème siècle avant JC, la meilleure victoire est celle obtenue sur un adversaire qui se rend sans même avoir pu combattre. Il recommande des tactiques et des stratégies usant de la ruse, de la manipulation et de l’espionnage, comme autant de moyens légitimes de dominer l’ennemi.

Selon l’historien de l’armée de terre, le colonel Yan Couderc - « le succès de Sun Tzu, apparu dans nos sociétés modernes, il y a tout juste cinquante ans, vient surtout du monde civil, et il n’est même pas arrivé par la Chine, il nous est arrivé par les États-Unis » (France-Culture ; Cours de l’Histoire -5 décembre 2022).

Objet d’un engouement actuel, les préceptes de Sun Tzu sont appliqués dans d’autres disciplines que la stratégie militaire et notamment le management ou les relations interpersonnelles. Ces stratégies ont pour objectifs de désorienter l’adversaire et le mettre en position de défaite par la stratégie de la tromperie et de la ruse, saper son moral et sa cohésion par la stratégie de la division, décourager l’ennemi de se battre par la stratégie de la dissuasion, attendre le bon moment pour
frapper et éviter de se précipiter dans la bataille par la stratégie de la patience et s’adapter aux changements de la situation et pour éviter de se laisser enfermer dans une stratégie rigide, par la stratégie de la flexibilité .

Les groupes d’influence qui manipulent les réseaux d’opinion utilisent largement ces stratégies
Ils mettent ainsi en cause la démocratie et rendent les dictatures plus stables.
L’exploitation des connaissances de la psychologie moderne permet d’amplifier la manipulation en particulier des biais de prise décision.

Samuel Kahneman (Psychologue, Prix Nobel d’Economie en 2002) dans son ouvrage « Thinking fast and slow » 2011 propose une « Théorie de deux systèmes de pensée ».
Le Sytème 1, rapide, automatique et peu coûteux en ressources cognitives serait responsable de la plupart de notre pensée. Il est très efficace,
mais très dépendant des émotions. Il est responsable de nombreux biais cognitifs, tels que le conflit, l’ancrage et la pensée par défaut.
Le Système 2, nécessite du temps pour réfléchir, et est utilisé pour les tâches qui nécessitent plus d’efforts tels que le calcul complexe, la prise de décisions difficiles, la mise en ordre ou en cohérence des idées etc.

Les relations ordinaires et nos pensées continues sont essentiellement gérées en mode Système 1, donnant de la facilité et de la fluidité aux échanges. La contrepartie est sa forte exposition aux biais cognitifs.
Pour comprendre ce qui se joue sur les réseaux, il est important d’appréhender les différentes interférences entre la cognition humaine et l’algorithmique des BigTech et en particulier le rôle des biais cognitifs qui sont des raccourcis mentaux automatiques conduisant à des erreurs de jugement.

Liés au mode de fonctionnement de notre cerveau, ils sont cause d’une déviation de la pensée logique et rationnelle par rapport à la réalité.
On peut décrire nombreux biais cognitifs dans de multiples domaines :
Perception (illusions), Statistiques, Causalité, Relations sociales etc.

Exemples d’illusions ou d’effets de biais :
Optique : image du damier : les lignes sont toutes parallèles
Auditif  : KRS one Youtube - « Assassins de la police ou Tha’ts the sound of da police »
Causalité  : jouer systématiquement, dans les jeux de hasard, ses numéros « porte chance » plutôt qu’au hasard (ex. date de naissance) ou le vendredi 13 parce qu’il y aura plus de joueurs et des gains plus élevés (…mais plus de perdants).
Logique : la majorité des personnes se trompent à résoudre ce problème d’arithmétique :
« Une raquette et une balle coûtent au total 110€. La raquette coute 100€ de plus que la balle. Quelle est le prix de la balle ? »

Voici quelques biais cognitifs courants influents sur nos jugements, décisions et action :
Le biais d’ancrage : biais de jugement qui pousse à se fier à l’information reçue en premier dans une prise de décision. Ex. avoir présenté la maladie à coronavirus 2019 comme une "grippette" peut avoir biaisé l’estimation de la gravité de la maladie par le grand public
Le biais de halo ou générateur d’a priori : tout élément qui pourrait venir en contradiction avec notre première impression est boycotté par le cerveau.
à partir d’une caractéristique d’une personne, de l’aspect d’un objet, nous lui en supposons d’autres plus ou moins positives : l’habit fait le moine, ou négatives : le délit de sale gueule.
La qualité de l’affiche de publicité, le rôle de l’infographie des sites internet etc. renforce le biais d’ancrage
Connaître l’effet de halo ne permet pas de s’en protéger.
Le biais de confirmation, ou biais de confirmation d’hypothèse, est un mécanisme cognitif qui conduit à privilégier les informations confirmant ses idées préconçues ou ses hypothèses, ou à accorder moins de poids aux hypothèses et informations en défaveur de ses conceptions.
Source de réticence à changer d’avis, ce biais renforce le biais d’ancrage
Les biais de groupe : Tendance à favoriser les membres de son propre groupe par rapport aux membres d’autres groupes.
Biais de confirmation et biais de groupe permettent la création de bulles de polarisation et de bulles d’écho. (voir 2ème partie)
Les biais de négativité : les choses négatives ont plus d’effet sur l’état et les processus psychologiques que les choses neutres ou positives.
Par exemple, le "biais de négativité algorithmique » désigne la propension plus importante des utilisateurs à cliquer sur un post négatif, qui provoque de l’anxiété et de la peur, plutôt que sur un post positif ou neutre.
Les biais d’affectivité ou tendance à être influencé par ses émotions dans la prise de décision qui conduit à : croire quelque chose qui a un effet émotionnel positif, qui donne un sentiment agréable, même s’il existe des preuves rationnelles contraires.
ou à être réticent à accepter des réalités désagréables ou une idée dérangeante car
liées à une idée de souffrance.
Biais de disponibilité : est une tendance à s’appuyer sur des informations facilement accessibles pour porter des jugements ou prendre des décisions. Ce biais peut conduire à surestimer la probabilité d’événements ou à porter des jugements biaisés en fonction de la facilité de rappel.
Par exemple, si on pense au climat, ce qui nous vient en tête en premier concerne la météo, un biais sur lequel surfent allègrement les climato-sceptiques.
Biais d’auto complaisance : est une tendance à se voir de manière plus positive que la réalité, et à attribuer nos réussites à nos propres compétences et nos échecs à des facteurs externes.
Etc.

Ruse, biais cognitifs et manipulations des consciences :
 Les biais cognitifs sont largement exploités pour séduire ou tromper les clients ou ceux vers qui ils sont utilisés : la publicité pour faire passer plus facilement les messages, les sociétés de jeux de hasard qui profitent des biais liés à la méconnaissance des lois statistiques, les médias pour attirer l’attention et rendre important ce qui ne l’est pas nécessairement, la politique pour accroître l’efficacité des discours.

 Les manipulations des consciences :

En 1995, Brzezinski, ex-conseiller de Jimmy Carter membre de la commission trilatérale, lors du premier « State Of The World Forum » proposa le terme Tittytainment, un terme désignant un mélange d’aliment physique et psychologique qui endormirait les masses et contrôlerait sa frustration et ses protestations prévisibles, cocktail de divertissement abrutissant et de satisfaction suffisante des besoins primaires pour inhiber la critique politique chez les 80% de laissés-pour-compte du libéralisme et du mondialisme estimant que seulement 20% de la
population serait nécessaires pour faire tourner l’économie.

En 2004, Patrick Lelay, ex-patron de TF1, déclarait « Nos émissions ont pour vocation de rendre le cerveau disponible : de le divertir, de le détendre pour le préparer entre deux messages (publicitaires). /…nous vendons à Coca-Cola, du temps de cerveau humain disponible.

Propagande ou publicité : mêmes méthodes

Empiriquement, la propagande ou la publicité ont toujours utilisé des méthodes basées sur la tromperie, le doute, la division en s’appuyant sur les émotions : la peur, l’espoir de bénéfices immédiats, la conformité au plus grand nombre ou l’individualisme.

Scientifiquement, les travaux en psychologie, neurosciences, sociologie, etc. permettent d’optimiser l’efficacité et l’efficience de ces méthodes.
Technologiquement, l’internet, les réseaux sociaux, la production de BigData, l’intelligence artificielle en démultiplient l’efficacité et permettent la détection des émotions et l’analyse prédictive des comportements.
La guerre cognitive est devenue possible met à mal le libre arbitre lui-même et sape les bases de la démocratie.

Cette guerre cognitive est déjà là. Pour Asmah Mhalla (1) , les technologies de l’hypervitesse, omniprésentes dans notre vie quotidienne, transforment chaque individu en soldat, à son insu ou non.
(1) Asmah Mhalla : Technopolitique, Comment la technologie fait de nous des soldats - Le Seuil fév.2024

Cette transformation s’opère à travers une multitude de canaux, brouillant les frontières entre le civil et le militaire et créant un nouveau champ de bataille : le cerveau humain.

Dans la deuxième partie, à travers quelques exemples on essaiera d’illustrer la situation actuelle de l’exploitation rationnelle et industrielle des faiblesses cognitives, par les réseaux sociaux et les médias. On essaiera de voir comment ça fonctionne et à qui cela profite ? -> le 15 mai