Les biais

Historique

En 1974, Amos Tversky et Daniel Kahneman publient dans la revue Science un article intitulé Judgment under Uncertainty: Heuristics and Biases. Dans cet article, ils présentent 3 erreurs de pensée qui faussent la prise de décision humaine. C’est le début de la notion de biais cognitif.

Biais ou Heuristique ?

Il arrive que nous n’ayons pas assez de ressources pour traiter l’ensemble des informations d’un problème. Les ressources peuvent être cognitives (pas les capacité, problème trop complexe, pas assez de notions), temporelles (pas assez de temps pour traiter un problème), etc. 

Dès lors, il devient nécessaire pour notre cerveau de traiter le problème partiellement, et au mieux, en courbant les règles de logique ou en approximant les probabilités du mieux qu’il peut afin de répondre à ce problème. Mais cela crée parfois des soucis d’exactitude. Si on devait résumer, l’heuristique est une règle approximative, crée pour simplifier un problème ou une tâche donnée et trouver une réponse, pas forcément exacte. 

Les heuristiques peuvent apparaître naturellement dans le cas de problèmes où nous avons besoin d’une réponse, mais où nous ne disposons pas de toutes les informations. 

  • Par exemple si j’ai besoin de choisir entre le train et l’avion pour me rendre à Londres, indépendamment des aspects écologiques et financiers, il est possible que je me demande lequel de ces moyens de transports est le plus sûr ? Et c’est ici qu’intervient un heuristique de jugement bien connu, l’heuristique de disponibilité, qui va nous souffler une réponse en nous rappelant le dernier crash aérien, faisant paraître l’avion comme peu sûr en regard du train.
  • L’heuristique de disponibilité est la réponse de notre cognition à un manque d’information. On ne peut décemment pas mémoriser l’ensemble des évènements ayant un lien avec un sujet donné, aussi pour savoir quel moyen de transport est le plus sûr, la prévalence d’une maladie, ou encore les chances de gagner à la loterie, nous allons utiliser les dernières entrées en mémoire dont nous disposons.
  • A noter que les effets peuvent être dans les deux sens, en augmentant la perception d’un fait isolé qui le fait paraître fréquent (crash d’avion), généralisé (une agression d’un groupe ethnique envers un autre), ou en minimisant les manifestations d’un phénomène (“j’ai vu personne avoir de covid grave autour de moi, c’est donc la preuve que c’est pas si dangereux !”)
Cassis en pleine nature
Baies de l’actée en épi, toxiques voire mortelles si consommées en grande quantité.

Les heuristiques sont là pour nous faciliter la tâche (et évolutivement faire en sorte que nous survivions). Il est plus facile de se dire que toutes les petites baies noires sont dangereuses, et ainsi survivre, que de tenter au petit bonheur la chance d’attraper des cassis, au lieu des baies toxiques de l’actée en épi.

Un biais, est une exagération d’une heuristique, qui s’avère devenir fausse. Par exemple, une heuristique qui nous fait généraliser quelque chose (par exemple les baies) peut mener à un biais de généralisation abusive, ou encore un biais de confirmation.

Prenons donc les deux définitions issues de Gardair (2017) dans la Revue électronique de Psychologie Sociale :

Biais : Distorsion entre la façon dont nous raisonnons et celle que nous
devrions adopter pour assurer le mieux possible la validité de nos inférences et conclusions.
Heuristiques : Règle de raisonnement qui conduit à une simplification
du problème et permet de le résoudre rapidement mais pas toujours correctement

Petit florilèges de biais très fréquents

«La stratégie heuristique, la plus fréquente, conduit à négliger l’information statistique et à privilégier l’information individualisante »

Emmanuèle Gardair, UFR Psychologie de Nantes

Voici un certains nombres de biais assez fréquents dans la pensée humaine, et leur fonctionnement :

  • Le biais de confirmation : le saint-graal des biais cognitifs. Le biais de confirmation, consiste à prendre toutes les informations qui vont dans notre sens, et rejeter toutes les autres.
  • Le biais de disponibilité : Comme expliqué dans l’introduction, l’heuristique de disponibilité est un jugement porté sur un fait ou une situation, en n’utilisant que ce qui est disponible dans notre mémoire. On oublie alors de fait tout un pan des informations pertinentes.
  • Le biais de représentativité : Peut suivre le précédent biais, le biais de représentativité consisté à émettre un jugement sur quelque chose à partir de quelques éléments non représentatifs. Exemple : j’ai vu cette liste de personnes qui ont eu des effets secondaires au vaccin covid (si tant est qu’elle soit vraie), c’est bien la preuve que c’est quelque chose de très dangereux !
  • La généralisation abusive : Une généralisation abusive, c’est le fait de prendre un cas particulier (ou quelques cas), et d’en faire une règle générale sur le fonctionnement de quelque chose. Exemple : Un chien m’a mordu, tous les chiens sont méchants. Souvent, cette généralisation n’est pas aussi facile à reconnaître, il faut s’en méfier.
  • Le biais du survivant : cousin du biais de représentativité, c’est un biais dans lequel on surestime les chances de réussite d’une opération, en ne prenant en compte que les cas qui ont fonctionné, et qui sont des exceptions statistiques plutôt que la normalité. Exemple : « si 200 personnes ont réussi à avoir le concours de médecine cette année, c’est que c’est faisable ! » Alors que dans les faits… 200 sur 2500 candidats, c’est moins de 10%. Mais il faut bien ça pour survivre au concours.
  • L’effet de régression à la moyenne : L’effet de régression à la moyenne Stigler, S. M. (1997) décrit le phénomène statistique d’après lequel les performances d’une variable (donc quelqu’un qui a une note, une performance sportive, etc.) vont, sur un grand nombre d’essais, se compenser en performances (certaines seront très bonnes, d’autres très mauvaises) pour arriver à une performance moyenne (d’où le nom). Pour comprendre cet effet statistique, il existe cette très bonne vidéo d’Hygiène Mentale sur le sujet.
  • L’illusion de corrélation : biais dangereux qui consiste à créer un lien entre deux évènements ou deux types d’évènements alors qu’il n’y en a pas. Exemple : Signes astrologiques et traits de personnalité (horoscope), effet de réussite d’un non-médicament (placebo), Pleine lune et accouchements… En bref, créer un lien entre deux choses, qui n’ont sans doute rien à voir entre elles.
Corrélation vs Causalité : exemple.

Corrélation vs Causalité

Lorsque l’on fait des études scientifiques, surtout en psychologie (mais médecine ne doit pas échapper à la règle), l’une des phrases clés c’est « corrélation n’est pas causalité ».

Voyons ensemble donc, les règles pour établir un lien de causalité avec un exemple typique de ce qui a mal été fait en 2020-2021 : être exposé au SARS-cov-2 & contracter le covid.

  1. L’évènement existe si la cause est là, et n’existe pas si elle est absente.
    Ex : la contraction du covid19.
  2. L’évènement doit précéder temporellement l’effet.
    Ex : On attrape le virus, puis on contracte le covid.
  3. L’évènement ne doit pas pouvoir être mieux expliqué par une autre cause / La cause de l’événement doit être la totalité de la condition qui a été créée.
    Ex : Il n’y a pas d’autre moyen d’avoir le covid qu’en inhalant le virus sars-cov-2.

Un mauvais exemple de la 3 : le sol est mouillé devant chez moi, donc c’est que mon voisin a encore renversé de l’eau depuis son balcon : non, puisqu’en fait il a plu. Ce qui explique le sol mouillé.

Pourquoi les biais fonctionnent sur nous ?

Les biais cognitifs fonctionnent sur 4 principes, qui régissent notre cognition, et j’ai repris directement les 4 explications de l’article cognitive bias sheet de Buster Benson (en rajoutant parfois des annotations) qui avait déjà fait le plus gros du travail de vulgarisation, qui a ensuite donné naissance au codex des biais cognitifs dont je parle à la fin de cet article :

  1. Trop plein d’information, nécessité de faire le tri
    • Il y a tout simplement trop d’informations dans le monde, nous n’avons pas d’autre choix que d’en filtrer la quasi-totalité.
    • Notre cerveau utilise quelques trucs simples pour choisir les bouts d’informations qui sont les plus susceptibles de finir par être utiles… ou nous piéger avec au final.
  2. De quoi doit-on se rappeler ?
    • Il y a trop d’informations dans l’Univers. Nous ne pouvons nous permettre que de nous occuper des morceaux qui sont les susceptibles de nous être utiles dans le futur et nous devons constamment faire des compromis et des paris en ce qui concerne ce dont nous allons nous rappeler ou oublier.
    • Ajoutons à cela la capacité de mémoire humaine, qui n’est pas une caméra, et a donc des failles.
  3. La nécessité d’agir vite
    • Nous sommes contraints par le temps et l’information, et nous ne pouvons pas nous permettre de les laisser nous paralyser. Sans la capacité à agir vite face à l’incertitude, notre espèce aurait certainement disparu il y a bien longtemps.
    • Chaque fois que survient un nouveau bout d’information, nous devons faire de notre mieux pour évaluer notre capacité à agir sur la situation, l’utiliser pour modifier nos décisions, s’en servir pour simuler ce qui pourra advenir dans le futur et, à tout le moins, travailler à modifier notre point de vue sur le monde.
  4. Pas assez de sens
    • Le monde est très déconcertant et nous ne sommes capables que d’en percevoir une petite partie alors qu’il nous est nécessaire d’en tirer du sens afin de survivre. Une fois que le flot réduit d’information nous est parvenu, nous relions les points, comblons les blancs avec ce que nous pensons déjà savoir et mettons à jour nos modèles mentaux du monde.
    • Souvent, certains types d’informations ne sont pas assez « préhensiles » pour nos systèmes cognitifs (les mathématiques ou les statistiques) ce qui amène à des erreurs assez simples parfois d’un point de vue de mathématiques, mais qui nous semblent évidentes. Exemple : l’erreur du parieur.

Est-ce qu’on peut se prémunir des biais ? Les connaître pour ne plus y être sensible ?

En se baladant au rayon psychologie de n’importe quelle Fnac (qui devrait s’appeler « ésotérisme ») on peut trouver ce genre d’ouvrages :

La manipulation joue principalement sur les biais et failles de la pensée.

A l’intérieur, toutes les promesses d’une vie parfaite sans manipulation, une protection des biais cognitifs (et manipulations associées) digne des meilleurs antivirus Avast. Mais dans les faits, est-ce qu’on peut vraiment éliminer les biais de notre pensée ?

Comme présenté dans l’article, les biais sont basés sur des automatismes de la pensée pour simplifier la charge mise sur notre cognition. Ce sont des comportements limite réflexes, qu’on ne peut donc pas contrôler. Vouloir empêcher un réflexe, c’est un combat perdu d’avance. Ici une phrase d’une interview d’un enseignant de psychologie sociale à l’UGA sur le sujet :

« La défense c’est très compliqué. En fait, si on part de l’idée que notre système cognitif a pleins d’automatismes, déjà c’est intéressant de savoir ce que c’est un automatisme : C’est quelque chose qu’on met en route de façon involontaire et non consciente. Et donc partis de là si la manipulation joue là-dessus pour arriver à s’en prémunir c’est hyper compliqué. »

« […]maintenant que je le sais et que je les enseigne en cours j’ai pas l’impression d’être beaucoup plus prémuni que ça. Avec du recul, une fois que je peux en prendre après la situation j’arrive à identifier, j’ai les briques mais sur le moment je suis comme tout le monde en fait. »

Le livre « vitesse 1 vitesse 2 » de Daniel Kahneman présente les biais, et notamment les 2 vitesses de la pensée. Dans le livre, qui est débattu au niveau de la recherche universitaire, est présenté la 2ème vitesse, qui est le mode lent et réfléchi. Aussi, pour se prémunir des biais peut-être la solution est-elle de s’arrêter et se demander si on a : du temps, tous les éléments, des raisons de penser… etc. On ne peut pas contrôler nos automatismes, mais on peut essayer d’en prendre conscience.

Donc connaître les biais permet de pouvoir faire l’effort des les repérer dans notre pensée et notre discours. Mais, gardons en tête que même si on a fait des recherches sur le sujet, qu’on se soit documenté, qu’on ait vu des vidéos, lu des articles scientifiques ou des articles de blog sur le sujet… Ça ne nous empêchera pas

Sources annexes : 

Une bonne partie de cet article est issu du codex des biais cognitifs de de John Manoogian III et Buster Benson. J’ai repris leur codex en essayant de le compléter sur Notion juste ici.

Autres sources :

guillaumechandelier

Laisser un commentaire