jeudi 30 novembre 2017

Loi du bullshit

«loi du bullshit» - pour réfuter une ineptie, il faut consacrer dix fois plus d'énergie qu'il aura été nécessaire pour la pondre. (Peggy Sastre)

https://www.echosciences-grenoble.fr/communautes/atout-cerveau/articles/le-baratin-pseudoprofond-decrypte

https://www.echosciences-grenoble.fr/communautes/atout-cerveau/articles/la-loi-de-brandolini-ou-le-principe-d-asymetrie-du-baratin-un-defi-pour-les-scientifiques














Décryptage du "baratin pseudoprofond"
Publié par Laurent Vercueil, le 3 septembre 2016   10k

A l'occasion de la traduction, aux éditions Zones Sensibles, de l'article de Pennycook et collaborateurs (1), on peut à nouveau s'émerveiller des capacités du cerveau à supposer du sens, là même où il n'y en a aucun...
Nous baignons dans un océan de perceptions. La stimulation de nos organes réceptifs propage vers le cerveau des ondes continues d'informations potentielles, qui, jusqu'à la conclusion du traitement, se résument à des trains de potentiels d'action, des fluctuations de potentiels post-synaptiques et des libérations de molécules dans les fentes synaptiques. De fait, un arbre qui tombe dans la forêt sans quelqu'un à proximité pour l'entendre... ne fait aucun bruit. La vibration de l'air que sa chute a engendré est silencieuse jusqu'à ce qu'elle soit transformée par l'organe auditif (et le cerveau qui est derrière) qui se trouve à sa portée. Ainsi, la naissance de l'information se fait au bout de la chaîne de transmission.
Et même à ce stade, il serait illusoire de croire que la perception est une représentation que le cerveau "plaque", en quelque sorte fidèlement, sur le réel. Toute perception est, dans une grande partie, une interprétation, qui se base sur ce que le cerveau anticipe de la réalité qui l'entoure et ce qu'il connait déjà. Un exemple classique est la tâche aveugle. Il s'agit d'un point aveugle de la vision monoculaire, qui correspond à la convergence des axones des cellules ganglionnaires de la rétine, où les récepteurs font défaut, du fait de la densité des fibres à l'émergence du nerf optique. Or, même en se masquant l'autre œil, il est difficile de détecter ce point aveugle, car il est "rempli" par le cerveau avec ce qu'il trouve autour.
Un autre exemple, toujours tiré du domaine visuel, concerne la reconnaissance automatique de formes. Il est facile, dans la photo ci-dessous de reconnaître un visage dans ce rocher. Il est même impossible de ne pas le voir, tant la détection d'une forme familière s'impose à l'esprit...

Par ces illustrations, on peut voir que le cerveau a tendance à inférer du sens à partir d'une stimulation élémentaire. Pour faire simple et un peu abrupt, le cerveau est une machine à créer du sens. Il voit, il entend, il sent, il hume, il goûte, et il fabrique une information véhiculant du sens. 
Revenons à ce fameux papier : les auteurs commencent par établir une distinction claire entre les teneurs d'un discours absurde, d'un mensonge et d'un baratin pseudo-profond (2). Le mensonge est placé, de façon délibérée, en opposition à la vérité. Il a toute les apparences de la vérité, sauf qu'il est faux.
Si j'écris : "Je suis un agent secret à la solde de la NSA", vous n'êtes pas obligés de me croire. Mais si vous me croyez, vous êtes les victimes de mon mensonge. Si j'écris, à présent : "La NSA est secret soldé d'agent, je suis". C'est absurde. Personne ne sera dupe. Le discours échoue à véhiculer le moindre sens.
Le baratin pseudo-profond est plus difficile à produire, car il s'agit non seulement de suggérer que ce que je dis à un sens, mais que celui-ci est si profond qu'il est difficile à comprendre. Pour continuer avec l'exemple que j'ai choisi, je pourrais tenter un : "J'ai secrètement soldé l'agentification* de la NSA" [* le néologisme est très prisé par le baratin pseudo-profond]. Si mon baratin pseudo-profond marche (ce dont je suis loin d'être persuadé) le lecteur pourra y deviner un sens, mais sans tout à fait s'y sentir confortable. Quelque chose lui échappe. Ou semble lui échapper. Et ce quelque chose pourrait être important.
Admettons tout de suite que les exemples produits par les auteurs sont mieux choisis que les miens : la phrase "Le sens caché transfigure une beauté abstraite à nulle autre pareille" (p.9)(1) est une illustration de baratin pseudo-profond, ou, pour citer un pourvoyeur inépuisable de baratin pseudo-profond, l'auteur à succès Deepak Chopra : "L'attention et l'intention sont les mécanismes de la manifestation" (p.10)(1). En somme, il y a dans ces phrases, une allusion à un sens obscur, opaque, qui représente "ce qui échappe" au lecteur et lui suggère que la cause de cette insuffisance vient de lui et non de l'auteur. Soit : si je ne comprend pas ce qu'il écrit, c'est que je ne suis pas assez bon pour ça. Il doit y avoir un sens derrière tout ça ! Le tableau ci-dessous résume les différentes propriétés des discours mensongers, absurdes et le baratin pseudo-profond, ainsi que la "partie de déconnade", chère au philosophe Harry Frankfurt, où une certaine complicité entre les participants autorise toutes les loufoqueries. 
Nature du discours
Logique
Sens
Rapport à la vérité
Le mensonge
Oui
Oui
Faux
Une absurdité
Non
Non
Non
Baratin pseudoprofond
Apparente
Suggéré
Obscur
Partie de Déconnade
Oui ou non, bof
Pourquoi pas
Loufoque
Quel est le but du baratin pseudoprofond ? Impressionner. Obtenir l'adhésion aveugle de l'auditeur ou du lecteur. Mobiliser une croyance. Et la mobilisation d'une foi est bien plus performante que l'acceptation de quelque chose qui est compris facilement. Quelque part, l'évidence est toujours un peu décevante...
Dans l'article en question, les auteurs réalisent 4 expériences auprès de participants invités à juger la profondeur (sur une échelle de profondeur de 1 (pas du tout profond) à 5 (très profond)) d'une série d'affirmations tirés du fil Twitter de Chopra ou d'un générateur aléatoire de phrases (que je vous invite à visiter, ici et ). Dans le même temps, les participants remplissent des questionnaires qui visent à évaluer leur capacités cognitives (raisonnement, intelligence verbale, capacités heuristiques, etc.), ainsi que leur sensibilité à accepter certaines croyances (la religiosité, le paranormal, les idées conspirationnistes, les médecines alternatives). A partir du contenu des réponses, l'équipe de psychologue va évaluer la présence éventuelle d'une corrélation positive (un score élevé obtenu dans une échelle prédit un score élevé obtenu dans une autre échelle), ou négative (un score élevé obtenu dans une échelle prédit un score faible obtenu dans une autre échelle).
Les résultats montrent que plus les sujets trouvent qu'un énoncé absurde est profond, moins ils ont un score élevé dans les tests d'intelligence (corrélation négative). En revanche, attribuer un score de profondeur élevé à un énoncé issu du fil Twitter de Chopra, est associé à un score élevé de religiosité, de conspirationnisme, de confusion ontologique, de croyance dans le paranormal ou dans les médecines alternatives.
Les mécanismes expliquant cette propension à prêter du sens (un sens caché, un sens obscur, un sens profond, mais du sens) à ce qui en est dépourvu, sont probablement nombreux. On peut en dresser une première liste, non exhaustive :
  • Il est prêté à la source de l'affirmation un crédit exagéré : tout ce qu'elle profère doit nécessairement contenir du sens. Une forme d'argument d'autorité : si c'est elle/lui qui l'a dit, c'est que ça doit être vrai
  • La confiance dans ses propres ressources cognitives est trop faible pour lui reconnaître une faculté critique : si je ne comprend pas ce que je lis (ce que j'entends) c'est que je dois être trop bête pour ça
  • Il existe une motivation intrinsèque à trouver un sens à "tout ça" : l'évocation que suscite le texte répond à un besoin personnel. Une quête de "sens" qui relève de l'auberge espagnole : on y trouve ce qu'on y a amené. Par exemple, la reconnaissance d'un visage dans une forme évocatrice...
  • Certaines ambiguïtés du langage sont propices à susciter une "impression de sens". Des termes polysémiques qui peuvent être entendus différemment dans des contextes proches, ou des associations inattendues, sont destinées à produire cette impression d'obscurité
  • On prête à certains domaines une obscurité qui peut être confondue avec de la profondeur. C'est le cas par exemple de la mécanique quantique, du terme de "quantum" ou du qualificatif "quantique" (très apprécié de Chopra), propice à l'enfumage
Etc.
Pour finir, un court paragraphe sur la notion (peu mise en question par les auteurs) de "profondeur". Les définitions de ce qui est "profond", ce qui est "pseudo-profond", et ce qui est "terre-à-terre" ne sont pas présentées. On peut proposer que ce qui est "profond" détient un pouvoir évocateur qui suscite la manipulation de notions abstraites. Mais dans ce sens, les œuvres d'art sont souvent "profondes", pour peu qu'elles atteignent leur but. Qu'est-ce qui fait alors la différence entre la "profondeur" d'une oeuvre d'art, et la "pseudo-profondeur" du baratin pseudo-profond ? En dehors du sentiment esthétique (encore que certaines formulations du baratin ne soient pas sans beauté), l'intention qui est derrière le baratin est bien particulière : c'est la manipulation de la personne qui va adhérer au baratin. Non sans danger. 

>> Notes
  1. De la réception et détection du baratin pseudo-profond. Pennycook G, Cheyne JA, Barr N, Koehler DJ, Fugelsang JA. Zones Sensibles, 2016. Traduit de l'article des mêmes auteurs paru dans Judgement and Decision Making 2015;10(6):549-563. Un commentaire de Craig Dalton et la réponse des auteurs font partie de la traduction française
  2. En anglais, le baratin se dit "bullshit" (baliverne). Les auteurs utilisent donc le terme de "pseudo-profound bullshit" dans leur article
  3. https://wisdomofchopra.com et http://sebpearce.com/bullshit. Je recommande particulièrement ce dernier, qui m'a donné l'occasion d'apprendre par exemple que "This life is nothing short of a flowering vision of perennial stardust". Mmmmh... ça donne à penser, hein ?

La loi de Brandolini ou le principe d'asymétrie du baratin : un défi pour les scientifiques
Publié par Laurent Vercueil, le 9 décembre 2016   9.3k
Xl 0a0f09a
La loi de Brandolini s'énonce de la façon suivante : "La quantité d'énergie nécessaire pour réfuter du baratin est beaucoup plus importante que celle qui a permis de le créer".
Pourtant, comme le rappelle Phil Williamson dans un article publié dans la revue Nature le 8 décembre 2016 (et qu'on peut lire ici), cela ne doit pas décourager les scientifiques de démonter, un par un et avec une infinie patience, affirmations sans preuves, racontards grotesques, prétentions pseudoscientifiques et irrémédiables baratins (profonds, pseudo-profonds ou pas du tout profonds).
Baratins et racontards, souvent alarmistes et complotistes, ont le vent en poupe, à la faveur des médias sociaux qui diffusent avec d'autant plus de célérité les informations que celles-ci paraissent choquantes, ou aller à contre-courant des conventions. C'est ce qu'on peut appeler le "scoopisme", propension à détecter, apprécier et propager un scoop, c'est-à-dire du neuf, de l'inattendu et du spectaculaire, dont il est attendu, par l'internaute qui le diffuse, qu'un peu de l'attention qu'il suscitera inévitablement lui reviendra en propre. En somme, celui qui relève, diffuse et amplifie la nouvelle extraordinaire, gagne aussi à être connu !
Gerald Bronner, dans l'excellent "La démocratie des crédules" (PUF, 2013) a décrit ces mécanismes d'influence via internet, amplificateur assourdissant des théories les plus fumeuses.
Aussi, et pour rendre compte de cette quantité énergétique colossale (1) nécessaire au "dégonflage" des baratins et racontards, on peut repérer plusieurs points relevant directement de l'asymétrie de Brandolini :
Asymétrie de l'impact : la diffusion assure au baratin un impact bien plus élevé que tous les désamorçages qui suivent. 
- Asymétrie de la rétention mnésique : la trace laissée dans la mémoire par le baratin est bien plus profonde que toutes informations qui viendront ensuite le démentir
- Asymétrie de l'onction : celui qui propage du baratin est oint d'une aura avantageuse, tandis que celui qui tente de ramener à la raison, est un rabat-joie, un pisse-froid, ou un tâcheron laborieux qui ne comprend rien à la gloriole de l'info.
Voilà à quoi doivent s'atteler ceux qui pensent qu'on vit dans un monde complexe, où tout ce qui brille n'est pas de l'or. Quitte à devoir labourer toujours le même sillon. Il faut imaginer Sysiphe heureux. 
En fin d'article, P. Williamson appelle à contribuer sur internet, ou mieux, d'édifier des sites d'appréciation collective, type "Tripadvisor", qui permettrait de moduler les informations du web, pour améliorer la qualité globale de l'information sur le web. Les derniers évènements politiques, et peut-être, ceux à venir, soulignent cette nécessité vitale de donner à l'épreuve des faits toute sa place dans la culture du web.

>> Notes
  1. On peut mettre en équation cette somme énergétique (E) nécessaire au dégonflage, en fonction du caractère alarmiste de la prétendue information (A), du crédit attribué à celui qui la diffuse (C), et, not the least, du caractère "occulté", "secret", que le dévoilement courageux a permis de rendre visible (S). La quantité d'énergie nécessaire à la production de cette information (e) est généralement suffisamment nulle pour pouvoir être négligée (e tend vers 0). E sera d'autant plus important (E tend vers KOLOSSAL), que A, C et S sont significatifs.