Hommes, machines et erreurs

Confondre les hommes avec les machines : comment l'économie néoclassique s'appuie sur l'informatique pour mal comprendre la communication humaine

par Philip Pilkington

Initialement posté à Capitalisme nu, 27 Mars 2013.

Nous avons beaucoup de raisons d'être reconnaissants aujourd'hui que nous devons à Alan Turing - qui est généralement reconnu comme l'un des premiers, sinon le premier, informaticien. Mais, d'un autre côté, nous avons aussi beaucoup de choses qui remontent à Turing et dont nous ne devrions en aucun cas être reconnaissants, car cela a rempli nos esprits de stupidités et nos universités de gens qui disent des bêtises. Sans nuire aux réalisations incontestablement importantes de Turing, nous nous concentrons ici sur ces dernières et sur la façon dont certaines des idées de Turing en sont venues à infecter les sciences humaines en général et l'économie en particulier.

Alan Turing : Troll pré-Internet

Peut-être y a-t-il une certaine ironie dans le fait que l'un des hommes responsables de l'invention de l'ordinateur moderne était également un troll insupportable qui semble s'être engagé de manière persistante dans des actes destinés à perturber l'équilibre émotionnel de ceux qui l'entourent. Le biographe de Turing, Andrew Hodges, raconte l'un de ces incidents qui met bien en évidence la nature délicieusement fripon de Turing :

Alan avançait sur les possibilités d'une « machine à penser ». Sa voix haut perchée dépassait déjà le murmure général des cadres juniors bien élevés se préparant à une promotion au sein de la société Bell. Puis on l'a soudain entendu dire : « Non, je ne suis pas intéressé par le développement d'un cerveau puissant. Tout ce que je recherche, c'est un cerveau médiocre, quelque chose comme le président de l'American Telephone & Telegraph Company ». La salle était paralysée tandis qu'Alan continuait nonchalamment à expliquer comment il s'imaginait se nourrir de faits sur les prix des matières premières et des stocks et poser à la machine la question « Est-ce que j'achète ou vends »?

Il semble que c'est dans cette veine que nous devrions lire son article fondateur de 1950 'Informatique et intelligence'. Ce que Turing traitait ostensiblement dans cet article était de savoir si un ordinateur pouvait ou non être dit «penser”. Cependant, au tout début de l'article, Turing redéfinit « penser » pour signifier simplement qu'un ordinateur peut imiter un être humain si parfaitement que la personne ne peut pas faire la distinction entre l'ordinateur et un autre être humain. Ceci, bien sûr, n'est pas la manière habituelle de discerner si quelqu'un ou quelque chose pense, mais nous examinerons ce point plus en profondeur plus tard. Pour l'instant, examinons simplement ce que faisait Turing.

Dans l'article, Turing a proposé ce qui allait être connu sous le nom de « test de Turing ». Dans ce test, une personne serait assise devant deux rideaux, derrière l'un se trouve un ordinateur et derrière l'autre se trouve une autre personne. La personne devant les rideaux communiquerait alors avec les deux entités mystérieuses à l'aide d'un clavier et d'un écran. Enfin, ils essaieraient de discerner laquelle des entités est humaine et laquelle est une machine.

Il y a un fort élément de pêche à la traîne manifeste dans cette expérience de pensée. Turing commence l'article en question en essayant de déséquilibrer le lecteur en faisant valoir que si vous mettez un homme et une femme derrière les rideaux, la plupart des gens ne pourraient pas deviner lequel est lequel si l'homme veut tromper la personne. devinant. Turing poursuit en faisant la proposition encore plus déconcertante que si nous remplaçons l'homme ou la femme par une machine, nous ne pourrons peut-être toujours pas les distinguer. Son récit est tout à fait troublant – et on a la nette impression qu'il en est ainsi à dessein.

Il y a beaucoup de littérature fictive qui traite de l'anxiété que Turing joue. De nombreux auteurs ont noté que les machines qui imitent les humains sont, pour une raison quelconque, extrêmement déconcertantes. Ils semblent imiter la vie et cela nous amène à nous demander s'il y a de la vie derrière l'extérieur glacé – cela nous amène alors à commencer à nous demander ce qu'est, en fait, la vie. Sigmund Freud était bien conscient des effets psychologiques de tels fantasmes ou pensé des expériences pourraient avoir. En effet, une discussion d'un tel fantasme occupe une grande partie de son article classique intitulé "The Uncanny”. Freud résume ainsi les effets de ce qu'il appelle « l'étrangeté » :

Le sujet du "étrange» est une province de ce genre. Elle appartient sans aucun doute à tout ce qui est terrible, à tout ce qui suscite l'effroi et l'horreur rampante ; il est également certain aussi que le mot n'est pas toujours employé dans un sens clairement définissable, de sorte qu'il tend à coïncider avec tout ce qui suscite l'effroi.

L'étrange est donc la province du troll des temps modernes. Freud aborde ensuite le point de référence d'un autre auteur sur l'étrange et c'est ici qu'il introduit l'automate ou la machine-imitatrice de l'être humain. L'autre auteur est un critique littéraire du nom de Jentsch qui a abordé un problème qui nous paraîtra presque identique à celui du test de Turing :

En racontant une histoire, l'un des moyens les plus efficaces pour créer facilement des effets étranges est de laisser le lecteur dans l'incertitude quant à savoir si une figure particulière de l'histoire est un être humain ou un automate ; et de le faire de telle manière que son attention ne soit pas directement focalisée sur son incertitude, afin qu'il ne soit pas poussé à entrer dans le sujet et à l'éclaircir immédiatement, car cela, comme nous l'avons dit, dissiperait rapidement le effet émotionnel de la chose.

Bien que Jentsch discute d'une œuvre de fiction d'horreur, nous pouvons voir que le même dispositif narratif est à l'œuvre dans la discussion de Turing sur l'ordinateur et l'humain. L'astuce consiste à déconcerter le lecteur en essayant d'éclaircir le problème posé. D'abord, vous mettez le lecteur hors de son équilibre émotionnel avec un problème offensant, puis vous le regardez se transformer en bretzels en essayant de tout comprendre. Il y a un degré important de manipulation rhétorique ici - semblable à ce que nous voyons lorsqu'un troll sur Internet essaie de mettre quelqu'un hors de l'équilibre émotionnel afin qu'il puisse ensuite contrôler ce dont la victime parle et fait. Quelque chose de très similaire à l'œuvre dans le test de Turing et c'est pourquoi, semble-t-il, tant de personnes ont relevé le défi sans remettre en cause les prémisses de base.

Comment toujours gagner à un test de Turing

Il n'est pas difficile de concevoir une stratégie extrêmement freudienne pour battre la machine à maintes reprises dans le test de Turing. Tout ce que vous avez à faire est de poser aux deux entités derrière les rideaux une série de questions de manière plaisante ou sarcastique. Finalement, il deviendra clair quelle entité est capable de capter le ton plaisantant ou sarcastique et cette entité sera l'humain. Oui, cela sera plus difficile à accomplir à l'aide d'un clavier et d'un écran qu'en face à face, mais vous pouvez généralement transmettre des blagues ou des sarcasmes même en tapant seul.

Les raisons pour lesquelles cela fonctionnera toujours est que les machines ne possèdent pas et ne peuvent pas posséder la capacité de reconnaître les blagues ou les sarcasmes, qui représentent un type de compréhension du langage complètement différent et dépendant du contexte que seuls les humains possèdent. Pour un ordinateur, le langage qui y est introduit ne peut dire qu'une chose. Il doit respecter des règles très strictes et ne peut pas être substantiellement ambigu – ce qui, bien sûr, est la nature de la plaisanterie ou de la remarque sarcastique. Contrairement aux limitations du langage machine, le langage humain peut dire deux choses, trois choses, beaucoup de choses.

"Un homme entre dans un bar…« Cette déclaration peut signifier deux choses différentes. Dans une situation, l'homme peut commander un verre, dans l'autre, il peut avoir une bosse sur la tête. Ce sont de telles ambiguïtés de sens que jouent les blagues et c'est cette nuance qu'aucun ordinateur ne peut capter.

Patient: "Docteur, docteur, je me sens comme une paire de rideaux. »

Médecin: "Eh bien, ressaisis-toi alors ! »

L'humour - pour ce qu'il est - dans cette blague survient parce que le médecin renverse le contexte sur le patient. Le patient – ​​nous supposons (même si encore une fois ce n'est qu'une supposition de notre part) – vient chez le médecin et lui dit au sens figuré qu'il se sent comme une paire de rideaux. Le médecin prend alors cette affirmation au pied de la lettre et prononce une phrase bien connue qui chevauche la métaphore du patient pour signifier que le patient doit se ressaisir et régler ses problèmes. Le sens ici fonctionne à n'importe quel nombre de niveaux différents et bien que nous puissions entrer un ensemble de règles dans un ordinateur pour identifier ces phrases comme une blague, l'ordinateur ne serait jamais en mesure de « comprendre » la blague de la même manière qu'un humain peut le faire. car la machine ne serait jamais capable de saisir les différents niveaux de sens opérant à la fois et produisant ce que l'on pourrait appeler l'effet de plaisanterie.

Oui, nous pourrions imaginer qu'un ordinateur puisse être programmé pour reconnaître chaque blague ou nuance rhétorique jamais dite auparavant à n'importe quel moment de l'histoire, mais alors tout ce que nous aurions à faire serait de proposer une nouvelle blague ou nuance rhétorique et la machine deviendrait confus. La différence alors entre un être humain et un ordinateur est que l'être humain a une relation totalement différente avec le langage en tant que machine. Alors que le langage machine est précis et adhère à des règles strictes, le langage humain est ambigu, créatif et a tendance à contourner les règles sur lesquelles il s'appuie implicitement.

La chose importante à reconnaître ici est la différence dans les types de communication qui ont lieu. Lorsqu'une machine communique, elle le fait sur la base d'une dynamique « signal/bruit ». Ceci est représenté dans le schéma ci-dessous.

L'ordinateur a tendance à obtenir un mélange de signal et de bruit en entrée et il essaie ensuite de démêler le signal du bruit et de traiter les informations en utilisant un ensemble de règles rigides et préétablies. L'élément clé à noter ici est qu'il est supposé qu'il existe un « signal » sous-jacent et sans ambiguïté sous-jacent aux informations saisies qui peuvent être extraites à l'aide de l'ensemble de règles prédéterminé.

La communication humaine est totalement différente. Dans la communication humaine, il n'y a ni signal ni bruit. Ce n'est pas simplement ainsi que fonctionne le processus. La communication humaine dépend fortement du contexte et il y a rarement, voire jamais, un véritable signal sous-jacent à l'information véhiculée qui est ensuite directement traitée par la personne qui écoute.

Pour le dire plus familièrement : les gens passent la plupart du temps à mal communiquer les uns avec les autres. Cela peut sembler étrange et dysfonctionnel, mais ce n'est pas le cas. Considérons un exemple extrême de ceci et nous verrons comment le processus fonctionne. Un couple regarde un film ensemble. La femme indique qu'elle a beaucoup trop chaud pour essayer d'amener l'homme à baisser le chauffage. L'homme prend cela comme un signal qu'elle veut avoir des relations sexuelles et fait une avance. Bien que ce ne soit pas l'information que la femme essayait à l'origine de faire passer elle active alors un désir sous-jacent qui l'emporte sur les contrariétés liées à la température et notre couple passe une belle soirée.

Ce qui semble avoir été un acte basé sur la communication par excellence est en fait un acte qui a ses racines dans un malentendu fondamental. C'est en fait ainsi que fonctionne la plupart des communications humaines au quotidien. La raison pour laquelle la société ne s'effondre pas sous une telle pression est que nous avons mis en place diverses normes et tabous et que les gens, dans une très large mesure, agissent conformément à ceux-ci. Ces règles et normes, cependant, sont infiniment plus flexibles que les règles requises pour que les machines traitent le langage machine. Mais malgré leur nature souvent ambiguë, ces règles fonctionnent assez bien pour maintenir le tissu social ensemble (La plupart du temps, de toute façon).

C'est précisément, par exemple, pourquoi la communication est souvent interrompue lorsqu'une personne visite une culture totalement étrangère. Soudain, un geste qui est une salutation dans sa société natale devient un acte de guerre lorsqu'il est appliqué dans le nouveau contexte. Combien de chaos a été causé tout au long de l'histoire de l'humanité par la mauvaise communication qui s'est produite entre les différentes normes sociales sous-jacentes entre différents groupes de personnes ? Beaucoup, on imagine.

Oui, Turing a été très intelligent en racontant une histoire qui a soulevé ces problèmes, comme l'a dit Jentsch, "de telle sorte que l'attention ne soit pas directement focalisée sur l'incertitude», mais ce faisant, il manipulait émotionnellement son public. Ils sont sortis de l'article en pensant en grande partie que Turing avait établi les critères selon lesquels la communication et la pensée pouvaient être jugées, mais tout ce qu'il avait fait était de s'engager dans une mauvaise direction par une rhétorique intelligente. En faisant croire aux gens que la communication machine et la communication humaine étaient identiques, Turing a réussi à convaincre d'innombrables personnes qu'elles pouvaient utiliser le langage de la cybernétique dans les sciences humaines - et c'est là que tout est devenu remarquablement dangereux.

Rêves de machines : l'économie devient informatique

Comme Philip Mirowski l'a montré dans son merveilleux livre 'Rêves de machines', il ne fallut pas longtemps pour que le langage de l'informatique s'imprègne profondément dans le discours de l'économie néoclassique de l'après-guerre. Si le lecteur connaît de quelque manière que ce soit le discours de l'économie néoclassique, il ne sera pas du tout surpris. En effet, le néoclassique est, en son cœur, tout à propos de ces types de communication de signal et de bruit.

L'économie néoclassique s'intéresse principalement à la façon dont les signaux de prix communiquent des informations sur différents marchés. Car les marchés néoclassiques sont conçus comme une cacophonie de désirs humains mais qui, à travers le processus de marchandage, sont finalement réduits à certains signaux de prix qui transmettent qui obtient quoi. Le « bruit » des différentes envies surmonté, les signaux de prix se manifestent et une communication harmonieuse s'établit entre tous les acteurs. Chacun obtient ce qu'il veut à un prix donné.

C'est l'hypothèse sous-jacente de la théorie financière néoclassique moderne - également connue sous le nom d'hypothèse des marchés efficaces (EMH). Ici, le marché est conçu d'un groupe d'individus rationnels et irrationnels. Les individus rationnels agissent en accord avec "véritable” – c'est-à-dire qu'ils évaluent les actifs en fonction de leurs « vraies » valeurs qui, à leur tour, sont basées sur une évaluation « rationnelle » de la valeur future de l'actif. Les individus irrationnels ne le font pas cependant ; ils agissent plutôt sur "faux” des informations qui ne sont pas obtenues de manière rationnelle. Ainsi, les individus rationnels sont vus comme des « marchands de signaux » et les individus irrationnels sont vus comme des « marchands de bruit ». Le marché est alors, comme l'ordinateur, pensé pour établir une communication parfaite en éliminant les « noise-traders » par la concurrence tout en favorisant les « signal-traders ». Puisque les noise-traders agissent de manière stupide, les signal-traders gagneront tout l'argent et les noise-traders feront faillite.

Des variantes de cette théorie peuvent alors être imaginées où les traders de bruit prennent le dessus et les traders de signal perdent, ce qui fait que le marché devient dominé par le « bruit » et devient ainsi instable. Cela constitue la plupart des théories modernes de l'instabilité financière et est même utilisé par certains économistes pour expliquer la crise de 2008. Cependant, comme nous l'avons vu, toute la prémisse de la théorie est fausse. La théorie conçoit les gens comme des ordinateurs et non comme des êtres humains avec une relation entièrement plus complexe avec le langage et la communication. Cela suppose qu'il existe un "signal" fondamental sous-jacent à tout le "bruit", mais ce n'est tout simplement pas le cas.

Comme nous l'avons déjà montré, la communication humaine n'est pas une relation signal/bruit. Cela dépend du contexte et repose sur des normes, des règles et une perception très flexibles de ce que les autres pensent être la « chose normale à faire ». La même chose est vraie lorsque les individus interprètent des informations - disons, le prix d'un actif (un titre adossé à une hypothèque, peut-être ?). Ils ne le considèrent pas comme un ordinateur appliquant des règles strictes et des critères inflexibles. Au lieu de cela, ils le voient à travers le prisme des normes et règles beaucoup plus flexibles et dépendantes du contexte de l'institution dans laquelle ils travaillent à ce moment particulier de l'histoire. Ceci, à son tour, dépend de ce que font tous les autres sur le marché. Keynes l'a reconnu lorsqu'il a décrit le marché comme une sorte de « concours de beauté ». (Le lecteur pourra également regarder la vidéo qui suit l'extrait de The General Theory…):

[P]L'investissement professionnel peut être assimilé à ces concours de journaux où les concurrents doivent choisir parmi une centaine de photographies les six plus beaux visages, le prix étant décerné au concurrent dont le choix correspond le plus aux préférences moyennes de l'ensemble des concurrents ; de sorte que chaque concurrent doit choisir, non pas les visages qu'il trouve lui-même les plus jolis, mais ceux qu'il pense les plus susceptibles d'attirer l'imagination des autres concurrents, qui envisagent tous le problème du même point de vue. Il ne s'agit pas de choisir celles qui, au meilleur de son jugement, sont vraiment les plus jolies, ni même celles que l'opinion moyenne trouve véritablement les plus jolies. Nous avons atteint le troisième degré où nous consacrons nos intelligences à anticiper ce que l'opinion moyenne attend de l'opinion moyenne. Et il y en a, je crois, qui pratiquent les quatrième, cinquième et degrés supérieurs. (GT, chapitre 12)

Et c'est pour cette raison que la théorie néoclassique des prix en général et la théorie financière néoclassique en particulier doivent être complètement supprimées. Les êtres humains ne sont pas les calculateurs rationnels que les néoclassiques pensent qu'ils sont. Ils ne le sont certainement pas sur les marchés financiers, mais ils ne le sont pas non plus sur les marchés en général. Ce que l'on appelle généralement de manière péjorative « comportement de troupeau » n'est rien de plus qu'une manifestation de la façon dont la communication humaine fonctionne réellement à un niveau très fondamental.

C'est le cas qu'il faut faire pour la régulation financière aujourd'hui. Il ne faut pas dire que les « noise-traders » devancent parfois les « signal-traders » comme le voudraient les néoclassiques. Ceci est un sophisme complet et obscurcit complètement le problème. Non, le marché n'est pas du tout une calculatrice rationnelle, c'est juste un groupe d'individus qui agissent conformément à des normes et des règles très flexibles qui évoluent avec le temps. Nous, en tant que société, pouvons toutefois imposer des restrictions limitatives sur les normes et les règles qui l'emportent à travers nos institutions juridiques. Nous ne pouvons pas plus nous fier à une prétendue « rationalité » qu'à une « communication claire » – de telles considérations n'ont aucun sens lorsqu'elles sont appliquées aux êtres humains. Au lieu de cela, nous devons mettre en place des règles juridiques et institutionnelles claires pour que les gens sachent ce qu'ils sont autorisés à faire et ce qu'ils ne sont pas autorisés à faire.