男性、機械、間違い

男性を機械と間違える：新古典派経済学が人間のコミュニケーションを誤解するためにコンピュータサイエンスにどのように依存しているか

フィリップ・ピルキントン

当初の投稿 裸の資本主義, ２０２０年３月５日.

今日、私たちがアラン・チューリングのおかげであることに感謝することがたくさんあります。アラン・チューリングは、最初ではないにしても、最初のコンピューター科学者の一人として一般に認められています。 しかし一方で、チューリングにまでさかのぼることができることもたくさんあります。チューリングは私たちの心を愚かさで満たし、大学はナンセンスな話をする人々でいっぱいになっているので、決して感謝すべきではありません。 チューリングの間違いなく重要な成果を損なうことなく、ここでは後者に焦点を当て、チューリングのアイデアのいくつかが人間科学全般、特に経済学にどのように感染するようになったのかを説明します。

アランチューリング：インターネット前のトロール

おそらく、現代のコンピューターの発明を担当した男性のXNUMX人が、周囲の人々の感情的な均衡を乱すように設計された行為に執拗に従事していたように見える、耐え難い荒らしであったという事実には、皮肉があります。 チューリングの伝記作家アンドリュー・ホッジスは、これらの事件のXNUMXつに関連しており、チューリングの魅力的なナヴィッシュな性質をよく強調しています。

アランは「思考機械」の可能性を持ち続けていました。 彼の甲高い声は、ベル社内での昇進のために身だしなみを整える行儀の良いジュニアエグゼクティブの一般的なつぶやきよりもすでに際立っていました。 それから彼は突然こう言うのを聞いた。「いいえ、私は強力な脳を発達させることに興味がありません。 私が求めているのは、American Telephone＆TelegraphCompanyの社長のような平凡な頭脳だけです。 アランが商品や株の価格を実際に食べて、機械に「私は買うか売るか」という質問をすることを想像した方法をさりげなく説明し続けている間、部屋は麻痺しました。?

私たちが彼の独創的な1950年の論文を読むべきであるのはこの静脈にあるようです。コンピューティング機械とインテリジェンス'。 この論文でTuringが表面上扱っていたのは、コンピューターが「考える」。 しかし、論文の冒頭で、チューリングは「考える」を再定義して、コンピューターが人間を完全に模倣し、その人がコンピューターと他の人間を区別できない可能性があることを単に意味します。 もちろん、これは誰かまたは何かが考えているかどうかを識別するための典型的な方法ではありませんが、この点については後でさらに詳しく検討します。 とりあえず、Turingが何をしていたかを簡単に調べてみましょう。

論文の中で、チューリングは「チューリングテスト」として知られるようになったものを提案しました。 このテストでは、人はXNUMXつのカーテンの前に座り、一方の後ろにはコンピューターがあり、もう一方の後ろには別の人がいます。 カーテンの前にいる人は、キーボードと画面を使用してXNUMXつの謎の実体と通信します。 最後に、彼らはどの実体が人間でどれが機械であるかを見極めようとします。

この思考実験には、トローリングマニフェストの強力な要素があります。 チューリングは、カーテンの後ろに男性と女性を置くと、ほとんどの人が男性が人をだまそうとしている場合、どちらがどちらであるかを推測できないというケースを作ることによって、読者のバランスを崩そうとすることから問題の論文を始めます推測。 その後、チューリングは、男性または女性のいずれかを機械に置き換えても、それらを区別できない可能性があるという、さらに厄介な提案を続けます。 彼の説明は完全に不安であり、これは意図的にそうだという明確な印象を受けます。

チューリングが演じる不安を扱った架空の文学はたくさんあります。 多くの作家は、人間を模倣する機械は、何らかの理由で非常に当惑していると指摘しています。 彼らは生命を模倣しているように見え、これは私たちに氷のような外観の後ろに生命があるかどうかを疑問視するように導きます-これは私たちが実際に生命が何であるかを疑問視し始めるように導きます。 ジークムント・フロイトは、そのようなファンタジーの心理的影響をよく知っていました または考えた 実験が持つ可能性があります。 確かに、そのようなファンタジーの議論は、「不気味」。 フロイトは、彼が「すごい」と呼んでいるものの影響を次のように要約しています。

「の主題すごいです」はこの種の州です。 それは間違いなくひどいものすべてに属します—恐怖と忍び寄る恐怖を引き起こすすべてのものに。 また、この単語が常に明確に定義できる意味で使用されているとは限らないため、恐怖を刺激するものと一致する傾向があることも同様に確かです。

不気味なのは、それで、 県 現代のトロールの。 フロイトはその後、不気味な別の著者の参照点について議論し、ここで彼は人間のオートマトンまたは機械模倣者を紹介します。 もう一人の著者は、チューリングのテストとほぼ同じであると私たちを襲う問題を取り上げたジェンチと呼ばれる文芸評論家です。

物語を語る上で、不思議な効果を簡単に作り出すための最も成功した装置のXNUMXつは、物語の特定の人物が人間であるかオートマトンであるかを読者に不確実なままにすることです。 そして、彼の注意が彼の不確実性に直接集中しないような方法でそれを行うことで、彼は問題に立ち入ってすぐにそれを解決するように促されないかもしれません。物事の感情的な影響。

ジェンチはホラーフィクションの作品について話し合っていますが、チューリングのコンピューターと人間についての話し合いでも同じ物語の装置が働いていることがわかります。 秘訣は、読者を混乱させて、提起された問題を解決しようとすることです。 最初に、読者を不快な問題で感情的な平衡状態から外し、次に、全体を理解しようとしてプレッツェルにねじれるのを観察します。 ここにはかなりの程度の修辞的操作があります。インターネットの荒らしが誰かを感情的な平衡状態から追い出そうとしたときに見られるものと同様で、被害者が話したり行動したりすることを制御できます。 チューリングテストで非常によく似たことが行われているため、多くの人が基本的な前提を疑うことなく挑戦しているようです。

チューリングテストで常に勝つ方法

チューリングテストで何度もマシンを打ち負かすための非常にフロイト的な戦略を考案することは難しくありません。 あなたがしなければならないのは、冗談や皮肉な方法でカーテンの後ろのXNUMXつのエンティティに一連の質問をすることです。 最終的には、どのエンティティが冗談や皮肉な口調で拾うことができるかが明らかになり、そのエンティティは人間になります。 はい、これは対面するよりもキーボードと画面を使用して達成するのが難しいでしょうが、通常はタイプだけでも冗談や皮肉を伝えることができます。

これが常に機能する理由は、機械がジョークや皮肉を認識する能力を持たず、また持つことができないためです。ジョークや皮肉は、人間だけが持っているまったく異なる、コンテキストに依存するタイプの言語理解を表しています。 コンピューターの場合、コンピューターに入力される言語はXNUMXつのことしか言えません。 それは非常に厳格な規則に従わなければならず、実質的に曖昧であってはなりません–もちろん、それは冗談や皮肉な発言の性質です。 機械語の制限とは対照的に、人間の言語はXNUMXつのこと、XNUMXつのこと、多くのことを言うことができます。

「男がバーに入る…そのステートメントは、XNUMXつの異なることを意味する可能性があります。 ある状況では、男性は飲み物を注文するかもしれませんし、他の状況では、彼は頭にぶつかるかもしれません。 ジョークが再生されるのは意味のあいまいさであり、コンピューターが理解できないのはこのニュアンスです。

忍耐強い： "医者、医者、私は一組のカーテンのように感じます。　

医者： "さて、それでは一緒になってください！　

このジョークのユーモアは、それが何であるかについて、医師が患者の文脈をひっくり返すために発生します。 患者–私たちは仮定します（繰り返しますが、これは私たちの側の単なる仮定です）–医者のところに来て、比喩的に彼はカーテンのペアのように感じていると言います。 次に、医師はこの声明を文字通り受け取り、患者の比喩と重なるよく知られたフレーズを発して、患者がそれをまとめて問題を解決する必要があることを伝えます。 ここでの意味は、さまざまなレベルで動作しており、一連のルールをコンピューターに入力してこれらの文をジョークとして識別することはできますが、コンピューターは人間と同じようにジョークを「取得」することはできません。なぜなら、マシンは、ジョーク効果と呼ばれるものを生み出す、一度に動作するさまざまなレベルの意味を把握することができないからです。

はい、歴史のどの時点でも、これまでに言われたすべてのジョークや修辞的なニュアンスを認識するようにコンピューターをプログラムできると想像できますが、そうすれば、新しいジョークや修辞的なニュアンスを考え出すだけで、マシンは次のようになります。混乱している。 人間とコンピューターの違いは、人間は機械としての言語とはまったく異なる関係にあるということです。 機械語は正確で厳格な規則に準拠していますが、人間の言語はあいまいで創造的であり、暗黙的に依存する規則を曲げる傾向があります。

ここで認識しておくべき重要なことは、行われるコミュニケーションの種類の違いです。 マシンが通信するときは、「信号/ノイズ」ダイナミクスに基づいて通信します。 これは、次の図に示されています。

コンピューターは、信号とノイズの混合物を入力として取得する傾向があり、次に、信号をノイズから解きほぐし、一連の厳格な事前に確立されたルールを使用して情報を処理しようとします。 ここで注意すべき重要な点は、入力されている情報の基礎となる、事前に決定されたルールセットを使用して抽出できる、基礎となる明確な「信号」が存在することを前提としていることです。

人間のコミュニケーションはまったく異なります。 人間のコミュニケーションでは、信号やノイズはありません。 それは単にプロセスがどのように機能するかではありません。 人間のコミュニケーションは状況に大きく依存しており、伝達されている情報の根底にある真の信号が、聞いている人によって直接処理されることはめったにありません。

これをより口語的に言えば、人々はほとんどの時間を互いに誤解を招くことに費やしています。 これは奇妙で機能不全に見えるかもしれませんが、そうではありません。 これの極端な例を考えてみましょう。プロセスがどのように機能するかを見ていきます。 カップルが一緒に映画を見ています。 女性は、男性に暖房を下げさせるために、彼女があまりにも暖かすぎることを示しています。 男はこれをセックスしたいという合図としてとらえ、前進する。 これは女性が最初に伝えようとしていた情報ではありませんが、温度に関連する煩わしさを上回る根本的な欲求を活性化し、私たちのカップルは素敵な夜を過ごします。

卓越したコミュニケーションに基づく行為であるように見えるのは、実際には根本的な誤解に根ざした行為です。 これは実際、ほとんどの人間のコミュニケーションが日常的にどのように機能するかです。 そのような圧力の下で社会が崩壊しない理由は、私たちにはさまざまな規範やタブーがあり、人々は非常に多くの場合、これらに沿って行動しているからです。 ただし、これらのルールと規範は、マシンが機械語を処理するために必要なルールよりもはるかに柔軟です。 しかし、しばしばあいまいな性質にもかかわらず、これらのルールは、社会的構造をまとめるのに非常にうまく機能します（ほとんどの場合、とにかく).

これはまさに、例えば、人が完全に異質な文化を訪れたときにコミュニケーションがしばしば途絶える理由です。 自国の社会での挨拶であるジェスチャーは、新しい文脈で適用されると、突然戦争行為になります。 異なる人々のグループ間の異なる根底にある社会的規範に起こった誤解によって、人類の歴史を通してどのくらいの混乱が引き起こされましたか？ かなりたくさん、想像するでしょう。

はい、Jentschが言ったように、Turingは、これらの問題を引き起こした話をするのに非常に巧妙でした。不確実性に直接注意が向けられないような方法で」しかし、そうすることで、彼は聴衆を感情的に操作していました。 彼らは、チューリングがコミュニケーションと思考を判断するための基準を確立したと主に考えて作品から離れましたが、彼がしたのは巧妙なレトリックを通して誤った方向性に従事することだけでした。 機械通信と人間通信が同一であると人々を騙して考えさせることにより、チューリングは無数の人々に、人間科学でサイバネティックスの言語を使用できることを納得させることができました。

Machine Dreams：経済学がコンピューターサイエンスになる

フィリップ・ミロウスキが彼の素晴らしい本で示したように 'マシンドリームス、 'コンピュータサイエンスの言語が第二次世界大戦後の新古典派経済学の言説に深く浸透するのはそう長くはありませんでした。 読者が新古典派経済学の言説に何らかの形で精通している場合、彼らは遠く離れて驚かないでしょう。 これは、新古典主義が本質的に、そのような信号およびノイズタイプの通信に関するものだからです。

新古典派経済学は主に、価格シグナルがさまざまな市場で情報を伝達する方法に関係しています。 新古典派にとって、市場は人間の欲望の不協和音であると考えられていますが、交渉の過程を通じて、最終的には誰が何を手に入れるかを伝える特定の価格シグナルに還元されます。 さまざまな欲求の「ノイズ」が克服されると、価格シグナルが現れ、すべてのアクター間で調和のとれたコミュニケーションが行われます。 誰もが与えられた価格で欲しいものを手に入れます。

これは、現代の新古典主義金融理論（効率的市場仮説（EMH）としても知られている）によってなされた根本的な仮定です。 ここでは、市場は合理的で非合理的な個人の束で構成されています。 合理的な個人は、「true」情報–つまり、資産を「真の」値に沿って評価します。これは、資産が将来どの程度の価値があるかについての「合理的な」評価に基づいています。 しかし、不合理な個人はこれを行っていません。 代わりに、彼らは「false」合理的な方法で到達していない情報。 したがって、合理的な個人は「シグナルトレーダー」と見なされ、非合理的な個人は「ノイズトレーダー」と見なされます。 その場合、市場はコンピュータと同様に、「信号トレーダー」を促進しながら、競争を通じて「ノイズトレーダー」を排除することによって完全なコミュニケーションを確立すると考えられています。 ノイズトレーダーは愚かであるため、シグナルトレーダーはすべてのお金を稼ぎ、ノイズトレーダーは破産します。

この理論の変形は、ノイズトレーダーが優勢になり、シグナルトレーダーが負けて、市場が「ノイズ」に支配されて不安定になる場合に考えられます。 これは、金融不安に関する現代の理論の多くを構成しており、2008年の危機を説明するために一部のエコノミストによってさえ使用されています。 しかし、これまで見てきたように、理論の前提全体は間違っています。 理論は、言語とコミュニケーションに完全に複雑な関係を持つ人間としてではなく、コンピューターとして人々を考えています。 すべての「ノイズ」の根底にある基本的な「信号」があることを前提としていますが、これは単にそうではありません。

すでに示したように、人間のコミュニケーションは信号とノイズの関係ではありません。 それは文脈に依存し、非常に柔軟な規範、規則、および他の人が「通常行うこと」と考えるものの認識に依存しています。 個人が情報を解釈する場合も同じことが言えます。たとえば、資産の価格（住宅ローン担保証券など）。 コンピュータが厳格な規則と柔軟性のない基準を適用する可能性があるため、彼らはそれを見ていません。 代わりに、彼らは歴史のその特定の瞬間に彼らが働いている機関のはるかに柔軟で文脈依存の規範と規則のレンズを通してそれを見ます。 これは、次に、市場の他のすべての人が何をしているかに依存します。 ケインズは、市場について一種の「美人コンテスト」として書いたときにこれを認識しました。 （（読者はまた、一般理論からの抜粋に続くビデオを見るかもしれません…):

[P]専門家の投資は、競技者がXNUMX枚の写真から最も美しいXNUMXつの顔を選ばなければならない新聞の競技会に例えることができます。賞は、競技者全体の平均的な好みにほぼ一致する選択をした競技者に授与されます。 そのため、各競技者は、自分が最も美しいと思う顔ではなく、同じ視点から問題を検討している他の競技者の空想を捕らえる可能性が最も高いと考える顔を選択する必要があります。 それは、自分の判断で最も美しいものを選ぶ場合でも、平均的な意見でさえ本当に最も美しいと思うものを選ぶ場合でもありません。 私たちは、平均的な意見が平均的な意見であると期待するものを予測することに私たちの知性を捧げるXNUMX度に達しました。 そして、XNUMX度、XNUMX度、そしてそれ以上の学位を実践している人もいると思います。 （GT、第12章）

そして、一般的な新古典主義の価格理論、特に新古典主義の金融理論を完全に廃止する必要があるのはこのためです。 人間は、新古典主義者が考えているような合理的な計算機ではありません。 彼らは確かに金融市場ではそうではありませんが、より一般的な市場でもそうではありません。 一般的に「群集行動」と誹謗中傷的に呼ばれるのは、人間のコミュニケーションが実際に非常に基本的なレベルでどのように機能するかを表したものにすぎません。

これは、今日の金融規制のために行われる必要があるケースです。 新古典主義者が持っているように、「ノイズトレーダー」が「シグナルトレーダー」よりも先を行くことがあると言ってはなりません。 これは完全な詭弁であり、問​​題を完全に覆い隠します。 いいえ、市場は合理的な計算機ではありません。時間の経過とともに進化する非常に柔軟な規範やルールに沿って行動する個人の集まりにすぎません。 しかし、私たちは社会として、法制度を通じて勝ち取る規範や規則に制限を課すことができます。 「明確なコミュニケーション」に頼ることができる以上に、想定される「合理性」に頼ることはできません。そのような考慮事項は、人間に適用した場合には意味がありません。 代わりに、人々が自分に何が許可され、何が許可されていないかを知ることができるように、明確な法的および制度的規則を整備する必要があります。