Mannen, machines en fouten

Mensen verwarren met machines: hoe neoklassieke economie vertrouwt op computerwetenschap om menselijke communicatie verkeerd te begrijpen

door Philip Pilkington

Oorspronkelijk gepost op Naakt kapitalisme, 27 maart 2013.

We hebben vandaag veel om dankbaar voor te zijn dat we te danken hebben aan Alan Turing - die algemeen wordt erkend als een van de eerste, zo niet de eerste, computerwetenschapper. Maar aan de andere kant hebben we ook veel dat we kunnen herleiden tot Turing waar we op geen enkele manier dankbaar voor zouden moeten zijn, omdat het onze hoofden heeft gevuld met stompzinnigheden en onze universiteiten met mensen die onzin praten. Zonder afbreuk te doen aan Turing's ongetwijfeld belangrijke prestaties, concentreren we ons hier op de laatste en hoe sommige van Turings ideeën de menswetenschappen in het algemeen en de economie in het bijzonder hebben besmet.

Alan Turing: Pre-internettrol

Misschien is er enige ironie in het feit dat een van de mannen die verantwoordelijk was voor de uitvinding van de moderne computer ook een onuitstaanbare trol was die zich voortdurend bezig leek te houden met handelingen die bedoeld waren om het emotionele evenwicht van de mensen om hem heen te verstoren. Turing's biograaf Andrew Hodges vertelt over een van deze incidenten die Turing's charmant sluwe karakter goed naar voren brengt:

Alan had het over de mogelijkheden van een 'denkmachine'. Zijn hoge stem stak al uit boven het algemene gemompel van goed opgevoede junior executives die zich klaarmaakten voor promotie binnen de Bell Corporation. Toen hoorde men hem plotseling zeggen: “Nee, ik ben niet geïnteresseerd in het ontwikkelen van een krachtig brein. Het enige wat ik zoek is een middelmatig brein, zoiets als de president van American Telephone & Telegraph Company”. De kamer was verlamd terwijl Alan nonchalant bleef uitleggen hoe hij zich voorstelde om feiten over de prijzen van grondstoffen en aandelen in te voeren en de machine de vraag te stellen: "Koop ik of verkoop ik"?

Het lijkt erop dat we in deze geest zijn baanbrekende artikel uit 1950 moeten lezen.Computermachines en intelligentie'. Waar Turing in dit artikel ogenschijnlijk mee te maken had, was of van een computer wel of niet kan worden gezegd dat hij "denken”. Helemaal aan het begin van het artikel herdefinieert Turing 'denken' echter gewoon in de betekenis dat een computer een mens zo perfect kan imiteren dat de persoon geen onderscheid kan maken tussen de computer en een ander mens. Dit is natuurlijk niet de typische manier om te onderscheiden of iemand of iets denkt, maar we zullen dit punt later uitgebreider bekijken. Laten we nu eens kijken wat Turing aan het doen was.

In de krant stelde Turing voor wat bekend werd als de "Turing-test". In deze test zou een persoon voor twee gordijnen zitten, achter de ene is een computer en achter de andere is een andere persoon. De persoon voor de gordijnen zou dan communiceren met de twee mysterieuze entiteiten met behulp van een toetsenbord en een scherm. Ten slotte zouden ze proberen te onderscheiden welke van de entiteiten een mens is en welke een machine.

Er is een sterk element van trollen aanwezig in dit gedachte-experiment. Turing begint het artikel in kwestie door te proberen de lezer uit zijn evenwicht te brengen door te beweren dat als je een man en een vrouw achter de gordijnen plaatst, de meeste mensen niet kunnen raden welke dat is als de man de persoon wil misleiden raden. Turing gaat dan verder met het nog verontrustender voorstel dat als we de man of de vrouw vervangen door een machine, we ze misschien nog steeds niet uit elkaar kunnen houden. Zijn relaas is ronduit verontrustend - en je krijgt de duidelijke indruk dat dit met opzet zo is.

Er is veel fictieve literatuur die gaat over de angst die Turing uitspeelt. Veel schrijvers hebben opgemerkt dat machines die mensen nabootsen om de een of andere reden buitengewoon verontrustend zijn. Ze lijken het leven te imiteren en dit leidt ertoe dat we ons afvragen of er leven is achter de ijzige buitenkant - dit brengt ons ertoe om ons af te vragen wat leven eigenlijk is. Sigmund Freud was zich terdege bewust van de psychologische effecten van dergelijke fantasieën of dacht experimenten zouden kunnen hebben. Een bespreking van zo'n fantasie neemt inderdaad een groot deel van zijn klassieke paper met de titel "het griezelige”. Freud vat de effecten van wat hij 'het griezelige' noemt als zodanig samen:

Het onderwerp van de “griezelig’ is zo’n provincie. Het behoort ongetwijfeld tot alles wat verschrikkelijk is - tot alles wat angst en sluipende afschuw oproept; het is even zeker dat het woord niet altijd in een duidelijk definieerbare betekenis wordt gebruikt, zodat het de neiging heeft samen te vallen met alles wat angst oproept.

De Uncanny is dan de provincie van de moderne trol. Freud bespreekt vervolgens het referentiepunt van een andere auteur over het griezelige en het is hier dat hij de automaat of de machine-imitator van de mens introduceert. De andere auteur is een literaire criticus genaamd Jentsch, die een probleem heeft opgepakt dat ons opvalt als bijna identiek aan dat van Turing's test:

Bij het vertellen van een verhaal is een van de meest succesvolle middelen om gemakkelijk griezelige effecten te creëren, de lezer in onzekerheid te laten of een bepaalde figuur in het verhaal een mens of een automaat is; en om het op zo'n manier te doen dat zijn aandacht niet direct op zijn onzekerheid wordt gericht, zodat hij niet kan worden aangespoord om op de zaak in te gaan en het onmiddellijk op te lossen, aangezien dat, zoals we hebben gezegd, het eigenaardige snel zou doen verdwijnen emotionele effect van het ding.

Hoewel Jentsch het heeft over een werk van horrorfictie, kunnen we zien dat hetzelfde verhalende apparaat aan het werk is in Turings bespreking van de computer en de mens. De truc is om de lezer zover te krijgen dat hij probeert het gestelde probleem op te lossen. Eerst zet je de lezer uit hun emotionele evenwicht met een aanstootgevend probleem, dan zie je hoe ze zichzelf in pretzels verdraaien en proberen de hele zaak te doorgronden. Er is hier een aanzienlijke mate van retorische manipulatie - vergelijkbaar met wat we zien wanneer een internettrol iemand uit emotioneel evenwicht probeert te brengen, zodat ze vervolgens kunnen bepalen waar het slachtoffer over praat en doet. Iets vergelijkbaars aan het werk in de Turing-test en dit is waarom, zo lijkt het, zo velen de uitdaging zijn aangegaan zonder de basispremissen in twijfel te trekken.

Hoe u altijd kunt winnen bij een Turing-test

Het is niet moeilijk om een ​​extreem Freudiaanse strategie te bedenken om de machine keer op keer te verslaan in de Turing-test. Het enige wat je hoeft te doen is de twee entiteiten achter de gordijnen een reeks vragen stellen op een grapje of sarcastische manier. Uiteindelijk zal duidelijk worden welke entiteit de grappende of sarcastische toon kan oppikken en die entiteit zal de mens zijn. Ja, dit zal moeilijker te bereiken zijn met een toetsenbord en scherm dan face-to-face, maar je kunt meestal een grapje of sarcasme overbrengen, zelfs door alleen te typen.

De reden dat dit altijd zal werken, is omdat machines niet het vermogen hebben en kunnen hebben om grappen of sarcasme te herkennen, die een heel ander, contextafhankelijk type taalbegrip vertegenwoordigen dat alleen mensen bezitten. Voor een computer kan de taal die erin wordt ingevoerd maar één ding zeggen. Het moet zich houden aan zeer strikte regels en mag niet substantieel dubbelzinnig zijn - wat natuurlijk de aard is van de grap of sarcastische opmerking. In tegenstelling tot de beperkingen van machinetaal kan de menselijke taal twee dingen zeggen, drie dingen, veel dingen.

"Een man loopt een bar binnen ...Die uitspraak kan twee verschillende dingen betekenen. In de ene situatie bestelt de man een drankje, in de andere krijgt hij een bult op zijn hoofd. Het zijn zulke dubbelzinnigheden in de betekenis dat grappen doorspelen en het is deze nuance die geen enkele computer kan oppikken.

Geduldig: "Dokter, dokter, ik voel me net een paar gordijnen."

Dokter: "Nou, raap jezelf dan bij elkaar!"

De humor – voor wat het is – in deze grap ontstaat doordat de arts de patiënt de context omdraait. De patiënt – we nemen aan (hoewel dit ook maar een aanname van onze kant is) – komt naar de dokter en vertelt hem figuurlijk dat hij zich als een paar gordijnen voelt. De arts neemt deze uitspraak dan letterlijk en spreekt een bekende zin uit die overlapt met de metafoor van de patiënt om duidelijk te maken dat de patiënt het voor elkaar moet krijgen en zijn problemen moet oplossen. Dit betekent dat we op een willekeurig aantal verschillende niveaus werken en hoewel we een reeks regels in een computer zouden kunnen invoeren om deze zinnen als een grap te identificeren, zou de computer de grap nooit op dezelfde manier kunnen "vatten" als een mens kan. omdat de machine nooit in staat zou zijn om de verschillende betekenisniveaus te begrijpen die tegelijk werken en die wat we het grap-effect zouden kunnen noemen, produceren.

Ja, we kunnen ons voorstellen dat een computer kan worden geprogrammeerd om elke grap of retorische nuance te herkennen die ooit eerder in de geschiedenis is gezegd, maar dan hoeven we alleen maar een nieuwe grap of retorische nuance te bedenken en de machine zou verward. Het verschil tussen een mens en een computer is dan dat de mens een heel andere relatie tot taal heeft dan de machine. Terwijl machinetaal nauwkeurig is en zich aan strikte regels houdt, is menselijke taal dubbelzinnig, creatief en heeft ze de neiging de regels te verbuigen waarop ze impliciet vertrouwt.

Het belangrijkste om hier te herkennen is het verschil in de soorten communicatie die plaatsvinden. Als een machine communiceert, doet ze dat op basis van een “signaal/ruis”-dynamiek. Dit is weergegeven in onderstaand schema.

De computer heeft de neiging om een ​​mengsel van signaal en ruis als invoer te krijgen en probeert vervolgens het signaal van de ruis te ontwarren en de informatie te verwerken met behulp van een reeks rigide, vooraf vastgestelde regels. Het belangrijkste om hier op te merken is dat wordt aangenomen dat er een onderliggend en ondubbelzinnig "signaal" bestaat dat ten grondslag ligt aan de informatie die wordt ingevoerd en dat kan worden geëxtraheerd met behulp van de vooraf bepaalde regelset.

Menselijke communicatie is heel anders. In menselijke communicatie is er geen signaal of ruis. Dat is niet alleen hoe het proces werkt. Menselijke communicatie is sterk contextafhankelijk en er is zelden of nooit een echt signaal dat ten grondslag ligt aan de informatie die wordt overgebracht, dat vervolgens direct wordt verwerkt door de persoon die luistert.

Om het wat informeler te zeggen: mensen brengen het grootste deel van de tijd door met verkeerd communiceren met elkaar. Dit lijkt misschien vreemd en disfunctioneel, maar dat is het niet. Overweeg een extreem voorbeeld hiervan en we zullen zien hoe het proces werkt. Een stel kijkt samen film. De vrouw geeft aan dat ze het veel te warm heeft in een poging de man de verwarming lager te laten draaien. De man vat dit op als een signaal dat ze seks wil hebben en maakt een opmars. Hoewel dit niet de informatie is die de vrouw oorspronkelijk probeerde over te brengen, activeert het een onderliggend verlangen dat zwaarder weegt dan de ergernissen die gepaard gaan met de temperatuur en ons stel heeft een leuke avond.

Wat een daad lijkt te zijn die gebaseerd is op communicatie bij uitstek, is in feite een daad die zijn wortels heeft in een fundamentele miscommunicatie. Dit is eigenlijk hoe de meeste menselijke communicatie van dag tot dag functioneert. De reden dat de samenleving niet bezwijkt onder die druk is omdat we verschillende normen en taboes hebben en mensen zich daar voor een groot deel ook naar gedragen. Deze regels en normen zijn echter oneindig veel flexibeler dan de regels die machines nodig hebben om machinetaal te verwerken. Maar ondanks hun vaak ambigue karakter, functioneren deze regels best goed om het sociale weefsel bij elkaar te houden (meestal toch).

Dit is bijvoorbeeld precies de reden waarom de communicatie vaak stuk gaat als iemand een totaal vreemde cultuur bezoekt. Plots wordt een gebaar dat een begroeting is in de eigen samenleving een oorlogsdaad wanneer het in de nieuwe context wordt toegepast. Hoeveel chaos is er door de hele menselijke geschiedenis veroorzaakt door de miscommunicatie die ontstond met verschillende onderliggende sociale normen tussen verschillende groepen mensen? Heel veel, zou je denken.

Ja, Turing was erg slim in het vertellen van een verhaal dat deze problemen naar voren bracht, zoals Jentsch zei: “zodanig dat de aandacht niet direct op de onzekerheid wordt gericht”, maar daarmee manipuleerde hij zijn publiek emotioneel. Ze verlieten het stuk grotendeels in de veronderstelling dat Turing de criteria had vastgesteld op basis waarvan communicatie en denken konden worden beoordeeld, maar het enige wat hij had gedaan was misleiding door slimme retoriek. Door mensen te laten denken dat machinecommunicatie en menselijke communicatie identiek waren, kon Turing ontelbare mensen ervan overtuigen dat ze de taal van cybernetica in de menswetenschappen konden gebruiken - en dit is waar het allemaal opmerkelijk gevaarlijk werd.

Machinedromen: economie wordt computerwetenschap

Zoals Philip Mirowski heeft laten zien in zijn prachtige boek 'Machinedromen,' duurde het niet lang voordat de taal van de informatica diep doordrong in het discours van de neoklassieke economie van na de Tweede Wereldoorlog. Als de lezer op de een of andere manier bekend is met het discours van de neoklassieke economie, zal hij niet in de verste verte verrast zijn. Dit komt omdat neoklassiek in de kern draait om dergelijke soorten signaal- en ruiscommunicatie.

Neoklassieke economie houdt zich voornamelijk bezig met hoe prijssignalen informatie communiceren op verschillende markten. Voor de neoklassieke mensen worden markten opgevat als een kakofonie van menselijke verlangens, maar die, door middel van onderhandelingen, uiteindelijk worden gereduceerd tot bepaalde prijssignalen die aangeven wie wat krijgt. Met het "lawaai" van verschillende verlangens overwonnen, manifesteren de prijssignalen zich en vindt er een harmonieuze communicatie plaats tussen alle actoren. Iedereen krijgt wat hij wil tegen een bepaalde prijs.

Dit is de onderliggende veronderstelling van de moderne neoklassieke financiële theorie – ook bekend als de Efficient Markets Hypothesis (EMH). Hier wordt de markt opgevat als een stel rationele en irrationele individuen. De rationele individuen handelen in overeenstemming met “waar” informatie – dat wil zeggen, ze waarderen activa in overeenstemming met hun “echte” waarden, die op hun beurt gebaseerd zijn op een “rationele” evaluatie van hoeveel het actief in de toekomst waard zal zijn. De irrationele individuen doen dit echter niet; ze handelen in plaats daarvan naar “vals” informatie die niet op een rationele manier tot stand komt. Zo worden de rationele individuen gezien als "signaalhandelaren" en de irrationele individuen als "ruishandelaren". De markt wordt dan, net als de computer, verondersteld een perfecte communicatie tot stand te brengen door de "ruishandelaren" uit te schakelen door middel van concurrentie en tegelijkertijd de "signaalhandelaren" te promoten. Aangezien de ruishandelaren dom handelen, zullen de signaalhandelaren al het geld verdienen en zullen de ruishandelaren failliet gaan.

Varianten van deze theorie kunnen dan bedacht worden waarbij de noise-traders de overhand krijgen en de signal-traders verliezen waardoor de markt gedomineerd wordt door “ruis” en dus instabiel wordt. Dit vormt de basis voor veel van de moderne theorieën over financiële instabiliteit en wordt zelfs door sommige economen gebruikt om de crisis van 2008 te verklaren. Zoals we echter hebben gezien, is de hele premisse van de theorie onjuist. De theorie stelt mensen voor als computers en niet als mensen met een geheel complexere relatie tot taal en communicatie. Het gaat ervan uit dat er een fundamenteel "signaal" is dat ten grondslag ligt aan alle "ruis", maar dit is gewoon niet het geval.

Zoals we al hebben aangetoond, is menselijke communicatie geen signaal/ruis-relatie. Het is contextafhankelijk en vertrouwt op zeer flexibele normen, regels en een perceptie van wat Anderen denken dat het "normaal is om te doen". Hetzelfde geldt wanneer individuen informatie interpreteren, bijvoorbeeld de prijs van een actief (misschien een door hypotheek gedekte beveiliging?). Ze zien het niet als een computer die strikte regels en starre criteria toepast. In plaats daarvan zien ze het door de lens van de veel flexibelere, contextafhankelijke normen en regels van de instelling waarin ze op dat specifieke moment in de geschiedenis werken. Dit is op zijn beurt weer afhankelijk van wat iedereen op de markt doet. Keynes herkende dit toen hij over de marktplaats schreef als een soort 'schoonheidswedstrijd'. (De lezer kan ook de video bekijken die volgt op het fragment uit The General Theory...):

[P]rofessionele investeringen kunnen worden vergeleken met die krantenwedstrijden waarbij de deelnemers de zes mooiste gezichten moeten kiezen uit honderd foto's, waarbij de prijs wordt toegekend aan de deelnemer wiens keuze het meest overeenkomt met de gemiddelde voorkeuren van de deelnemers als geheel; zodat elke concurrent niet die gezichten moet kiezen die hij zelf het mooist vindt, maar die waarvan hij denkt dat ze het meest in de smaak zullen vallen bij de andere concurrenten, die allemaal vanuit hetzelfde gezichtspunt naar het probleem kijken. Het gaat er niet om diegene te kiezen die, naar ons beste oordeel, werkelijk de mooiste zijn, en zelfs niet die welke de gemiddelde opinie werkelijk het mooist vindt. We hebben de derde graad bereikt waar we onze intelligenties wijden aan het anticiperen op wat de gemiddelde mening verwacht dat de gemiddelde mening is. En er zijn er, geloof ik, die de vierde, vijfde en hogere graden beoefenen. (GT, Hoofdstuk 12)

En het is om deze reden dat de neoklassieke prijstheorie in het algemeen en de neoklassieke financiële theorie in het bijzonder volledig moet worden afgeschaft. Mensen zijn niet de rationele rekenmachines die neoklassieke mensen denken dat ze zijn. Dat is zeker niet zo op de financiële markten, maar ook niet op de markten in het algemeen. Wat in het algemeen denigrerend wordt aangeduid als 'kuddegedrag', is niets meer dan een manifestatie van hoe menselijke communicatie op een zeer fundamenteel niveau werkt.

Dit is het geval dat vandaag moet worden gemaakt voor financiële regelgeving. We moeten niet zeggen dat 'ruishandelaren' soms voorlopen op 'signaalhandelaren' zoals de neoklassieke mensen het zouden willen. Dit is complete sofisterij en verdoezelt het probleem gewoon volledig. Nee, de markt is helemaal geen Rationele Calculator, het is gewoon een stel individuen die handelen in overeenstemming met zeer flexibele normen en regels die in de loop van de tijd evolueren. Wel kunnen wij als samenleving beperkende beperkingen opleggen aan wat normen en regels winnen via onze juridische instituties. We kunnen evenmin vertrouwen op veronderstelde "rationaliteit" als we kunnen vertrouwen op "duidelijke communicatie" - dergelijke overwegingen zijn zinloos wanneer ze worden toegepast op mensen. In plaats daarvan moeten we duidelijke wettelijke en institutionele regels hebben, zodat mensen weten wat ze wel en niet mogen doen.