Vedieť o skresleniach môže ľuďom ublížiť

Preklad anglického článku "Knowing About Biases Can Hurt People". Autor: Eliezer Yudkowsky

Jedného dňa som skúšal povedať mojej mame o probléme kalibrácie odborníkov a povedal som: „Takže keď odborník povie, že si niečím na 99% istý, v skutočnosti sa to stáva iba v 70% prípadov.“ Po krátkej pauze, keď som náhle uvedomil, že hovorím so svojom mamou, som rýchlo dodal: „Samozrejme, takýto skepticizmus musíš uplatňovať nestranne, aj na seba samého, nielen používať ho ako argument proti všetkému, s čím nesúhlasíš...“

A moja mama na to: „Robíš si srandu? Toto je skvelé! To budem používať vždy!“

Taberov a Lodgeov Motivovaný skepticizmus vo vyhodnocovaní politických názorov popisuje potvrdenie šiestich predpovedí:

  1. Efekt pôvodného postoja. Osoby, ktoré majú na danú tému silný názor – aj keď sú vyzvané, aby boli objektívne – hodnotia argumenty súhlasiace s ich názorom priaznivejšie než argumenty proti.
  2. Sklon nesúhlasiť. Osoby strávia viac času a kognitívnych zdrojov ohováraním argumentov proti než súhlasiacich argumentov.
  3. Sklon súhlasiť. Osoby s možnosťou slobodne si vybrať svoje informačné zdroje, budú hľadať skôr súhlasiace než odporujúce zdroje.
  4. Polarizácia postoja. Vystaviť osoby napohľad vyváženej množine argumentov za a proti posilní ich pôvodný postoj.
  5. Efekt sily postoja. Osoby vyjadrujúce silnejšie postoje budú viac náchylné k horeuvedeným sklonom.
  6. Efekt sofistikovanosti. Osoby, ktoré sa vyznajú v politike, keďže majú viac zbraní na odrážanie nesúhlasiacich faktov a argumentov, budú viac náchylné k horeuvedeným sklonom.

Ak ste na začiatku iracionálny, viac vedomostí vám môže ublížiť. Pre skutočného bayesiánca informácia nikdy nemôže mať negatívny očakávaný úžitok. Ale ľudia nie sú dokonalí bayesovskí majstri; keď si nedávame pozor, môžeme sa porezať.

Videl som ľudí vážne pošahaných vlastnou znalosťou sklonov. Mali viac zbraní na argumentovanie proti všetkému, čo sa im nepáčilo. A tento problém – príliš veľa pripravených zbraní – je jedným z hlavných dôvodov, prečo ľudia s vysokou mentálnou obratnosťou často skončia ako hlupáci, v tom zmysle hlúposti, ktorý Stanovich nazýva „dysracionalita“.

Napadajú vám ľudia, na ktorých tento popis sedí, však? Ľudia s vysokým g-faktorom, ktorí skončia ako menej efektívni, pretože sú príliš sofistikovanými diskutérmi? Myslíte si, že by ste im pomohli – urobili ich efektívnejšími racionalistami – keby ste im jednoducho povedali o zozname klasických sklonov?

Spomínam si na človeka, ktorý sa dozvedel o probléme kalibrácie / prehnanej sebadôvery. Čoskoro na to povedal: „Pozri, nemôžeš dôverovať odborníkom; ako ukazujú experimenty, veľmi často sa mýlia. Preto, keď predpovedám budúcnosť, radšej vychádzam z toho, že veci budú pokračovať tak, ako historicky...“ a pustil sa do veľmi zložitej, náchylnej k chybám, vysoko otáznej extrapolácie. Akosi, keď došlo na dôveru k jeho vlastným obľúbeným záverom, všetky tieto sklony a omyly sa zdali omnoho menej výrazné – napadli mu omnoho zriedkavejšie – než keď potreboval protiargument proti niekomu inému.

Povedal som mu teda o probléme so sklonom nesúhlasiť a sofistikovane argumentovať, a hľa, keď som nabudúce povedal niečo, čo sa mu nepáčilo, označil ma za sofistikovaného argumentátora. Nepokúšal sa ukázať na žiaden konkrétny sofistikovaný argument, žiadnu konkrétnu chybu – iba potriasol hlavou a smutne si vzdychol, ako očividne používam svoju inteligenciu, aby som porazil sám seba. Získal ďalší úplne všeobecný protiargument.

Ešte aj samotný pojem „sofistikovaného argumentátora“ môže byť zhubný, ak vám príliš pohotovo prichádza na rozum, keď sa stretnete s napohľad inteligentným človekom, ktorý povie niečo, čo sa vám nepáči.

Snažím sa poučiť zo svojich chýb. Keď som mal naposledy prednášku o heuristikách a sklonoch, na začiatku som tejto všeobecný pojem ilustroval pomocou klamu konjunkcie a heuristiky reprezentatívnosti. Až potom som prešiel k sklonu súhlasiť, sklonu nesúhlasiť, sofistikovanej argumentácii, motivovanému skepticizmu, a ďalším efektom postoja. Ďalších tridsať minút som strávil zdôrazňovaním tejto témy, vracal som sa k nej z toľkých rôznych uhlov, ako som len vedel.

Chcel som, aby sa moje obecenstvo o túto tému začalo zaujímať. Nuž, na to by stačil jednoduchý popis klamu konjunkcie a heuristiky reprezentatívnosti. Ale predpokladajme, že sa zaujímať začali. Čo ďalej? Literatúra o sklonoch je väčšinou kognitívna psychológia pre samotnú kognitívnu psychológiu. Musel som svojmu obecenstvu dať veľké varovanie počas tejto jednej lekcie, inak by si pravdepodobne už nikdy nevypočuli.

Či v článku alebo na prednáške, odteraz sa vždy snažím nespomínať kalibráciu a prehnanú sebadôveru, dokiaľ najprv neobjasním sklon nesúhlasiť, motivovaný skepticizmus, sofistikovaných argumentátorov a dysracionalitu mentálne obratných. V prvom rade, neublížiť!


Z diskusie pod pôvodným článkom:

Michael Vassar:
Ľudia nielenže nie sú dokonalí bayesiánci. Iba veľmi máloktorí z nás sa vôbec o bayesiánstvo pokúšajú. V podstate každý, kto si myslí, že je morálnejšie/etickejšie zastávať nejaký názor než jeho opak, zohľadňuje pri vyhodnocovaní názorov aj nejaké iné normatívne kritérium než zrejmú pravdu.

anonymous2:
Hmm... vďaka, že si to napísal. Práve som si uvedomil, že možno niečím pripomínam tvojho hádavého priateľa. Mal by som si toto zaradiť medzi záložky.

Hal Finney:
Už predtým som spomínal túto veľmi dobrú recenziu knihy Philipa Tetlocka: Politické úsudky odborníkov. Recenzia opisuje výsledky Tetlockových experimentov hodnotiacich predpovede odborníkov v oblasti medzinárodnej politiky, kde sa im darilo veľmi zle. V priemere boli vedci asi rovnako úspešní ako náhodné predpovede, a boli drvivo prekonaní jednoduchými štatistickými extrapoláciami.

Po tom, čo recenzia podrobne vymenuje mnohé spôsoby, ako sa odborníci mýlia, a napriek tomu, že táto recenzia má názov: „Každý je odborník“, recenzent uzatvára: „Ale najlepším ponaučením z Tetlockovej knihy môže byť to, ktoré sa on sám asi najviac zdráha urobiť: Mysli sám za seba.“

Dáva to ale zmysel? Mysli sám za seba? Ak ste práve prečítali celú knihu popisujúcu, ako mizerne sa darilo ľuďom, ktorí mysleli za seba a mali omnoho viac vedomostí než vy, je naozaj pravdepodobné, že vám sa bude pri myslení za seba dariť lepšie? Táto rada vyzerá presne ako ten typ chyby, ktorý tu Eliezer opisuje, zabudnutie zovšeobecniť poznanie o chybách druhých na odhad svojich vlastných.

Robin Z:
V Tetlockovi je ešte lepší argument proti – zbieral aj údaje od skupiny univerzitných študentov, a tým darilo ešte horšie ako tým najhorším odborníkom, horšie než náhodnému výberu. Myslieť sám za seba je spomedzi možností, ktoré Tetlock skúmal, tá najhoršia.

Michael Rooney:
Táto chyba sa podobá tej, ktorú každú chvíľu vidím na začínajúcich študentoch filozofie: keď sa narazia na dôvod byť skeptikmi, namiesto toho sa stanú relativistami. To znamená, že kde je rozumným záverom zdržať sa úsudkov na danú tému, veľmi veľa ľudí sa namiesto toho rozhodne, že každý úsudok je rovnako prijateľný ako hocijaký iný.

viliam@bur.sk