Váhy Spravodlivosti, zápisník Rozumnosti

Preklad anglického článku "The Scales of Justice, the Notebook of Rationality". Autor: Eliezer Yudkowsky

Pani Spravodlivosť sa zvyčajne zobrazuje držiac váhy. Váhy majú tú vlastnosť, že keď hocičo potiahne jednu stranu nadol, posunie tým druhú stranu nahor. Vďaka tomu sa veci veľmi pohodlne a ľahko sledujú. Je to zvyčajne aj hrubé skreslenie.

Ako ľudia máme prirodzený sklon považovať diskusiu za istú formu súboja, pokračovanie vojny, šport; a v športe stačí sledovať, koľko bodov získalo ktoré družstvo. Sú iba dve družstvá, a každý bod v neprospech jednej strany je bodom v prospech tej druhej. Každý v hľadisku si v duchu počíta, koľko bodov ktorý rečník získal voči druhému. Na konci diskusie je rečník s väčším bodovým ziskom, prirodzene, víťazom; všetko, čo povedal, musí byť teda pravda a všetko, čo povedal porazený, musí byť zle.

Afektívna heuristika v posudzovaní rizika a úžitku“ skúmala, či pokusné osoby zmiešavajú svoje hodnotenia možných úžitkov a možných rizík technológie (napr. jadrovej elektrárne) do jedného celkového dobrého alebo zlého pocitu z danej technológie. Napríklad vám najprv poviem, že konkrétny typ jadrového reaktora vytvára menej jadrového odpadu ako iné navrhované reaktory. Ale potom vám poviem, že tento reaktor je menej stabilný než alternatívne reaktory, s väčším rizikom roztavenia, ak sa dostatočné veľké množstvo vecí pokazí naraz.

Ak má reaktor väčšiu pravdepodobnosť roztavenia, vyzerá to ako „bod proti“ reaktoru, prípadne „bod proti“ tomu, kto argumentuje za postavenie reaktora. A ak ten reaktor vytvára menej odpadu, je to „bod za“ reaktor, prípadne „bod za“ jeho postavenie. Sú teda tieto dva fakty proti sebe? Nie. V skutočnom svete, nie. Tieto dva fakty môžu byť citované rôznymi stranami tej istej diskusie, ale sú logicky nezávislé; fakty nevedia, na čej strane sú. Množstvo odpadu vytvoreného reaktorom závisí od fyzických vlastností daného typu reaktora. Iné fyzické vlastnosti reaktora spôsobujú, že je menej stabilný. Aj keby sa niektoré vlastnosti podieľali na oboch týchto výsledkoch, treba osobitne zvážiť pravdepodobnosť roztavenia, a očakávané množstvo odpadu vyprodukované ročne. Sú to dve rôzne fyzikálne otázky, s dvoma rôznymi faktickými odpoveďami.

Štúdie ako horeuvedená však ukazujú, že ľudia majú sklon posudzovať technológie – a mnohé iné problémy – na základe celkového dobrého alebo zlého pocitu. Ak poviete ľuďom, že nejaký typ reaktora produkuje menej odpadu, budú rátať pravdepodobnosť jeho roztavenia ako nižšiu. To znamená, že dostanú nesprávnu odpoveď na fyzikálne otázky s konkrétnymi faktickými odpoveďami, pretože zmiešali logicky nezávislé otázky – vnímali fakty ako vojakov bojujúcich na rôznych stranách vojny, a mysleli si, že hocijakého vojaka na jednej strane možno použiť na boj proti hocijakému vojakovi na druhej strane.

Váhy nie sú pre pani Spravodlivosť celkom neprimerané, pokiaľ vyšetruje prísne faktickú otázku viny či neviny. Buď John Smith zabil Johna Doa, alebo nie. Učili nás (E. T. Jaynes), že všetky bayesovské indície sa skladajú z tokov pravdepodobnosti medzi hypotézami; že neexistuje nič také ako indícia „podporujúca“ alebo „protirečiaca“ nejakej hypotéze, jedine v tom, zmysle, že iné hypotézy si oproti nej pohoršia alebo prilepšia. Dokiaľ teda pani Spravodlivosť vyšetruje jednu, prísne faktickú otázku, s iba dvoma možnými odpoveďami, váhy sú primeraný nástroj. Ak chce Justitia zvážiť nejakú zložitejšiu tému, mala by sa vzdať svojich váh i svojho meča.

Nie všetky argumenty možno zredukovať na púhe hore alebo dole. Pani Rozumnosť si nosí zápisník, do ktorého si zapisuje všetky fakty, ktoré nie sú na nikoho strane.

viliam@bur.sk