Jeden argument proti armáde

Preklad anglického článku "One Argument Against An Army". Autor: Eliezer Yudkowsky

Pokračovanie k: Aktualizujte postupne

Včera som hovoril o spôsobe uvažovania, pri ktorom nie je dovolený jediný argument proti, s tým výsledkom, že každá nepodporujúca indícia sa musí odargumentovať. Dnes naznačujem, že keď sa ľudia stretnú s argumentom proti, zabránia zníženiu svojej istoty tak, že si zopakujú už známu podporu.

Predstavte si, že krajina Freedonia debatuje, či ich sused, Sylvania, môže za nedávnu hromadu meteoritov padajúcich na ich mestá. Sú niektoré indície, ktoré to naznačujú: meteority zasiahli mestá blízko sylvaniánskej hranice; pred dopadmi bola nezvyčajná aktivita na sylvaniánskej burze cenných papierov; a sylvaniánskeho veľvyslanca Trentina niekto počul šomrať o „nebeskej pomste“.

Niekto príde a povie vám: „Nemyslím si, že Sylvania je zodpovedná za tieto padajúce meteority. Každoročne s nami obchodujú v miliardách dinárov.“ „Pozri,“ odpoviete mu, „meteority zasiahli mestá blízko Sylvanie, na ich burze cenných papierov bola podozrivá aktivita, a ich veľvyslanec potom hovoril o nebeskej pomste.“ Keďže tieto tri argumenty prevážia onen jeden, zachováte si názor, že za to môže Sylvania – veríte namiesto neverenia, kvalitatívne. Rovnováha indícií je zrejme proti Sylvanii.

Potom za vami príde ďalší a povie: „Nemyslím si, že Sylvania je zodpovedná za tieto padajúce meteority. Zmeniť smer padajúcich meteoritov je veľmi ťažké. Sylvania dokonca ani nemá vesmírny program.“ Odpoviete: „Ale meteority zasiahli mestá blízko Sylvanie, a ich investori to vedeli, a veľvyslanec to priamo priznal!“ Opäť, tieto tri argumenty prevážia onen jeden (prevahou troch proti jednému), takže si zachováte názor, že za to môže Sylvania.

Ba čo viac, vaše presvedčenie sa posilnilo. Teraz ste už v dvoch oddelených situáciách vyhodnotili rovnováhu dôkazov, a oba razy bola rovnováha naklonená proti Sylvanii s pomerom 3 ku 1.

Stretávate sa s ďalšími argumentmi prosylvanskych zradcov – opäť, a opäť, a ešte stokrát – ale zakaždým je nový argument hravo porazený 3 ku 1. A v každej situácii sa cítite viac presvedčení, že Sylvania za to naozaj môže; posúvate svoje pôvodné presvedčenie podľa pociťovanej rovnováhy indícií.

Problém je samozrejme v tom, že opakovaním argumentov, ktoré ste už vedeli, počítate danú indíciu dvojmo. To by bol vážny hriech ešte aj v prípade, že by ste dvojmo počítali všetky indície. (Predstavte si vedca, ktorý urobí pokus s 50 jedincami a nezíska štatisticky významné výsledky, a tak všetky údaje započíta dvakrát.)

Ale selektívne počítať dvojmo iba niektoré indície, to je číra fraška. Pamätám si, že ako dieťa som videl kreslený film, v ktorom záporný hrdina rozdeľoval korisť pomocou nasledujúceho algoritmu: „Jedna zlatka tebe, jedna mne. Druhá tebe, jedna-dve mne. Tretia tebe, jedna-dve-tri mne.“

Ako som včera zdôraznil, aj keď je obľúbený názor pravdivý, racionalista môže občas potrebovať znížiť jeho pravdepodobnosť pri zapájaní všetkých indícií. Áno, rovnováha podpory môže stále uprednostniť váš obľúbený názor. Ale aj tak musíte posunúť pravdepodobnosť nadol – áno, nadol – z akejkoľvek hodnoty, kde bola predtým než ste počul indíciu proti. Nepomôže zopakovať si podporujúce argumenty, pretože tie ste už zohľadnili.

A predsa sa mi zdá, že keď sa ľudia stretnú s novým protiargumentom, hľadajú ospravedlnenie, prečo neposunúť svoje presvedčenie nadol, a samozrejme nájdu podporujúce argumenty, ktoré už poznali. Musím si neustále dávať pozor, aby som to nerobil ja sám! Pripadá mi to rovnako prirodzené ako zablokovať úder meča pripraveným štítom.

Pri správnom druhu nesprávneho rozmýšľania, hŕstka podpory – dokonca aj jediný argument – dokáže odraziť celú armádu protirečení.

viliam@bur.sk