Zbytočné detaily

Preklad anglického článku "Burdensome Details". Autor: Eliezer Yudkowsky

Pokračovanie k: Klam konjunkcie

„Iba potvrdzujúci detail, s cieľom dať umeleckú dôveryhodnosť inak nudnému a nepresvedčivému rozprávaniu...“

- Pooh-Bah v opere Mikado od Gilberta a Sullivana

Klam konjunkcie je, keď ľudia hodnotia pravdepodobnosť P(A&B) ako vyššiu než pravdepodobnosť P(B), napriek vete, že P(A&B) <= P(B). Napríklad v jednom experimente z roku 1981, 68% pokusných osôb hodnotilo ako viac pravdepodobné, že „Reagan poskytne federálnu podporu slobodným matkám a zoškrtá federálnu podporu lokálnym vládam“ než že „Reagan poskytne federálnu podporu slobodným matkám“.

Dlhá séria bystro navrhnutých pokusov, ktoré vyvrátili alternatívne hypotézy a urobili bodku za štandardnou interpretáciou, potvrdila, že klam konjunkcie nastáva pretože „dosadzujeme hodnotenie reprezentatívnosti za hodnotenie pravdepodobnosti“. Pridaním detailov navyše môžete dosiahnuť, že sa výsledok bude zdať charakteristickejším pre proces, ktorý ho vytvára. Môžete dosiahnuť, že sa bude zdať uveriteľnejšie, že Reagan podporí slobodné matky, pridaním tvrdenia, že Reagan zároveň zoškrtá podporu lokálnym vládam. Neuveriteľnosť jedného tvrdenia sa vyváži uveriteľnosťou druhého tvrdenia; „spriemerujú sa“.

Čiže: Pridanie detailu spôsobiť, že nejaký scenár ZNIE UVERITEĽNEJŠIE, aj keď sa tým daná udalosť nevyhnutne stane MENEJ PRAVDEPODOBNOU.

Ak je to tak, potom by sme hypoteticky mali nájsť futuristov, ktorí splietajú nehorázne uveriteľné a podrobné budúce dejiny, alebo nájsť ľudí, ktorí zhltnú obrovské balíky nepodložených tvrdení, ak je medzi nimi pribalených pár veľmi rozumných tvrdení.

Ak sa stretnete s klamom konjunkcie pri nahom, priamom porovnaní, potom možno uspejete v tomto konkrétnom probléme tým, že sa vedome opravíte. Ale to je iba nalepenie náplaste na problém, nie jeho všeobecná oprava.

V experimente z roku 1982, kde profesionálni predpovedači priraďovali systematicky vyššie pravdepodobnosti „Rusko napadne Poľsko, s následným prerušením diplomatických vzťahov medzi USA a ZSSR“ oproti „prerušenie diplomatických vzťahov medzi USA a ZSSR“, každá pokusná skupina dostala iba jeden výrok. Akú stratégiu mohli títo predpovedači použiť, ako skupina, aby odstránili klam konjunkcie, keď žiaden z nich jednotlivo o tomto porovnaní priamo nevedel. Keď žiaden z nich ani nevedel, že tento pokus bude o klame konjunkcie? Ako boli zlepšiť svoje hodnotenia pravdepodobnosti?

Náplasť na jeden špeciálny chyták nerieši všeobecný problém. Chyták je príznakom, nie chorobou. Bolo by to rovnako hlúpe ako, povedzme, zakazovať vreckové nožíky v lietadlách.

Čo mohli predpovedači urobiť, aby sa vyhli klamu konjunkcie, aj keď nevideli priame porovnanie, alebo ani nevedeli, že ich niekto ide testovať na klam konjunkcie? Zdá sa mi, že by si mali všimnúť slovo „a“. Mali by si naň dávať pozor – nielen dávať pozor, ale uskočiť pred ním. Aj keby nevedeli, že ich výskumníci budú potom hodnotiť konkrétne z klamu konjunkcie. Mali by si všimnúť konjunkciu dvoch detailov a byť šokovaní tou drzosťou, že ich niekto žiada, aby podporili takúto šialene komplikovanú predpoveď. A mali by podstatne penalizovať pravdepodobnosť – aspoň o štyri rády, podľa výsledkov experimentu.

Mohlo by aj pomôcť, keby sa predpovedači zamysleli nad možnými dôvodmi, prečo by USA a Sovietsky Zväz mohli prerušiť diplomatické vzťahy. Scenár nie je „USA a Sovietsky Zväz náhle prerušia diplomatické vzťahy bez akéhokoľvek dôvodu“ ale „USA a Sovietsky Zväz prerušia diplomatické vzťahy z nejakého dôvodu“.

A tie pokusné osoby, ktoré hodnotili „Reagan poskytne federálnu podporu slobodným matkám a zoškrtá federálnu podporu lokálnym vládam“? Opäť, mali byť šokované slovom „a“. Navyše, mali absurdity sčítať – kde absurdita je logaritmus pravdepodobnosti, takže sa dá sčítať – a nie priemerovať ich. Mali si pomyslieť: „Reagan môže ale nemusí zoškrtať podporu lokálnym vládam (1 bit), ale zdá sa mi veľmi nepravdepodobné, že by podporil slobodné matky (4 bity). Celková absurdita: 5 bitov.“ Alebo aspoň: „Reagan by nepodporil slobodné matky. Chyba, nie je to tak. Ten ďalší výrok to už len zhoršuje.“

Podobne, predstavte si šesťstennú kocku so štyrmi zelenými stenami a dvoma červenými. Pokusné osoby mali staviť na postupnosti (1) „ČZČČČ“, (2) „ZČZČČČ“ alebo (3) „ZČČČČČ“, či sa objavia niekde medzi 20 hodmi kocky. 65% pokusných osôb si vybrali „ZČZČČČ“, ktoré je ostro dominované „ČZČČČ“, pretože ľubovoľná postupnosť, ktorá obsahuje „ZČZČČČ“, obsahuje aj „ČZČČČ“. Ako mohli pokusné osoby konať lepšie? Všimnúť si, že jedna postupnosť obsahuje druhú? Možno; ale to je iba náplasť, to nerieši základný problém. Presným výpočtom pravdepodobností? To by určite vyriešilo základný problém, ale nie vždy môžete spočítať presnú pravdepodobnosť.

Pokusné osoby heuristicky prehrali tým, že si mysleli: „Aha! Postupnosť 2 má vyšší pomer zelených k červeným! Mal by som staviť na postupnosť 2!“ Aby heuristicky vyhrali, pokusné osoby by si mali myslieť: „Aha! Postupnosť 1 je krátka! Mal by som staviť na postupnosť 1!“

Mali by cítiť silnejší emocionálny dopad Occamovej britvy – cítiť každý pridaný detail ako bremeno, dokonca aj jeden ďalší hod kocky.

Jedného dňa som sa rozprával s niekým, kto bol očarený nejakým neopatrným futuristom. (Takým, čo pridával hromady dobre znejúcich detailov.) Pokúšal som sa vysvetliť, prečo nie som rovnako očarený týmito úžasnými, neuveriteľnými teóriami. Vysvetlil som teda klam konjunkcie, špeciálne ten pokus „prerušenie vzťahov +/- napadnutie Poľska“. A on na to: „Dobre, ale čo to má spoločné s...“ Ja: „Je pravdepodobnejšie, že vesmíry sa replikujú z nejakého dôvodu, než že sa replikujú pomocou čiernych dier, pretože vyspelé civilizácie vytvárajú čierne diery, pretože vesmíry sa vyvíjajú tak, aby ich k tomu donútili.“ On: „Aha.“

Až dovtedy nepociťoval tieto detaily navyše ako bremeno navyše. Namiesto toho to boli potvrdzujúce detaily, dodávajúce dôveryhodnosť rozprávaniu. Niekto vám predloží balík zvláštnych myšlienok; jedna z nich je, že vesmíry sa replikujú. Potom vám predloží podporu pre tvrdenie, že vesmíry sa replikujú. Ale to nie je podpora pre celý balík, aj keď je vyrozprávaný ako jeden príbeh.

Potrebujete rozmotať tieto detaily. Musíte chytiť každý jeden nezávisle a opýtať sa: „Ako vieme tento detail?“ Niekto vám vykreslí obrázok úpadku ľudstva do nanotechnologickej vojny, kde Čína odmietne dodržiavať medzinárodné dohody o kontrole a nasledujú preteky vo vývoji zbraní... Počkaj chvíľu – odkiaľ vieš, že to bude Čína? Máš vo vrecku krištáľovú guľu, alebo sa len tešíš, že si futurista. Odkiaľ máš všetky tieto detaily? Odkiaľ máš tento konkrétny detail?

Pretože je písané:

Ak môžeš uľahčiť svoje bremeno, musíš to urobiť.
Niet takej slamky, ktorá by nemala moc zlomiť ti chrbát.

viliam@bur.sk