Aktualizujte postupne

Preklad anglického článku "Update Yourself Incrementally". Autor: Eliezer Yudkowsky

Politika zabíja myslenie. Debata je vojna, argumenty sú vojaci. Existuje pokušenie hľadať spôsoby, ako interpretovať všetky možné experimentálne výsledky ako potvrdzujúce vašu teóriu, ako keď opevňujete citadelu pred každým možným smerom útoku. To nemôžete. Je to matematicky nemožné. Pre každé očakávanie indície existuje rovnaké očakávanie protiindície v opačnom smere.

Ale je v poriadku, ak vaša obľúbená teória nie je dokonale chránená. Ak hypotéza znie, že na minci padne hlava v 95% prípadov, potom v jednom prípade z dvadsiatich uvidíte niečo, čo vyzerá ako indícia proti. To je v poriadku. To je normálne. Dokonca sa to očakáva, pokiaľ máte devätnásť potvrdzujúcich pozorovaní na každé odporujúce. Pravdepodobnostný model môže dostať jeden či dva zásahy a stále prežiť, pokiaľ tieto zásahy nepokračujú.

Napriek tomu sa všeobecne verí, najmä na súde verejnej mienky, že pravdivá teória nemôže mať žiadne zlyhania, a nepravdivá teória žiadne úspechy.

Nájdete ľudí, ktorí sa držia jediného kúska toho, čo považujú za indíciu, a tvrdia, že ich teória to dokáže „vysvetliť“, akoby toto bola celá podpora, akú len môže teória potrebovať. Podľa všetkého nepravdivá teória nemôže mať žiadnu indíciu vo svoj prospech; je nemožné, aby nepravdivá teória dokázala vysvetliť čo len jedinú udalosť. Tým pádom je jeden kus potvrdzujúcej indície všetkým, čo teória potrebuje.

Je iba o čosi menej hlúpe držať sa jediného kúska pravdepodobnostnej protiindície ako vyvrátenia, akoby sa proti správnej teórii nemohlo ani trošku argumentovať. Ale presne takto ľudia argumentovali celé veky, snažili sa poraziť všetky nepriateľské argumenty, zatiaľ čo nepriateľovi nedopriali ani jediný kúsok podpory. Ľudia chcú, aby ich debaty boli jednostranné; sú zvyknutí na svet, v ktorom proti ich obľúbeným teóriám neexistuje jediný kúsok protipodpory. Preto, pripustiť jediný kus pravdepodobnostnej protiindície by znamenalo koniec sveta.

Ja viem, že niekto v obecenstve ide povedať: „Ale v skutočnom svete nemôžeš pripustiť ani jediný bod, ak chceš vyhrať debatu! Ak pripustíš, že existuje nejaký protiargument, nepriateľ ti ho bude omieľať dokola a dokola – to nemôžeš nepriateľovi dovoliť! Prehráš! Čo by mohlo byť fyzicky desivejšie než toto?

No a čo. Rozumnosť nie je na vyhrávanie debát, je na rozhodovanie, ku ktorej strane sa pridať. Ak ste sa už rozhodli, za ktorú stranu idete argumentovať, rozumnú časť ste tým ukončili, či už dobre alebo úboho. Ale ako sa môžete, sami od seba, rozhodnúť, za ktorú stranu budete argumentovať? Ak vybrať si nesprávnu stranu je fyzicky desivé, hoci len trošku fyzicky desivé, mali by ste spracovať všetky indície.

Rozumnosť nie je chôdza, ale tanec. Pri každom kroku tohto tanca by vaša noha mala dopadnúť presne na správne miesto, nie viac doľava ani doprava. Posuňte názor vyššie s každým kúskom potvrdzujúcej indície. Posuňte názor nižšie s každým kúskom opačnej indície. Áno, nižšie. Aj keď je model správny, ak to nie je presný model, niekedy budete musieť prehodnotiť svoj názor smerom nadol.

Ak jeden či dva kúsky indície sú náhodou protipodporou vášho názoru, to je v poriadku. To sa pravdepodobnostným indíciám pre nepresné teórie občas stáva. (Keď zlyhá presná teória, vtedy máte problém!) Len posuňte svoj názor o čosi nadol – pravdepodobnosť, pomer šancí, alebo hoci aj neverbálnu silu dôvery vo vašej mysli. Len ho posuňte o čosi nadol a čakajte na ďalšie indície. Ak je teória pravdivá, čoskoro príde podporujúca indícia a pravdepodobnosť opäť začne šplhať nahor. Ak je teória nepravdivá, tak ju predsa naozaj nechcete.

Problém používania čierno-bieleho, binárneho, kvalitatívneho rozmýšľania je, že ľubovoľné jedno pozorovanie buď zničí teóriu alebo ju nezničí. Keď nie je dovolené jediné odporujúce pozorovanie, vytvára to kognitívnu disonanciu a treba to odargumentovať. A toto vylučuje postupný pokrok; vylučuje to správne zapojenie všetkých indícií. Pri pravdepodobnostnom uvažovaní si uvedomujeme, že správna teória bude v priemere vytvárať väčšiu váhu podpory než protipodpory. A tak si môžete bez strachu povedať: „Toto je mierna indícia proti, posuniem svoj názor nadol.“ Áno, nadol. To neničí vašu obľúbenú teóriu. To by bolo kvalitatívne uvažovanie; myslite kvantitatívne.

Pre každé očakávanie indície existuje očakávanie rovnakej protiindície v opačnom smere. V každej situácii musíte v priemere očakávať upravenie svojho názoru nadol rovnako ako musíte očakávať upravenie svojho názoru nahor. Ak si myslíte, že už viete, aká indícia príde, potom si musíte byť svojou teóriou pomerne istí – pravdepodobnosť blízka k 1 – čo vám nenecháva veľa miesta na ďalšie zvyšovanie pravdepodobnosti. A akokoľvek nepravdepodobné sa zdá, že by ste natrafili na vyvracajúcu indíciu, výsledný posun nadol musí byť dosť veľký na to, aby presne vyvážil očakávaný zisk na opačnej strane. Vážený priemer vašej očakávanej výslednej pravdepodobnosti sa musí rovnať vašej pôvodnej pravdepodobnosti.

Aké bláznivé je potom báť sa upravovania svojej pravdepodobnosti nadol, ak sa vôbec unúvate danú záležitosť vyšetrovať? V priemere musíte očakávať rovnako veľa posunu nadol ako nahor z každého jednotlivého pozorovania.

Možno sa stane, že kúsok protipodpory príde zase, a zase, a zase, zatiaľ čo nová podpora priteká pomaly. Možno zistíte, že váš názor sa posúva stále nižšie a nižšie. Až si nakoniec uvedomíte, z ktorého smeru proti vám fúka vietor indícií. V tej chvíli uvedomenia nemá zmysel zostavovať výhovorky. V tej chvíli uvedomenia ste sa svojho obľúbeného názoru už vzdali. Hurá! Čas na oslavu! Otvorte fľašu šampanského a pošlite pre pizzu! Držaním sa svojich pôvodných názorov sa predsa nemôžete stať silnejší.

viliam@bur.sk