Preklady stránky LessWrong.com

Originál: "Rationalization"

Autor: Eliezer Yudkowsky

Racionalizovanie

Pokračovanie k: Spodný riadok, Filtrovaná indícia

V článku „Spodný riadok“ som predložil dilemu dvoch krabíc, z ktorých iba jedna obsahuje diamant, s rôznymi príznakmi a znameniami ako indíciami. Definoval som rozdiel medzi zvedavým výskumníkom a chytrým rečníkom. Zvedavý výskumník si zapíše všetky príznaky a znamenia, spracuje ich, a nakoniec napíše: „Preto odhadujem, že s pravdepodobnosťou 85% krabica B obsahuje diamant.“ Chytrý rečník pracuje pre toho, kto si ho vydražil, a začne tým, že napíše: „Preto, krabica B obsahuje diamant,“ a potom vyberá priaznivé príznaky a znamenia do riadkov nad tým.

Ten prvý postup je rozumnosť. Ten druhý postup je všeobecne známy ako „racionalizovanie“.

„Racionalizovanie.“ Aký čudný názov. Nazval by som to nesprávnym slovom. Nemôžete „racionalizovať“ niečo, čo nie je už racionálne. To je ako keby sme „klamanie“ nazývali „pravdizovanie“.

Na čisto výpočtovej úrovni je obrovský rozdiel medzi:

  1. Začatím od indícií, a potom spracovaním tokov pravdepodobnosti, s cieľom vypísať pravdepodobný záver. (Zapísať si všetky príznaky a znamenia, a potom sa nechať unášať k pravdepodobnosti na spodnom riadku, ktorá závisí od týchto príznakov a znamení.)
  2. Začatím od záveru, a potom spracovaním tokov pravdepodobnosti s cieľom vypísať indície, ktoré napohľad podporujú tento záver. (Zapísať si spodný riadok, a potom plávať proti prúdu a vyberať príznaky a znamenia na prezentáciu v horných riadkoch.)

Ktorý blázon vymyslel také mätúco podobné slová „racionalita“ a „racionalizovanie“, aby opísal takéto mimoriadne odlišné myšlienkové procesy? Dal by som prednosť pojmom, ktoré by urobili tento algoritmický rozdiel zrejmým, povedzme „rozumnosť“ verzus „obrovská vsávajúca kognitívna čierna diera“.

Nie každá zmena je zlepšenie, ale každé zlepšenie je nevyhnutne zmena. Nemôžete pre pevne daný výrok získať viac pravdy tým, že preň budete argumentovať; môžete o ňom presvedčiť viac ľudí, ale nemôžete ho urobiť viac pravdivým. Aby sme zlepšili svoje názory, nevyhnutne musíme meniť svoje názory. Rozumnosť je operácia, ktorú používame na získanie väčšej pravdivostnej hodnoty pre naše názory tým, že ich meníme. Racionalizovanie funguje, aby upevnilo názory; lepšie by ho bolo nazvať „anti-rozumnosť“, aj kvôli praktickým výsledkom, aj kvôli otočenému algoritmu.

„Rozumnosť“ je plávanie po prúde, ktoré zbiera indície, zvažuje ich, a vypisuje záver. Zvedavý výskumník používa algoritmus plávania po prúde: najprv zbiera indície, píše si zoznam všetkých viditeľných príznakov a znamení, ktoré potom po prúde spracuje, aby získal predtým neznámu pravdepodobnosť, že krabica obsahuje diamant. Po celý ten čas proces rozumnosti šiel dopredu, zvedavý výskumník ešte nepoznal svoj cieľ, a práve preto bol zvedavý. Pri Bayesovej Ceste sa pôvodná pravdepodobnosť rovná očakávanej výslednej pravdepodobnosti. Ak poznáte svoj cieľ, už ste tam.

„Racionalizácia“ je plávanie proti prúdu, od záveru k vyberaným indíciám. Najprv si napíšete spodný riadok, ktorá je známy a pevne daný; cieľom vášho spracovávania je zistiť, ktoré argumenty máte napísať na predchádzajúce riadky. Toto, a nie záver, je neznámou premennou daného procesu.

Obávam sa, že Tradičná Rozumnosť nerobí svojich používateľov primerane citlivými na rozdiely medzi plávaním po prúde a proti prúdu. V Tradičnej Rozumnosti nie je nič zlé na tom, keď si vedec nájde svoju obľúbenú hypotézu a potom začne hľadať pokus, ktorý ju dokáže. Tradičný Racionalista by sa na toto pozrel súhlasne a povedal: „Pýcha je motorom, ktorý poháňa Vedu vpred.“ Áno, je to motor, ktorý poháňa Vedu vpred. Ľahšie nájdete žalobcu a obhajcu zaujatých opačnými smermi, než jedného nezaujatého človeka.

Ale že niečo robí každý, to ešte danú vec nerobí správnou. Bolo by ešte lepšie, keby ten vedec, keď nájde svoju obľúbenú hypotézu, ju začal testovať z čírej zvedavosti – vytvárať pokusy, ktoré budú posúvať jeho vlastné názory neznámym smerom.

Ak naozaj neviete, kam idete, pravdepodobne ste celkom zvedaví, kam to bude. Zvedavosť je prvou cnosťou, bez ktorej vaše otázky budú bezcieľne a vaše schopnosti nesústredené.

Pociťujte prúd Sily, a dajte si pozor, aby neprúdila naopak.


Z diskusie pod pôvodným článkom:

Robin Hanson:

Je smutné, že takmer vždy zaskočím študentov ekonómie hľadajúcich si výskumnú tému, keď sa ich opýtam: „Ktorú otázku, na ktorú nepoznáte odpoveď, by ste najradšej zodpovedali?“

viliam@bur.sk