...čo je teda skreslenie?

Preklad anglického článku "...What's a bias, again?". Autor: Eliezer Yudkowsky

Skreslenie je určitý druh prekážky nášmu cieľu dosiahnuť pravdu – že je to „prekážka“ vyplýva z toho, že pravdu máme ako cieľ – ale existujú aj mnohé prekážky, ktoré nie sú „skreslenia“.

Keby sme začali priamo otázkou „Čo je to skreslenie?“, išli by sme na vec z nesprávnej strany. Ako hovorí príslovie: „Existuje štyridsať druhov bláznovstva, ale iba jeden druh zdravého rozumu.“ Pravda je úzky terč, malá oblasť konfiguračného priestoru, ktorú chceme zasiahnuť. „Ľúbi ma alebo neľúbi?“ môže byť binárna otázka, ale „E=MC2“ je malá bodka v množine všetkých rovníc, tak ako vyhrávajúci žreb lotérie v množine všetkých žrebov. Chyba nie je výnimočný stav; naopak, úspech je a priori taký nepravdepodobný, že si vyžaduje vysvetlenie.

Nezačíname morálnou povinnosťou „redukovať skreslenia“ preto, lebo skreslenia sú zlé a Skrátka To Nerobíme. K takémuto druhu myslenia môže človek dospieť, ak nadobudne deontologickú povinnosť „rozumnosti“ pomocou spoločenskej osmózy, čo vedie ľudí k snahe vykonávať techniky bez toho, že by chápali ich dôvody. (A práve toto je zlé a Skrátka To Nerobíme, ak ste rovnako ako ja v detstve čítali knihu To nemyslíte vážne, pán Feynman.)

Namiesto toho, chceme dosiahnuť pravdu, z akýchkoľvek dôvodov, a na ceste k nášmu cieľu nachádzame rôzne prekážky. Tieto prekážky si nie sú navzájom celkom nepodobné – napríklad existujú prekážky, ktoré súvisia s nedostatkom dostupnej výpočtovej kapacity, alebo s vysokou cenou informácií. Stáva sa, že veľká skupina prekážok má napohľad istý spoločný charakter – tvorí zhluk v priestore prekážok na ceste k pravde – a tento zhluk sme pomenovali „skreslenia“.

Čo je to skreslenie? Vieme sa pozrieť na tento empirický zhluk a nájsť solídny test členstva? Možno zistíme, že naozaj nevieme dať lepšie vysvetlenie, než ukázať na pár reprezentatívnych príkladov a dúfať, že poslucháč porozumie. Ak ste vedec, ktorý práve začal skúmať oheň, môže byť omnoho múdrejšie ukázať na táborák a povedať: „Oheň je tamtá oranžovo-jasná horúca vec,“ namiesto povedania: „Definujem oheň ako alchymickú transmutáciu substancií, ktoré uvoľňujú flogiston.“ Ako som povedal v Jednoduchej pravde, nemali by ste niečo ignorovať len preto, lebo to neviete definovať. Ja nedokážem spamäti zacitovať rovnice všeobecnej teórie relativity, ale napriek tomu, keď skočím z útesu, spadnem. A to isté možno povedať o skresleniach – nedopadnú na nás o nič menej tvrdo, ak sa ukáže, že nevieme solídne definovať, čo je to „skreslenie“. Môžeme teda ukázať na chyby zjednotenia, prehnané sebavedomie, heuristiku dostupnosti a reprezentatívnosti, ignorovanie základnej miery, a povedať: „Takéto veci.“

S prihliadnutím na horeuvedené, zdá sa, že slovom „skreslenia“ označujeme tie prekážky na ceste k pravde, ktoré nie sú spôsobené cenou informácie, ani obmedzenou výpočtovou silou, ale tvarom nášho vlastného myšlienkového mechanizmu. Napríklad, tento mechanizmus je evolučne optimalizovaný na ciele, ktoré aktívne bránia presnosti poznania; napríklad mechanizmus na vyhrávanie hádok v adaptívnych politických kontextoch. Alebo výberový tlak pôsobil šikmo voči presnosti poznania; napríklad veríme tomu, čomu veria druhí, aby sme medzi nich spoločensky zapadli. Alebo, v prípade klasických heuristík a skreslení, mechanizmus funguje podľa známeho algoritmu, ktorý robí nejaké užitočné veci, ale produkuje aj systematické chyby: samotná heuristika dostupnosti nie je omylom, ale vyvoláva známe, ľahko opísateľné omyly. Naše mozgy robia niečo nesprávne, a po mnohých pokusoch a prípadne náročnom premýšľaní niekto rozozná tento problém spôsobom, ktorému Systém 2 dokáže porozumieť; potom to nazývame „skreslenie“. Aj keby sme nemali lepší spôsob poznávania, stále je to chyba, ktorý je rozoznateľným spôsobom spôsobená určitým druhom poznávacieho mechanizmu – nie tým, že toho mechanizmu máme príliš málo, ale spôsobom, ako je samotný tento mechanizmus zostavený.

„Skreslenia“ môžeme odlíšiť od chýb pochádzajúcich z poznávacieho obsahu, ako sú prijaté názory alebo prijaté morálne povinnosti. Tie nazývame skôr „omyly“ než „skreslenia“, a je omnoho ľahšie ich napraviť, keď už si ich u seba všimneme. (Aj keď zdrojom tohto omylu, alebo zdrojom zdroja tohto omylu, môže v konečnom dôsledku byť nejaké skreslenie.)

„Skreslenia“ sa odlišujú od chýb, ktoré pochádzajú z poškodenia jednotlivého ľudského mozgu, alebo z prijatých kultúrnych zvykov; skreslenia vznikajú z mechanizmu, ktorý majú ľudia spoločný.

Platón nemal „skreslenie“ pretože nepoznal teóriu relativity – nemal túto informáciu ako získať, jeho nevedomosť nepochádzala z tvaru jeho myšlienkového mechanizmu. Ale ak Platón veril tomu, že filozofi by boli lepšími kráľmi, pretože on sám bol filozof – a ak samotný tento názor vznikol vďaka všeobecnému prispôsobivému politickému inštinktu sebapresadzovania, a nie preto, lebo mu jeho otecko povedal, že každý má morálnu povinnosť presadzovať svoje vlastné zamestnanie do vlády, ani preto, lebo Platón v detstve čuchal priveľa lepidla – potom to bolo skreslenie, či už naň bol Platón niekedy upozornený alebo nie.

Nemusí byť ľahké napraviť skreslenia. Možno sa ani napraviť nedajú. Ale keď sa pozrieme na svoj vlastný myšlienkový mechanizmus a vidíme kauzálne vysvetlenie identifikovateľnej triedy chýb; a keď sa zdá, že tento problém pochádza z vyvinutého tvaru mechanizmu, a nie z toho, že tohto mechanizmu je primálo alebo má zlý konkrétny obsah; potom to nazývame skreslenie.

Ja osobne vidím naše hľadanie z pohľadu nadobúdania osobných zručností rozumnosti, ako zlepšenie techniky hľadania pravdy. Úlohou je dosiahnuť pozitívny cieľ pravdy, nie vyhnúť sa negatívnemu cieľu chyby. Priestor chýb je rozsiahly, nekonečné množstvá chýb v nekonečných variáciách. Je ťažké popísať taký obrovský priestor. „Čo je pravdou o jednom jablku, nemusí byť pravdou o druhom jablku; preto možno o jednom jablku povedať viac než o všetkých jablkách na celom svete.“ Priestor úspechu je užší, a preto o ňom možno viac povedať.

Aj keď teda nie som proti (ako vidíte) diskusii o definíciách, mali by sme pamätať na to, že to nie je náš prvoradý cieľ. Sme tu preto, aby sme pokračovali vo veľkom ľudskom hľadaní pravdy: pretože zúfalo potrebujeme vedomosti, a navyše, sme zvedaví. Pre tento cieľ sa usilujme prekonať ľubovoľné prekážky, ktoré nám stoja v ceste, či už ich voláme „skreslenia“ alebo nie.

viliam@bur.sk