Preklady stránky LessWrong.com

Originál: "Cached Thoughts"

Autor: Eliezer Yudkowsky

Uložené myšlienky

Jednou z najväčších záhad ľudského mozgu je, ako tá prekliata vec vôbec funguje, keď väčšina neurónov vysiela signál 10-20-krát za sekundu, maximálne 200 Hz. V neurológii existuje „pravidlo sto krokov“, že každá predpokladaná operácia musí skončiť po nanajvýš 100 postupných krokoch – môžete byť paralelní, ako len chcete, ale nemôžete predpokladať viac ako 100 (a radšej menej) neurónových signálov po sebe.

Viete si predstaviť musieť programovať pomocou 100Hz procesorov, bez ohľadu na to, ako veľa by ste ich mali? Potrebovali by ste stovky miliárd procesorov, aby ste vôbec niečo urobili v reálnom čase.

Keby ste museli písať programy pracujúce v reálnom čase pre sto miliárd 100Hz procesorov, jeden trik, ktorý by ste používali, kde by sa len dalo, by bolo skladovanie výsledkov. To znamená, že by ste si odložili výsledky predchádzajúcich operácií a nabudúce by ste ich vyhľadali namiesto prepočítavania od nuly. A to je typický nervový prístup – rozoznávanie, asociácie, dopĺňanie vzoru.

Je rozumné predpokladať, že väčšina ľudského poznávania pozostáva z hľadania uložených údajov.

Táto myšlienka mi z času na čas prichádza na rozum.

Existuje krásny ilustrujúci príbeh, ktorý som si myslel, že som si odložil medzi záložky, ale neviem ho opäť nájsť: bol to príbeh o človeku, ktorého sused „vševed“ raz mimochodom tvrdil, že najlepší spôsob, ako odstrániť z domu komín je vybúrať krb, počkať, kým tehly spadnú o úroveň nižšie, vybúrať tieto tehly, a opakovať, kým nezmizne celý komín. O niekoľko rokov neskôr, keď tento muž chcel odstrániť svoj komín, táto uložená myšlienka číhala, pripravená zaútočiť...

A ako si ten muž dodatočne uvedomil – asi uhádnete, že to nedopadlo dobre – jeho sused nebol v týchto veciach nejako zvlášť znalý, ani dôveryhodný zdroj. Keby nad touto myšlienkou zapochyboval, pravdepodobne by si bol uvedomil, že je hlúpa. Niektoré uložené údaje je lepšie opäť prepočítať. Ale mozog dopĺňa vzor automaticky – a ak si vedome neuvedomíte, že daný vzor treba upraviť, zostane vám doplnený vzor.

Predpokladám, že keby táto myšlienka napadla tomu mužovi samotnému – keby sám osobne dostal tento skvostný nápad ako odstrániť komín – bol by sa nad touto myšlienkou zamyslel kritickejšie. Ale keď už niekto iný túto myšlienku celú premyslel, môžete ušetriť výpočtovú silu tým, že si uložíte ich záver, nie?

Špeciálne v modernej civilizácii nikto nedokáže myslieť dosť rýchlo na to, aby si premyslel svoje vlastné myšlienky. Keby ma ako dieťa pohodili v lese, kde by ma vychovali vlci alebo tichí roboti, sotva by ste ma poznali ako človeka. Nikto nedokáže myslieť dosť rýchlo ani na to, aby za jeden život zrekapituloval múdrosť kmeňa lovcov a zberačov, začínajúc od nuly. A čo sa týka múdrosti gramotnej civilizácie, zabudnite na to.

Avšak odvrátenou stranou tohto celého je, že pravidelne vidím ľudí, ktorí sa pokúšajú o kritické myslenie, ako papagájujú uložené myšlienky, ktoré neboli vymyslené kritickými mysliteľmi.

Dobrým príkladom je skeptik, ktorý pripúšťa: „No, faktickým indíciami nemožno náboženstvo ani dokázať ani vyvrátiť.“ Ako som inde zdôraznil, toto je jednoducho nepravdivá teória pravdepodobnosti. A takisto je to jednoducho nepravda z pohľadu reálnej psychológie náboženstva – pred pár stáročiami by vás za takýto výrok upálili na hranici. Matka, ktorej dcéra má rakovinu, sa modlí: „Bože, prosím uzdrav moju dcéru,“ a nie: „Milý Bože, viem, že náboženstvo nesmie mať žiadne falzifikovateľné dôsledky, čo znamená, že nie je možné, aby si uzdravil moju dcéru, takže... no, v podstate sa modlím, aby som sa cítila lepšie, namiesto robenia niečoho, čo by mojej dcére mohlo naozaj pomôcť.“

Ale ľudia si prečítajú: „Faktickým indíciami nemožno náboženstvo ani dokázať ani vyvrátiť,“ a potom, keď nabudúce uvidia nejaký kus indície vyvracajúcej náboženstvo, ich mozog si doplní tento vzor. Dokonca aj niektorí ateisti opakujú túto absurditu bez zaváhania. Keby sa nad touto myšlienkou zamysleli sami, namiesto počutia od niekoho iného, boli by skeptickejší.

Smrť: doplňte vzor: „Smrť dáva životu zmysel.“

Je frustrujúce hovoriť s dobrými a slušnými ľuďmi – ľuďmi, ktorí by ani za tisíc rokov nikdy spontánne nepomysleli na vyhladenie ľudskej rasy – spomenúť tému existenciálneho rizika, a počuť, ako hovoria: „No, možno si ľudská rasa nezaslúži prežiť.“ Za tisíc rokov by ich nikdy napadlo zastreliť svoje vlastné dieťa, ktoré je súčasťou ľudskej rasy, ale mozog doplní tento vzor.

Aké vzory, ktoré ste si nikdy nevybrali, sa dopĺňajú vnútri vašej mysle?

Rozumnosť: doplňte vzor: „Láska nie je rozumná.“

Keby táto myšlienka niekedy napadla vám osobne, ako celkom nová myšlienka, ako by ste ju kriticky skúmali? Ja viem, čo by som povedal, ale čo by ste povedali vy? Môže byť ťažké to vidieť čerstvými očami. Pokúste sa zabrániť svojej mysli v doplnení vzoru štandardným, neprekvapujúcim, už známym spôsobom. Možno že neexistuje lepšia odpoveď než tá štandardná, ale nemôžete o tej odpovedi rozmýšľať, dokiaľ nezabránite svojmu mozgu v automatickom dopĺňaní odpovede.

Teraz, keď ste si prečítali tento článok, až bude nabudúce niekoho počuť, ako bez zaváhania opakuje mém, ktorý považujete za hlúpy alebo nepravdivý, pomyslíte si: „Uložené myšlienky.“ Môj názor je teraz vo vašej mysli, čaká na doplnenie vzoru. Ale je to pravda? Nedovoľte svojej mysli doplniť tento vzor! Myslite!


Z diskusie pod pôvodným článkom:

Constant2:

Ale ako si povedal, nemôžeme v skutočnosti prepočítavať všetko. Nie je čas. Takže výzvu „myslite!“ nemožno nasledovať vo viac než malom zlomku prípadov.

Najlepšie, čo môžeme urobiť, je občas si prepočítať určité položky. A, ak je toto prepočítanie vo výraznom rozpore s uloženým výsledkom, komunikovať toto ostatným, ktorí pravdepodobne majú rovnaký uložený výsledok. Toto môžeme robiť paralelne. Ty prepočítaš pár vecí, ja prepočítam pár vecí, a tisíce ďalších medzičasom prepočítajú pár vecí. Z času na čas niekto môže dostať výrazne odlišný výsledok, ktorý dúfajme odkomunikuje ostatným. Množstvo výrazne odlišných výsledkov bude snáď iba zlomkom celkového počtu prepočítaných výsledkov, čo urobí zdieľanie rôznych výsledkov možným. Napríklad ak nás je 100 a každý prepočíta 10 výsledkov, spoločne prepočítame 1000 výsledkov (ak sa nebudeme prekrývať). Možno iba 1 zo 100 prepočítaných výsledkov bude odlišný ako uložený výsledok. Takže si potrebujeme medzi sebou podeliť iba 10 výrazne odlišných prepočítaných výsledkov. To je pomerne jednoduché, a v konečnom dôsledku sme urobili prestavbu 1000 uložených výsledkov, každý z nás iba za cenu 10 prepočítaní a 10 prijatých informácií (a jednej odovzdanej, pre každú osobu, ktorá vypočítala nový výsledok). To vyzerá, že sa dá.

ca0abinary:

Zrejme hanebne zabúdame, že ľudia veria, že majú príliš málo časo na „meditáciu“ (akože sadnúť si a uvažovať, nie nutne o náboženských témach), čo je zhodou okolností presne proces „čistenia uložených údajov“. Keďže celý deň pobiehame dokola, v práci a pri konzumácii zábavy, namiesto sedenia na kopci a sledovania, ako ovce žerú trávu, meditácia jednoducho stratila svoje čaro. To je smutné konštatovanie, pretože len za 10 minút meditácie si môžete uvoľniť 1-10 „uložených myšlienok“, čo keby ste robili počas celého roka, by vo výsledku spôsobilo až 3 650 „uložených myšlienok“ opäť overených. Nie je to také optimálne ako horeuvedené riešenie, ale ľudia by sa aj tak nepodriadili takému druhu počítačovej efektivity.

viliam@bur.sk