Ako vyzerať (a byť) hlboký

Preklad anglického článku "How to Seem (and Be) Deep". Autor: Eliezer Yudkowsky

Nedávno som sa zúčastnil diskusnej skupiny, ktorej téma pri danom stretnutí bola Smrť. Vyvolalo to hlboké emócie. Myslím si, že zo všetkých obedov v Silicon Valley, ktorých som sa zúčastnil, tento bol najúprimnejší; ľudia hovorili o smrti v rodine, o smrti priateľov, čo si mysleli o svojej vlastnej smrti. Ľudia sa navzájom naozaj počúvali. Kiež by som vedel tieto okolnosti spoľahlivo reprodukovať.

Bol som jediný prítomný transhumanista, a dával som si obrovský pozor, aby som to každému nestrkal pred nos. („Fanatik je človek, ktorý nedokáže zmeniť názor a nechce zmeniť tému.“ Ja sa snažím sa byť schopný aspoň zmeniť tému.) Nie je prekvapivé, že ľudia hovorili o význame, ktorý smrť dáva životu, alebo ako je smrť v skutočnosti maskovaným požehnaním. Ja som však, veľmi opatrne, vysvetlil, že transhumanisti sú vo všeobecnosti pozitívni voči životu, ale nemajú radi smrť.

Dodatočne za mnou prišlo pár ľudí a povedalo mi, že som veľmi „hlboký“. No áno, som, ale vďaka tomuto som začal rozmýšľať, čo spôsobuje, že ľudia vyzerajú hlbokí.

V jednom bode rozhovoru jedna žena povedala, že myšlienka na smrť ju vedie k tomu, aby bola k ľuďom milá, pretože nikdy nevie, či ich nevidí poslednýkrát. „Keď môžem o niekom povedať niečo pekné,“ povedala, „poviem mu to hneď a nečakám.“

„To je krásna myšlienka,“ povedal som, „a aj keby z vás jedného dňa spada hrozba smrti, dúfam, že to budete robiť naďalej...“

Dodatočne, táto žena bola jedna z tých, čo mi povedali, že som hlboký.

V inom bode diskusie jeden muž hovoril o tom, že smrť má nejakú výhodu X, už si presne nespomínam čo. A ja som povedal: „Viete, pri ľudskej povahe, keby ľudia dostávali každý týždeň po hlave baseballovou pálkou, čoskoro by si vymysleli dôvody, prečo dostávať po hlave baseballovou pálkou je dobrá vec. Ale keby ste vzali niekoho, kto nedostával po hlave baseballovou pálkou, a opýtali by ste sa ho, či by chcel, povedal by, že nie. Myslím si, že keby ste vzali niekoho, kto bol nesmrteľný, a opýtali by ste sa ho, či by chcel zomrieť kvôli výhode X, povedal by, že nie.“

Dodatočne mi tento muž povedal, že som hlboký.

Korelácia nie je kauzalita. Možno som v ten deň jednoducho hovoril hlbším hlasom, takže to znelo múdrejšie.

Ale mám podozrenie, že som im pripadal „hlboký“, pretože som sústavne porušoval ich uložené vzory „hlbokej múdrosti“ spôsobom, ktorý hneď dával zmysel.

Existuje stereotyp Hlbokej Múdrosti. Smrť: doplňte vzor: „Smrť dáva životu zmysel.“ Každý pozná túto štandardnú Hlboko Múdru odpoveď. A preto získava určité vlastnosti signálu na potlesk. Keď ju povie, ľudia možno prikývnu, pretože ich mozog si doplní vzor a oni vedia, že majú prikývnuť. Možno dokonca povedia: „Aká hlboká múdrosť!“, azda v nádeji, že budú sami považovaní za hlbokých. Ale nebudú prekvapení; nepočuli nič mimo vychodených koľají; nepočuli nič, čo by si nemohli pomyslieť sami. Dalo by sa to nazvať vierou v múdrosť – myšlienka je označená ako „hlboko múdra“, a je to doplnený štandardný vzor pre „hlbokú múdrosť“, ale neprináša žiaden zážitok vhľadu.

Ľudia, ktorí sa snažia vyzerať Hlboko Múdri často nakoniec vyzerajú prázdni, ako ozvena, pretože sa snažia vyzerať Hlboko Múdri namiesto optimalizovania.

Koľko rozmýšľania som potreboval ja v tomto procese vyzerania hlboký? Ľudský mozog beží iba rýchlosťou 100 Hz a ja som odpovedal v reálnom čase, takže väčšina práce musela byť vypočítaná vopred. Časť, ktorú som prežíval ako náročnú, bola vyberanie odpovede pochopiteľnej v jednom inferenčnom kroku a potom jej formulovanie pre maximálny dopad.

Z filozofického hľadiska bola takmer všetka moja práca už urobená. Doplňte vzor: Existujúca situácia X je naozaj odôvodnená, pretože má výhodu Y: „Klam naturalizmu?“ / „Skreslenie status quo?“ / „Mohli by sme mať Y bez X?“ / „Keby sme nikdy predtým nepočuli o X, vybrali by sme si to dobrovoľne, aby sme dostali Y?“ Myslím si, že je férové povedať, že vykonávam tieto myšlienkové vzory asi na rovnakej úrovni automatiky ako dýcham. Napokon, väčšina ľudského myslenia musí byť vyhľadávanie uložených údajov, ak má mozog vôbec fungovať.

A tiež som už mal rozvinutú filozofiu transhumanizmu. Transhumanizmus má tiež uložené myšlienky o smrti. Smrť: doplňte vzor: „Smrť je nezmyselná tragédia, ktorú si ľudia racionalizujú.“ Toto bola neštandardná uložená informácia; taká, ktorú moji poslucháči nepoznali. Mal som niekoľko príležitostí použiť neštandardnú uloženú informáciu, a pretože to všetko boli časti rozvinutej filozofie transhumanizmu, všetky viditeľne patrili k rovnakej téme. To spôsobilo, že som vyzeral súvisle, nielen originálne.

Predpokladám, že toto je dôvod, prečo východná filozofia pripadá hlboká západným ľuďom – má neštandardnú ale súvislú uloženú Hlbokú Múdrosť. Zrkadlovo, v dielach japonskej fikcie človek občas nájde kresťanov vykreslených ako studnice hlbokej múdrosti a mystických tajomstviev. (A občas nie.)

Ak si správne spomínam, jeden ekonóm raz poznamenal, že laická verejnosť má tak málo skúseností so štandardnou ekonomikou, že keď ho raz pozvali vystupovať v televízii, potreboval im iba zopakovať ekonómiu pre prvákov, aby vyznel ako brilantný originálny mysliteľ.

Kritické bolo aj to, že moji poslucháči mohli ihneď vidieť, že moje odpovede dávajú zmysel. Mohli ale nemuseli súhlasiť s myšlienkou, ale nevyznela im ako úplne od veci. Poznám transhumanistov, ktorí nedokážu vyzerať hlbokí, pretože nedokážu zohľadniť, čo ich poslucháč ešte nevie. Ak chcete znieť hlboko, nikdy nehovorte nič, čo je vzdialené viac než jeden inferenčný krok od súčasného myšlienkového stavu vášho poslucháča. Tak to skrátka je.

Ak chcete vyzerať hlboký, študujte neštandardné filozofie. Vyhľadávajte diskusie na témy, ktoré vám dajú príležitosť vyzerať hlboký. Urobte svoje filozofické myslenie v predstihu, aby ste sa mohli sústrediť na dobré vysvetľovanie. Ale najmä trénujte držanie sa v hraniciach jedného inferenčného kroku.

Aby ste boli hlbokí, myslite sám za seba o „múdrych“ aleb dôležitých alebo emocionálne nabitých témach. Myslieť sám za seba nie je to isté ako prísť s nezvyčajnou odpoveďou. Znamená to vidieť veci sám, nie iba nechať svoj mozog doplniť vzor. Ak sa nezastavíte pri prvej odpovedi a vyhodíte odpovede, ktoré vyzerajú nejasne neuspokojivo, časom vaše myšlienky vytvoria koherentný celok, pochádzajúci z jedného zdroja, z vás, namiesto úlomkov opakovania záverov druhých ľudí.


Z diskusie pod pôvodným článkom:

Anders Sandberg:

Dlho som sa pohrával s myšlienkou napísať program „generátor múdrosti“. Zdá sa, že mnoho „múdrych“ výrokov je vytvorených podľa malej možiny vzorcov, a že by nebolo také ťažké vytvoriť program, ktorý by náhodne vytváral múdre výroky. Typické pravidlo je vytvoriť paradox („Hľadaj slobodu a staneš sa otrokom svojich vášní. Hľadaj disciplínu a nájdeš slobodu.“) alebo len obrátiť slová („Srdce hlupáka je v jeho ústach, ale ústa múdreho sú v jeho srdci.“). To asi zapadá do tvojej teórie: štruktúra daná vzorcom stačí na to, aby vzbudila poznanie, že teraz príde múdre porekadlo. Ak je záver čudný alebo neznámy, tým lepšie.

Momentálne si čítam „Tao je tiché“ od Raymonda Smullyana a som šokovaný, o čo menej múdro znie taoizmus, keď je jasne vysvetlený.

Eliezer Yudkowsky:

Môžem hovoriť iba za seba, ale myslím si, že väčšina z nás si definuje „nesmrteľnosť“ ako „žiť aspoň milión rokov“, namiesto ako Greg Egan: „Nie: zomrieť po veľmi dlhom čase, ale skrátka nezomrieť, nikdy.“

Ja teda určite nemám žiadne morálny výhrady voči romu druhému. Ako občas hovorím ľuďom: „Chcem žiť ešte jeden deň. Zajtra budem tiež chcieť žiť ešte jeden deň. Preto chcem žiť naveky; dôkaz indukciou cez prirodzené čísla.“

Ale, ak vynecháme vtipné poznámky, nie som si istý, čo presne cítim ohľadom skutočnej nesmrteľnosti, ak by taká vec bola fyzikálne možná. Či chcem žiť dlhšie než miliardu rokov; žiť dlhšie než bilión rokov; žiť dlhšie než googolplex rokov; žiť dlhšie než Grahamovo číslo; žiť tak dlho, že sa to musí vyjadriť pomocou Conwayvho zápisu so zreťazenými šípkami; žiť dlhšie než Busy_Beaver(100)?“

Všimnite si, že hovorím: „žiť dlhšie než Grahamovo číslo“ a nie „žiť dlhšie než Grahamovo číslo rokov/sekúnd/tisícročí“, pretože to všetko je viacmenej to isté číslo. Žiť takéto množstvo času si vyžaduje nielen schopnosť obísť termodynamiku; vyžaduje si to schopnosť budovať vlastné vesmíry s vlastnými fyzikálnymi zákonmi. A drvivá väčšina celých čísel je omnoho väčšia než toto, ale dokonca než Busy_Beaver(100). Možno sa to dá. Možno nie.

Emocionálne spojenie, ktoré cítim so svojím budúcim ja, ktoré žilo Grahamovo číslo, je prakticky nula, samo o sebe. Ale moje zajtrajšie ja, s ktorým sa identifikujem veľmi silno, bude len o kúsoček bližšie. Ako budem plniť alebo opúšťať svoje staré ciele, nájdem si nové. To spojenie môže byť nepriame, ale je tam.

A určite vidím veľmi veľký rozdiel medzi ľudstvom, ktoré pokračuje naveky, oproti ľudstvu, ktoré pokračuje po Grahamovo číslo a potom zastane; rozdiel, pre ktorý sa veru oplatí dať život. (Z čoho vyplýva, že moja diskontná miera je 1.)

Takže, ako zvyčajne hovorím ľuďom:

“Či chcem žiť večne? Neviem. Opýtajte sa ma znovu o milión rokov. Možno sa dovtedy rozhodnem, či sa cítim na nesmrteľnosť. Ja uvažujem krátkodobo; žijem svoj život po jednotlivých eónoch.“

viliam@bur.sk