Bayesovské džudo

Preklad anglického článku "Bayesian Judo". Autor: Eliezer Yudkowsky

Môžete sa trochu zabaviť s ľuďmi, ktorých očakávania sa rozladili s tým, čomu veria, že veria.

Raz som bol na večernej párty, skúšal som jednému mužovi vysvetliť, čím sa živím, a on povedal: „Neverím, že je možná umelá inteligencia, pretože iba Boh môže stvoriť dušu.“

V tej chvíli som musel byť zhora osvietený, pretože som okamžite odpovedal: „Myslíte tým, že ak zostavím umelú inteligenciu, vyvráti to vaše náboženstvo?“

On na to: „Čože?“

Povedal som: „No, ak vaše náboženstvo tvrdí, že nie je šanca, aby som zostavil umelú inteligenciu, potom, ak zostavím umelú inteligenciu, bude to znamenať, že vaše náboženstvo nemá pravdu. Buď vaše náboženstvo pripúšťa, že môžem zostaviť UI; alebo, ak zostavím UI, vyvráti to vaše náboženstvo.“

Nasledovala pauza, ako si uvedomil, že práve vyslovil hypotézu podliehajúcu falzifikácii, a potom povedal: „No, nemyslel som, že nemôžete zostaviť inteligenciu, ale že nebude môcť prežívať emócie tak, ako my.“

Povedal som: „Teda, ak zostavím umelú inteligenciu, ktorá bez toho, aby bola s takým scenárom naschvál dopredu naprogramovaná, začne rozprávať o emocionálnom živote, ktorý znie ako ten náš, to bude znamenať, že vaše náboženstvo sa mýli.“

On: „No, hm, asi sa budeme musieť zhodnúť na tom, že sa v tomto nezhodneme.“

Ja: „Nie, to nemôžeme. Existuje veta o rozumnosti s názvom Aumannova veta o zhode, ktorá dokazuje, že dvaja racionalisti sa nemôžu zhodnúť na tom, že sa nezhodnú. Ak dvaja ľudia v niečom nesúhlasia, aspoň jeden z nich musí niečo robiť nesprávne.“

Trochu sme diskutovali o tomto. Nakoniec povedal: „No, asi som tým naozaj chcel povedať, že si nemyslím, že dokážete vytvoriť niečo večné.“

Povedal som: „Nuž, to si nemyslím ani ja! Teší ma, že sme dokázali dosiahnuť zhodu, ako vyžaduje Aumannova veta o zhode.“ Podal som mu ruku, potriasol mi ju, a potom odišiel.

Žena, ktorá stála obďaleč a počúvala náš rozhovor, mi vážne povedala: „Toto bolo krásne.“

„Ďakujem veľmi pekne,“ povedal som.


Z diskusie pod pôvodným článkom:

Valter:
Pekná práca, ale spomenúť Aumannovu vetu vyzerá ako podfuk: vedel ten nešťastník, že táto veta vyžaduje zhodu vo východiskových predpokladoch?

Robin Hanson:
Táto historka súvisí s javom, že najinteligentnejší a najvzdelanejší veriaci definujú svoje presvedčenia veľmi opatrne, aby nemohol nastať žiaden rozpor s pozorovaniami, zatiaľ čo bežní ľudia skôr dovolia, aby z ich náboženstva niečo vyplývalo, do čoho sa potom môžu pustiť ľudia ako Eliezer. Je zábava nachádzať medzery v názoroch menej vzdelaných, ale ak sa chcete pustiť do náboženstva celkovo, bolo by čestnejšie pustiť sa do názorov tých najvzdelanejších. Ja mám však zvyčajne problém vypátrať, čomu presne títo najvzdelanejší veriaci vlastne veria.

Pseudonymous2.
To bolo kruté. Zábavné, ale kruté.

Žena, ktorá stála obďaleč a počúvala náš rozhovor, mi vážne povedala: „Toto bolo krásne.“

A ľudia sa čudujú, prečo sa muži tak často hádajú.

Joseph Hertzlinger:
Medzičasom, pri vedľajšom stole prebiehala takáto konverzácia:

“Verím, že veda nás učí, že ľuďmi spôsobené globálne otepľovanie je naliehavá kríza.“

“Myslíte tým, že ak to nie je problém, alebo sa to dá ľahko napraviť, vyvráti to vedu?“

Eliezer Yudkowsky:
Ja ľudí trápim len preto, aby som ich urobil silnejšími.

viliam@bur.sk