Nehovorte „zložitosť“

Preklad anglického článku "Say Not "Complexity"". Autor: Eliezer Yudkowsky

Kde bolo, tam bolo...

Toto je príbeh môjho prvého stretnutia s Marcellom, s ktorým som neskôr rok pracoval na teórii UI. V tej dobe som ho ešte neprijal ako učňa. Vedel som, že súťažil na celoštátnej úrovni matematických a počítačových olympiád, čo stačilo na upútanie mojej pozornosti; nevedel som však, či sa dokáže naučiť rozmýšľať o UI.

Požiadal som Marcella, aby povedal, ako si myslí, že by UI mohla objaviť spôsob riešenia Rubikovej kocky. Nie vopred naprogramovaným spôsobom, čo je triviálne, ale skôr ako by UI mohla sama objaviť zákony Rubikovho sveta a zistiť, ako ich využívať. Ako by UI mohla sama vynájsť pojmy ako „operátor“ alebo „makro“, ktoré sú kľúčom na vyriešenie Rubikovej kocky?

V nejakom bode diskusie Marcello povedal: „No, myslím si, že AI potrebuje mať zložitosť, aby vedela urobiť X, a zložitosť, aby vedela urobiť Y...“

A ja som povedal: „Nehovor „zložitosť“.“

Marcello: „Prečo nie?“

Povedal som: „Zložitosť by nikdy nemala byť cieľom sama osebe. Môžeš potrebovať použiť nejaký konkrétny algoritmus, ktorý pridáva určité množstvo zložitosti, ale samotná zložitosť pre zložitosť veci iba komplikuje.“ (Myslel som pritom na všetkých tých ľudí, ktorých som počul obhajovať názor, že internet sa „prebudí“ a stane sa UI, keď sa stane „dostatočne zložitým“.)

A Marcello povedal: „Ale musí existovať nejaké množstvo zložitosti, ktoré to dokáže.“

Na chvíľu som zavrel oči a skúšal som rozmýšľať, ako to celé vysvetliť slovami. Mne osobne povedať „zložitosť“ jednoducho pripadalo ako nesprávny krok v tanci UI. Nikto nedokáže rozmýšľať dosť rýchlo na to, aby slovne zvážil každú vetu vo svojom prúde vedomia; to by si vyžadovalo nekonečnú rekurziu. Uvažujeme v slovách, ale náš prúd vedomia je usmerňovaný pod úrovňou slov, nacvičenými zvyškami minulých vhľadov a drsných skúseností...

Povedal som: „Čítal si Technické vysvetlenie technického vysvetlenia?“

„Áno,“ povedal Marcello.

„Dobre,“ povedal som. „Povedať „zložitosť“ nekoncentruje tvoju masu pravdepodobnosti.“

„Aha,“ povedal Marcello, „ako „emergencia“. Ha. Takže... by som teraz mal rozmýšľať o tom, ako by sa X mohlo naozaj stať...“

A vtedy som si pomyslel: „Tento je možno vzdelávateľný.

Zložitosť nie je zbytočný pojem. Sú k nemu matematické definície, ako Kolmogorovská zložitosť alebo Vapnikovská-Červonenkisovská zložitosť. Dokonca aj na intuitívnej úrovni sa často oplatí myslieť na zložitosť – potrebujete zvážiť zložitosť hypotézy a rozhodnúť sa, či je „príliš zložitá“ vzhľadom na podporujúce indície, alebo pozrieť na dizajn a skúsiť ho zjednodušiť.

Ale pojmy nie sú užitočné alebo neužitočné samy osebe. Iba ich použitie je správne alebo nesprávne. V tanečnom kroku, ktorý sa Marcello pokúšal urobiť, sa snažil dostať vysvetlenie zadarmo, dostať niečo za nič. Je to mimoriadne častý chybný krok, prinajmenšom v mojej oblasti. Môžete sa zapojiť do diskusie o umelej všeobecnej inteligencii a sledovať ľudí, ktorí robia to isté, naľavo i napravo, znova a znova – nepretržite preskakujú veci, ktorým nerozumejú, bez vedomia, čo práve robia.

Stane sa to v okamihu: umiestnite neovládajúci kauzálny uzol za čosi tajomné; kauzálny uzol, ktorý vyzerá ako vysvetlenie, ale nie je. Táto chyba sa vyskytuje pod úrovňou slov. Nevyžaduje si žiadnu mimoriadnu charakterovú vadu; je spôsob, ako ľudia štandardne myslia už od dávnych čias.

To, čomu sa musíte vyhnúť, je preskočenie tej tajomnej časti; musíte zastať pri tajomstve a čeliť mu priamo. Existuje veľa slov, ktorými sa tajomstvá dajú preskakovať, a niektoré z nich by boli legitímne v inom kontexte – napríklad „zložitosť“. Ale podstatou chyby je toto preskočenie, bez ohľadu na to, aký kauzálny uzol je za ním. Toto preskočenie nie je myšlienka, iba mikromyšlienka. Musíte venovať dôkladnú pozornosť, aby ste sa pri nej prichytili. A keď sa nacvičíte vyhýbať preskakovaniu, stane sa to vecou inštinktu, nie slovného uvažovania. Musíte cítiť, ktoré časti vašej mapy sú stále prázdne, a čo je dôležitejšie, venovať tomuto pocitu pozornosť.

Predpokladám, že v akadémii je obrovský tlak na zametanie problémov pod koberec, aby ste mohli prezentovať článok s dojmom úplnosti. Viac slávy zožnete za napohľad úplný model, ktorý zahŕňa pár „emergentných javov“, než za explicitne neúplnú mapu s nápismi „fakt neviem, ako táto časť funguje“ alebo „a potom sa stane zázrak“. V časopise by vám možno ten druhý článok ani neprijali, pretože ktovie, či tie neznáme kroky nie sú vlastne tie, kde sa všetko to zaujímavé deje. A áno, občas sa stane, že všetky tie nezázračné časti vašej mapy sa ukážu ako nedôležité. To je cena, ktorú občas platíte za vstup na neznáme územie a snahu riešiť problémy postupne. Ale v tom prípade je ešte dôležitejšie vedieť, kedy ešte nie ste na konci. Väčšinou sa ľudia na neznáme územie neodvažujú vstúpiť, pretože sa príliš boja, že premárnia svoj čas.

A ak zakladáte revolučnú novú firmu zameranú na UI, je tam ešte väčší tlak zamiesť problémy pod koberec. V opačnom prípade si musíte priznať, že zatiaľ neviete, ako zostrojiť UI, a vaše súčasné životné plány sa rozsypú. Ale možno to teraz zbytočne zložito vysvetľujem, veď preskakovanie je u ľudí normálne. Ak hľadáte príklady, pozrite si ľudí, ktorí diskutujú o náboženstve alebo filozofii alebo duchovne alebo nejakej vede, v ktorej neboli profesionálne vycvičení.

Marcello a ja sme si v našej práci na UI vytvorili zvyk: keď sme narazili na niečo, čomu sme nerozumeli, a to bolo dosť často, povedali sme „kúzlo“ - napríklad: „X kúzelne urobí Y“ - aby sme si sami pripomenuli, že je tu nevyriešený problém, medzera v našom chápaní. Je omnoho lepšie povedať „kúzlo“ než „zložitosť“ alebo „emergencia“; tie druhé slová totiž vytvárajú ilúziu porozumenia. Múdrejšie je povedať „kúzlo“ a nechať tak sám sebe značku; pripomienku práce, ktorú ešte bude treba dorobiť.


Z diskusie pod pôvodným článkom:

Gray Area:
Informatici majú porekadlo: „Ak niečo nedokážeš naprogramovať, ešte tomu nerozumieš.“ Možno preto, lebo programovanie neodpúšťa ten druh chýb, o ktorom Eliezer hovorí. Zaujímavé je, že programátori často používajú slovo „magicky“ (alebo „automagicky“?) úplne rovnako ako Eliezer a jeho kolega.

Eliezer Yudkowsky:
Je omnoho lepšie neodpúšťať sám sebe, než čakať, kedy dostaneš facku od reality. Je lepšie si za 10 sekúnd uvedomiť, že niečomu nerozumieš, než zistiť to až keď 20 ľudí minulo 5 rokov a 10 miliónov dolárov investorského kapitálu a to „emergentné správanie“, na ktorom ste založili svoje nádeje, sa nezhmotnilo. Je dosť ľahké programovať „chaos“, „zložitosť“ alebo „emergenciu“, dokiaľ dokážeš sám sebe nahovoriť, že toho musíš naprogramovať ešte viac než sa dostaví krok 3: Zisk.

viliam@bur.sk