Sila inteligencie

Preklad anglického článku "The Power of Intelligence". Autor: Eliezer Yudkowsky

Vo svojich lebkách nosíme asi kilo slizkého, vlhkého, sivého tkaniva, zvlneného ako pokrčený toaletný papier. Keby ste pozreli na túto nechutnú hrču, nepomysleli by ste si, že je to jedna z najmocnejších vecí v známom vesmíre. Keby ste nikdy nevideli učebnicu anatómie, a videli by ste mozog ležať na ulici, povedali by ste „Fuj!“ a pokúsili by ste sa nezamazať si od neho topánky. Aristoteles si myslel, že mozog je orgán na chladenie krvi. Vyzerá neškodne.

Pred piatimi miliónmi rokov predkovia levov vládli cez deň a predkovia vlkov sa túlali nocou. Vládnuce šelmy boli vyzbrojené zubami a pazúrmi – ostrými, tvrdými čepeľami, ovládanými mocnými svalmi. Ich korisť si v sebaobrane vyvíjala pancierové schránky, ostré rohy, jedy, maskovanie. Táto vojna trvala tisíce vekov a nespočetne veľa pretekov v zbrojení. Nejeden porazený vypadol z hry, ale nikde nebolo stopy po víťazovi. Kde jeden druh mal pancier, iný sa vyvinul, aby ho prelomil; kde sa jeden druh stal jedovatým, iný si vyvinul odolnosť voči jedu. Každý druh mal svoje vlastné miesto – veď kto by dokázal žiť v mori, na oblohe, a na zemi zároveň? Neexistovala dokonalá zbraň ani dokonalá obrana, ani dôvod veriť, že čosi také je možné.

Potom prišiel čas Mäkkých Vecí.

Nemali brnenie. Nemali pazúre. Nemali jed.

Keby ste videli film zobrazujúci jadrový výbuch, a keby vám povedali, že to urobil jeden zo živočíchov na Zemi, ani v najdivokejšom sne by ste si nepredstavovali, že za to môžu Mäkké Veci. Napokon, Mäkké Veci nie sú rádioaktívne.

Na začiatku Mäkké Veci nemali ani stíhačky, ani guľomety, ani pušky, ani meče. Ani bronz, ani železo. Ani kladivá, ani nákovy, ani kliešte, ani kováčske dielne, ani bane. Mäkké Veci mali akurát mäkké prsty – príliš slabé na to, aby zlomili strom, tobôž horu. Očividne neškodné. Na sekanie kameňa by bolo treba oceľ, ale Mäkké Veci nevedeli vylučovať oceľ. V prírode neboli žiadne oceľové čepele, ktoré by ich mäkké prsty mohli zdvihnúť. Ich telá nedokázali vytvoriť ani zďaleka dostatočnú teplotu na roztavenie kovu. Celý scenár bol jasne absurdný.

A čo sa týka Mäkkých Vecí manipulujúcich DNA – to už by ani nebolo smiešne. Mäkké prsty nie sú také malé. Na ich úrovni nie je DNA dostupná; to by bolo ako pokúšať sa zdvihnúť atóm vodíka. Iste, technicky vzaté všetko tvorí jeden vesmír, technicky vzaté sú Mäkké Veci a DNA časti toho istého sveta, s jednotnými zákonmi fyziky, rovnakou veľkou sieťou kauzality. Ale buďme realistický: odtiaľto tam sa dostať nedá.

Aj keby si Mäkké Veci jedného dňa dokázali vyvinúť niektorú z týchto schopností, trvalo by im to milióny rokov. Celé veky sme sledovali príliv a odliv Života, a môžeme vám povedať, jeden rok, to nie je ani len tiknutie na hodinách evolučného času. Isteže, technicky vzaté, jeden rok je šesťsto biliónov biliónov biliónov biliónov Planckových intervalov. Ale za menej ako šesťsto miliónov biliónov biliónov biliónov biliónov Planckových intervalov sa aj tak nikdy nič nestane, takže táto námietka je iba akademická. Mäkké Veci, ktoré práve bežia krížom savanou, nebudú lietať krížom cez kontinent prinajmenšom ďalších desať miliónov rokov; nikto nemôže mať tak veľa sexu.

A teraz mi opäť vysvetlite, prečo umelá inteligencia nemôže urobiť nič zaujímavé cez internet, dokiaľ jej človek programátor nepostaví robotické telo.

Všimol som si, že automatická reakcia človeka na slovo „inteligencia“ - to, čo mu vyvstane v mysli v prvej polovici sekundy po počutí slova „inteligencia“ - často určuje jeho automatickú reakciu na singularitu. Často sa im pod slovom „inteligencia“ vynára pojem nepraktického intelektuála – predstava šachového veľmajstra, ktorý si nevie nájsť priateľku, alebo univerzitného profesora, ktorý by mimo akademickej pôdy nedokázal prežiť.

„Aby ste uspeli v práci, potrebujete viac než len inteligenciu,“ hovoria ľudia, ako keby sila osobnosti sídlila v obličkách, a nie v mozgu. „Inteligencia je bezmocná voči puške,“ hovoria, ako keby pušky rástli na stromoch. „Kde by umelá inteligencia získala peniaze?“ pýtajú sa, ako keby prvému Homo sapiens spadli dolárové bankovky z neba a on ich mohol použiť v supermarkete už existujúcom v pralese. Ľudský druh sa nenarodil do trhovej ekonomiky. Včely vám nepredajú med, ak im zaň ponúknete platbu kreditkou. Ľudský druh peniaze vymyslel, a peniaze existujú – pre nás, nie pre myši alebo osy – pretože v ne naďalej veríme.

Stále sa pokúšam vysvetliť ľuďom, že vzorom inteligencie nie je Dustin Hoffman vo filme Rain Man, ale že je to človek ako taký, bodka. Je to mäkká vec, ktorá vybuchne vo vákuu, avšak zanechala odtlačky nôh na svojom mesiaci. Vnútri tej sivej hrče je schopnosť prehľadávať cesty cez veľkú sieť kauzality, a nájsť trasu vedúcu k napohľad nemožnému – schopnosť, ktorú niekedy nazývame tvorivosť.

Ľudia – špeciálne investori – sa občas pýtajú, ako, ak Inštitút výskumu strojovej inteligencie úspešne zostaví skutočnú umelú inteligenciu, bude možné výsledky speňažiť. To je to, čo nazývame problém uhla pohľadu.

Alebo to je možno niečo hlbšie než obyčajná zrážka predpokladov. S trochou tvorivého myslenia si ľudia dokážu predstaviť, ako by sa dalo cestovať na Mesiac, alebo vyliečiť kiahne, alebo vyrábať počítače. Predstaviť si však trik, ktorý by dokázal dosiahnuť všetky tieto veci zároveň, sa im zdá celkom nemožné – napriek tomu, že takáto sila sídli iba pár centimetrov za ich vlastnými očami. Tá sivá vlhká hmota stále pripadá záhadnou samotnej sivej vlhkej hmote.

A tak, keďže ľudia nedokážu celkom vidieť, ako by to celé mohlo fungovať, sa sila inteligencie zdá menej skutočná. Predstaviť si ju je ťažšie než predstaviť si vežu z ohňa, ktorá pošle loď na Mars. Plán návštevy Marsu upútava našu predstavivosť. Ale keby niekto sľuboval aj návštevu Marsu, aj veľkú zjednotenú teóriu fyziky, aj dôkaz Riemannovej hypotézy, aj liek proti obezite, aj liek proti rakovine, aj liek proti starnutiu, aj liek proti hlúposti... to skrátka znie nesprávne.

A veru by aj malo. Je vážnym zlyhaním predstavivosti myslieť si, že inteligencia dokáže iba tak málo. Kto by si dokázal predstaviť, vtedy dávno, čo budú jedného dňa mysle robiť. Možno ani nevieme, čo sú naše skutočné problémy.

Ale medzičasom, keďže je ťažké vidieť, ako môže mať jeden proces takéto rozmanité schopnosti, je ťažké si predstaviť, že by sa zároveň vyriešili čo len také bežné problémy ako obezita a rakovina a starnutie.

Lenže, jeden trik už raz vyliečil kiahne a postavil lietadlá a kultivoval pšenicu a skrotil oheň. Naša súčasná veda možno nemá jasno v tom, ako presne ten trik funguje, ale on napriek tomu funguje. Ak dočasne nerozumieme nejakému javu, je to fakt o danom stave našej mysle, nie fakt o danom jave. Prázdna mapa neznamená, že aj územie je prázdne. Aj keď človek celkom nerozumie tej sile, ktorá zanechala odtlačky nôh na Mesiaci, tie odtlačky tam napriek tomu stále sú – skutočné odtlačky, na skutočnom Mesiaci, umiestnené tam skutočnou silou. Keby človek tejto sile dostatočne hlboko porozumel, mohol by ju vytvárať a usmerňovať. Inteligencia je rovnako skutočná ako elektrina. Akurát je omnoho mocnejšia, omnoho nebezpečnejšia, má omnoho hlbšie dopady na pokračovanie rozvíjajúceho sa príbehu života vo vesmíre... a je o trochu ťažšie dôjsť na to, ako postaviť jej generátor.

viliam@bur.sk