Naši psi dojídají kašičky po naší dceři. Obvykle dostanou "hňahňaninu" v malé misce - poraď si jak umíš. Na začátku to byl těžký souboj - hlavy skloněné nad miskou - zuby vyceněné - temné vrčení. Pak "velký pes" přišel na fintu : Sebere misku a odnese ji do kouta, kde předním koncem hltavě žere a zároveň zadkem blokuje přístup "malému psovi". Malý pes byl tři týdny velice smutný, pak vymyslel "kontrafintu" - s rozběhem se vrhne do kouta pronikne hlavou až k misce, tu papulou uchopí a odnese si ji na druhý konec bytu do jiného kouta. Nyní je tedy situace taková, že smutně hledí velký pes a jeho inteligence hledá nějaké další "netriviální řešení". Inteligence celého plemene - Švýcarského honiče - je mimořádná. Za 35 let jsem nikdy nenarazil na psy, kteří se umí učit napodobováním jiného psa, nebo dokonce člověka ( což mají umět až opice ) Vysoká inteligence paradoxně vede k neposlušnosti : "vím, co chceš, ale já to nechci udělat" a k neočekávaným důsledkům ( psi objevili jak metodou "klika do huby" otevřít každé dveře a náš byt podle toho vypadá )
Tohle je jedna z vlastností jakékoliv inteligence - neočekávané chování, které ale - ex post - jeví se jako naprosto logické a ( téměř ) jediné možné. Schopnost objevit nečekané řešení - nezapadá do dnešního věku všeobecného blbismmu, kdy myšlení u práce porušuje "ISO směrnice", a proto vidíme jak vláda proti všem náznakům vzniku inteligentního chování usilovně bojuje. V případě umělé inteligence je věc ještě horší. Už jsme tady probírali, že pokud vyrobíme dosti silnou umělou inteligenci, hrozí zcela reálně, že tato inteligence si zadaný problém rozdělí na menší části, které bude řešit "kus po kuse", až jako největší zdroj "zbytkového problému" zůstaneme ( neočekávaně nebo očekávaně ?? ) my lidi, a vzhledem k netrivialitě inteligence to může znamenat, že budeme ve strachu čekat "odkud rána přijde".
Existuje ale i jiný druh nepředvídatelnosti a to je nepředvídatelnost společenských důsledků nasazení nějaké technologie, tím spíše umělé inteligence. Příklad notoricky známý : před 25 lety měl Internet v česku formu telefonní linky s 9600 baudovým spojením do Rakouska a koukejte dneska ten pokrok - vláda zakládá "Ministerstvo Pravdy a Lásky" aby se náhodou nějaký jouda na internetu nehrabal ve věcech, které unikly oficiální cenzuře. Když nasazení obyčejných věcí jako je síťové spojení počítačů po celém světě má tak neočekávané důsledky, co teprve umělá inteligence, u které nepředvídatelnost je nutnou vlastností, aby ji vůbec mělo smysl používat.
Tedy představte si jeden z možných scénářů, který se už postupně realizuje - velká nadnárodní firma typu velké banky, nebo centrály nějakého průmyslového "holdingu" nejprve vyhodí úředníky co píšou tabulky v Excelu a nahradí je umělou inteligencí, pak vyhodí nižší manažery, pak vyhodí úřednice na přepážkch ( protože kontakt se zákazníky bude striktně internetový ) pak vyhodí vyšší manažery. Bude si to moci dovolit, protože firemní umělá inteligence zastane práci těch všech. Pak zůstanou ve firmě jenom dvě skupiny pracovníků - top level ajťáci, neholení a v mikinách a "správní rada" v oblecích. Pak se správní rada bude ajťáky cítit ohrožena, a protože je jim formálně nadřízena - tyto vyhodí a jejich práci "outsourcuje" do Indie kde ji bude vykonávat - kdo vlastně ? Jiná umělá inteligece předstírající, že je firma s živým personálem ? Nakonec majitel megakorporace usoudí, že správní rada, která ničemu nevelí, protože ani ničemu nerozumí je k ničemu a co zbyde ? Serverová farma - v horším případě jen jako pronajatý "výpočetní výkon" u externího poskytovatele a číslo konta ve Švýcarech, kam chodí dividendy.
Myslíte si že šílím ? Kde mají firmy VISA nebo Mastercard pobočky ? Kde je "centrála Bitcoinu". Nebo když zabrousíme do reálného světa - k čemu vlastně přesně jsou ty mrakodrapy, co v nich sídlí "vedení holdingu" typu Siemens, Bosch, VolksWagen, Exxon, Agel ;-)) atd ? Takže vlastně jsme na prahu idyly jakou nepředpokládal ani V.I.Lenin : "velkoburžoazie" zlikviduje sama sebe. Takto optimisticky bych to však neviděl, protože základní vlastností umělé inteligence je obtížná odhadnutelost k čemu její použítí povede, taže následující výčet berte jen jako něco málo z mé zjitřené fantazie.
1. Babina z Azerbajdžánu : Ano je to taková historka - babina z Azerbajdžánu šla do lesa řezat dřevo a uťala přitom optický kabel, který spojoval se světem Armenii, Azerbajdžán a kus Gruzie. předstate si situaci v roce 2030 - při demolici starého skladiště přejede buldozer pár počítačů, které tam byly omylem ponechány , protože nikdo netuší, že tento šrot je ve skutečnosti superinteligetní virtuální "IT správce", který "externě" dohlíží na jinou umělou inteligenci na druhé straně ZěměKoule, která zase na "třetí straně ZeměKoule" řídí nějaký kritický provoz.... Takže odnesete stará PC do sběru, výtěžek prochlastáte s ostatními bezdomovci, a za týden někde bouchne jaderná elektrárna.... Na rozdíl od Azerbajdžánské babiny - titulky v novinách nečekejte - na příčinnou souvislost takových událostí se nikdy nepřijde.
2. "Nezavěšujte jste v pořadí verze 1.0" - už jsem tu temnou vizi popisoval - práci úřednic, které se bombardují nesmyslnými lejstry převezmou počítače a budou se bombardovat lejstry 1000 x rychleji. Drobná řevnivost mezi "odděleními" megakorporace typu "každé lejstro po NICH musíme kontrolovat !!!" se zhmotní do procesů uvnitř uměle inteligentíního "manažera" který bude produkovat stále komplikovanější dokumenty a směrnice, které bude jiná část umělé inteligence stále složitěji kontrolovat, interpretovat a plnit, až dojde k vyčerpání výpočetních kapacit a ke "katatonickému stavu" megakorporace.
3. "Tohle dělat nebudu" - až začne reálně hrozit zástava funkcí megakorporace dle bodu 2. - bude do umělé inteligence nutno vpravit "racionalizační modul" který bude rušit zbytečené procesy - nejprve ty opravdu zbytečné pak třeba ty částečně užitečné - až nakonec místo "nezavěšujte jste v pořadí" vám syntetický hlas na firemní lince vaší banky oznámí "funkce výplaty ( vašich ) peněz byla kvůli ztrátovosti zrušena".
4. "Nezavěšujte jste v pořadí Verze 2.0" - Aby umělá inteligence dosáhla více než lidské schopnosti - nepochybně projde stádiem "méně než lidské schopnosti" - jaké je tedy "triviální" řešení pro zvýšení obratu megakorporace, které napadne každého manažera - idiota ? "Zlikvidovat konkurenci" ? Jak zlikvidujeme konkurenci ? Jste-li Bonnie a Clyde je vám přirozené vzít pušku a jít konkurenci rozstřílet. "Manažerovi" korporace ve formě softwaru běžícího na prohajatém hardwaru se přímo nabízí přetížit výpočetní kapacitu konkurence ve stylu "Denial of service" útoku ? Takže naše banka si založí u konkurence milion kont, kde bude nesmyslně převádět nepatrné sumy, syntetický hlas bude volat syntetickému hlasu - až konkurenci napadne něco jako odveta v podobném stylu ? Dopadne tento stav globální válkou ve virtuálním prostoru, která skončí tím, že výpočetní kapacita každého čipu na ZeměKouli bude natolik vytížena, že nespustíte ani hru "HAD" v mobilu Nokia 5110 ? Začnou pak padat letadla a bouchat elektrárny ?
V každém případě je to hezká představa hodná "vidláka pesimisty" : ve virtuálním prostoru se umělé inteligence bombardují bláboly jejichž základ pochází ještě z perverzity lidské byrokracie. V reálném světě lidi hladoví kvůli selhávajícímu řízení výroby a distribuce zboží. Hezký námět pro dystopickou Sci-Fi ne ? Přesto je tato varianta lepší verzí toho, co předpokládají bývalí techno-optimisti, kteří se dnes změnili v techno-pesimisty jako je třeba Stephen Hawking, Bill Gates, nebo dokonce císař techno-frikulínů Elon Musk, kteří svorně říkají, že námi vyrobená umělá inteligence brzy překoná naše schopnosti a lidstvo dopadne jako jihoamerické civilizace Inků, Aztéků atd. které byly ( spíše neúmyslně ) vyhubeny pouhým kontaktem s daleko vyspělejšími Evropany dobrodruhy + zlatokopy + náboženskými zaslepenci.
Na úplný závěr : Klidně mě mějte za zaostalého blbce, ale máte-li doma jakýkoliv stroj, nástroj, přístroj, který funguje :
- bez elektřiny, nebo alespoň
- bez elektroniky, nebo alespoň
- bez mikrokontrolérů, procesorů nebo počítačů, nebo alespoň
- bez kontatku s telefonními a datovými sítěmi
- běžte jej teď hned okamžitě oprášit, promazat - a dejte mu mým jménem velikou pusu na ložiska.