Tereza Doležalová
  1. Kapitola první: matematická logika
    1. Kapitola druhá: vyloučení podivných smyček

Kapitola první: matematická logika

Náležité ocenění Gödelovy věty vyžaduje znalost kontextu. Pokusíme se proto teď krátce shrnout historii matematické logiky před rokem 1931, což je samo o sobě nesplnitelný úkol. (Pro slušný výklad historie viz DeLong, Kneebone nebo Nagel a Newman.) Vše začalo pokusem mechanizovat myšlenkové postupy uvažování. Dnes je naše schopnost uvažovat často vyzdvihována jako něco, čím se odlišujeme od ostatních živočišných druhů; na první pohled tak pokus mechanizovat něco, co je výsostně lidské, působí poněkud paradoxně. Ale už staří Řekové věděli, že uvažování je založeno na jistých schématech a přinejmenším zčásti se řídí jasnými pravidly. Aristoteles nám zanechal sylogismy a Eukleides zas základy geometrie; od té doby však uteklo mnoho staletí, než jsme opět učinili pokrok ve studiu axiomatického uvažování.

Jedním z významných objevů matematiky 19. století byla existence několika různých a zcela rovnocenných geometrií, přičemž „geometrií“ rozumíme teorii vlastností abstraktních bodů a přímek. Dlouho se mělo za to, že geometrie je to, co ustavil Eukleides, a pokud se snad v Eukleidových formulacích mohou objevit drobné nedostatky, nejsou podstatné a každý další rozvoj geometrie může spočívat jen v rozšiřování Eukleidova základu. Tato idea byla otřesena objevem neeukleidovské geometrie hned několika matematiky zhruba ve stejné době — objev, který otřásl matematickým společenstvím, protože hluboce zpochybnil ideu, že matematika studuje reálný svět. Jak by mohla jedna a táž skutečnost obsahovat různé druhy bodů a přímek? Dnes je řešení podobného dilematu zřejmé, dokonce i některým nematematikům, ve své době však v matematických kruzích způsobilo zmatek.

Později v 19. století angličtí logici George Boole a Augustus De Morgan pokročili v kodifikaci přísně deduktivního uvažování podstatně dál než Aristoteles. Boole dokonce nazval — poněkud nadneseně — svou knihu The Laws of Thought (Zákony myšlení), nicméně opravdu šlo o důležitý příspěvek k vývoji oboru. Lewis Carroll byl těmito mechanizovanými metodami uvažování fascinován a vymyslel mnoho logických hlavolamů, které lze jejich pomocí řešit. Gottlob Frege v Jeně a Giuseppe Peano v Turínu pracovali na spojení formálního uvažování se studiem množin a čísel. David Hilbert v Góttingen vytvářel striktnější formalizaci Eukleidovy geometrie. Všechno uvedené úsilí směřovalo k vyjasnění pojmu „důkaz“.

K čemu slouží logika?

Mezitím probíhal zajímavý vývoj i v klasické matematice. Teorie různých typů nekonečna, známá jako teorie množin, byla vytvořena Georgem Cantorem v 80. letech 19. století. Teorie to byla silná a krásná, ale poněkud popírala intuici. Už dlouho se vynořovalyrozmanité paradoxy teorie množin. Situace byla velmi znepokojivá, protože sotva se matematika zdánlivě vzpamatovala z jedné vlny paradoxů — týkaly se teorie limitních přechodů v diferenciálním počtu — už je tu vlna další, a vypadá ještě hůř!

Nejslavnější z těchto problémů je Russellův paradox. Většina množin, zdálo by se, není prvkem sama sebe — například množina mrožů není mrož, množina obsahující jen Johanku z Arku není Johanka z Arku (množina není osoba) a tak podobně. V tomto ohledu je většina množin „tuctových“. Nicméně některé množiny jsou „sebeobsahující“, protože samy sebe coby prvek obsahují, třeba množina všech množin, nebo množina všech věcí s výjimkou Johanky z Arku. Zřejmě je každá množina buď tuctová, nebo sebeobsahující, žádná nemůže být obojí najednou. Nic nám však teď nebrání uvažovat množinu T všech tuctových množin. Zprvu může množina T vypadat jako poněkud tuctový výtvor, tenhle názor však musíme poopravit, jakmile se zeptáme: „Je T tuctová, anebo sebeobsahující množina?“ Zjistíme, že odpověď je: „T není ani tuctová, ani sebeobsahující, neboť kterákoli volba vede k paradoxu.“ Zkuste si to!

Když ale T není ani tuctová, ani sebeobsahující, jaká tedy je? Přinejmenším patologická. S takovou vyhýbavou odpovědí se však každý nespokojí, a tak se lidé pustili hlouběji do základů teorie množin. Zásadní se zdály otázky: „Co je špatného na intuitivním pojetí množiny? Můžeme vytvořit dostatečně přesnou a vyčerpávající teorii množin, jež by byla v souladu s naší intuicí a přitom prosta paradoxů?“ Podobně jako v teorii čísel a v geometrii, i zde problém spočívá ve spojení intuice s formalizovaným či axiomatizovaným systémem uvažování.

Zarážející variantu Russellova paradoxu zvanou „Grellingův paradox“ dostaneme použitím přívlastků namísto množin. Rozdělme přívlastky do dvou kategorií: na ty, které jsou sebepopisující, jako třebas „jednoslovný“, „pětislabičný“ či „hrupky obsahujýcý“, a na ty, které takové nejsou, jako třebas „jedlý“, „skládající se z jednoho slova“ či „jednoslabičný“. Pokud teď připustíme „nesebepopisující“ jako přívlastek, do které kategorie bude patřit? Kdyby se někomu nezdálo vytvoření nového přívlastku pomocí záporu, můžeme místo toho použít jiné dva přívlastky odvozené z cizích slov: autologický (= „sebe popisující“) a heterologický (= „jiný než sebe popisující“). Otázka pak zní: je přívlastek „heterologický“ heterologický? I toto si zkuste!

Zdá se, že společným viníkem těchto paradoxů je autoreference neboli „podivná smyčkovitost“. Pokud je tedy cílem zakázat všechny paradoxy, proč nezkusit zakázat autoreferenci a vše, co by k ní mohlo vést? Není to ale tak snadné, jak by se mohlo zdát, protože je dost těžké si jen představit, kde všude se autoreference může vyskytnout. Může být rozprostřena přes celou Podivnou smyčku s několika stupni, podobně jako následující verze Epimenidova paradoxu, jež připomíná.

Kreslení: ! Následující věta je nepravdivá.

Předchozí věta je pravdivá. Společně mají tyhle dvě věty stejný účinek jako původní Epimenidův paradox; každá zvlášť je ale neškodná a někdy i užitečná věta. „Odpovědnost“ za podivnou smyčkovitost nelze přisoudit ani jedné z nich, smyčka spočívá ve způsobu, jak jedna na druhou odkazuje. Úplně stejně, jako je každý kousek obrázku Nahoru a dolů zcela v pořádku; paradox plyne z jejich celkového uspořádání. Protože máme přímé i nepřímé způsoby autoreference, musíme mít představu, jak vyloučit oba typy naráz — alespoň pokud autoreferenci považujeme za kořen všeho zla.

Kapitola druhá:vyloučení podivných smyček

Russell s Whiteheadem takový názor sdíleli a jejich kniha Principia Mathematica byla gigantickým pokusem vymýtit podivné smyčky z logiky, teorie množin a teorie čísel. Myšlenka jejich systému byla v zásadě následující: Prvky množin nejnižšího „typu“ mohou být jen „objekty“, nikoli množiny. Prvky množiny dalšího typu mohou být jen objekty nebo množiny nižšího typu. Obecně může množina daného typu obsahovat jen objekty nebo množiny nižšího typu. Každá množina je nějakého typu. Je zřejmé, že žádná množina sama sebe obsahovat nemůže, protože by musela být typu o řád vyššího, než sama je. V takovém systému existují pouze „tuctové“ množiny; navíc T, množina všech tuctových množin, už vlastně mezi množiny nepatří, poněvadž není žádného konečného typu. Takováto teorie typů, kterou můžeme také nazvat „teorií vymýcení podivných smyček“, úspěšně zbaví teorii množin jejích paradoxů, ale jen za cenu zavedení evidentně umělé hierarchie a zákazu jistého druhu množin — takových jako množina všech tuctových množin. Tento systém množin je pak ovšem v rozporu s intuicí.

Teorie typů si poradila s Russellovým paradoxem, ale s Epimenidovým ani Grellingovým paradoxem nepořídila nic. Lidem, jejichž zájem končí u teorie množin, to stačilo, ale ti, kteří by rádi vymýtili všechny paradoxy, považovali za nutné zavést proti smyčkám i hierarchizaci jazyka. Základem takové hierarchie by měl být objektový jazyk, který odkazuje jen do konkrétní oblasti, nikoli na vlastnosti objektového jazyka samého (jako třebas na gramatická pravidla nebo na specifické věty v něm). K takovému účelu slouží metajazyk. Tato zkušenost dvou lingvistických úrovní je známa všem učitelům cizích jazyků. K diskusi o metajazyce pak máme metametajazyk a tak dále. Bylo by žádoucí, aby každá věta patřila k nějaké přesné úrovni takové hierarchie — když pak u nějaké formule takovou úroveň nedokážeme určit, prohlásíme ji za nesmyslnou a zapomeneme ji.

Podívejme se, jak nám to pomůže vypořádat se s výše uvedenou dvojstupňovou Epimenidovou smyčkou. První věta mluví o druhé větě, a proto musí být na vyšší úrovni. Ze stejného důvodu však musí být druhá věta na vyšší úrovni než věta první. Protože to nejde, jsou obě věty „nesmyslné“. Přesněji: takové věty nelze v systému založeném na přísné hierarchii jazyků vůbec zformulovat. To zabrání všem verzím Epimenidova i Grellingova paradoxu. (Do které úrovně jazyka by mohl patřit výraz „heterologický“?)

Teorie množin se zabývá abstrakčemi, s nimiž se běžně nepotkáváme, a tak se v ní může stratifikace v duchu teorie typů zdát přijatelná, byť mírně podivná. Jakmile však dojde na přirozený jazyk, jenž je všední součástí našeho života, vypadá takové rozvrstvení absurdně. Je nepředstavitelné, že bychom se při běžném hovoru obezřetně pohybovali nahoru a dolů v nějaké hierarchii jazyků. Zcela věcné a pravdivé konstatování jako „V této knize kritizuji teorii typů“ by bylo v takovém systému dvojnásob zakázáno. Především zmiňuje „tuto knihu“, o níž je dovoleno mluvit pouze v „metaknize“, a za druhé zmiňuje mě, osobu, o které já sám rozhodně mluvit nesmím! Tenhle příklad ukazuje, jak hloupě teorie typů vypadá, když ji přeneseme do dobře známého kontextu. Postup, jímž se pokouší vypořádat s paradoxy — absolutní zákaz autoreferencí v jakékoli podobě — je přemrštěný a leckteré docela dobré konstrukce odsouvá do kategorie nesmyslných. Přívlastkem „nesmyslný“ by se pak mimochodem musely označit všechny diskuse z teorie lingvistických typů (včetně textu tohoto odstavce), protože očividně nemohou být na žádné definovatelné úrovni: ani objektového jazyka, ani metajazyka, ani metametajazyka, a tak dále. Samotný rozbor této teorie je zároveň jejím nejkřiklavějším porušením!

Mohli bychom se takových teorií zastat: měly se týkat jen formálních jazyků, nikoli běžné, neformální řeči. Budiž, pak to ale ukazuje, jak jsou takové teorie přehnaně akademické a jak málo mohou říci o paradoxech s výjimkou těch, jež se vynoří v nějakém speciálně přizpůsobeném systému. Kromě toho snaha vyhnout se paradoxům za každou cenu, zvlášť když to pak vyžaduje vytvoření vyumělkovaného formalismu, klade příliš velký důraz na holou bezespornost a pomíjí vše vtipné a bizarní, jež teprve činí život a matematiku zajímavými. Je samozřejmě důležité usilovat o bezespornost, jakmile nás však taková snaha zažene až k nějaké mimořádně ohavné teorii, je něco špatně.

Tento druh problémů v základech matematiky povzbudil zájem o kodifikaci metod lidského uvažování, který byl počátkem 20. století patrný. Matematici a filozofové začali projevovat vážné pochybnosti, zda vůbec na solidních základech stojí alespoň ty nejkonkrétnější teorie jako studium celých čísel (čili teorie čísel). Když mohou paradoxy tak snadno vystoupit v teorii množin — tedy v teorii, jejíž základní objekty mají jistě velmi intuitivní základ — jak by pak mohly neexistovat i v jiných částech matematiky? Obavy panovaly také z toho, že by se mohlo ukázat, že logické paradoxy podobné paradoxu Epimenidovu jsou matematice vlastní, a tak zpochybnit matematiku jako celek. To obzvlášť znepokojovalo početnou skupinu badatelů přesvědčených, že matematika je součástí logiky (či naopak že logika je součástí matematiky). Dokonce i samotná otázka „Jsou matematika a logika odlišné, anebo jen různé části téhož?“ se stala zdrojem četných sporů.

Takovému zkoumání samotné matematiky se začalo říkat metamatematika, anebo občas metalogika. Nejnaléhavějším úkolem metamatematiky bylo odhalit skutečnou podstatu matematického uvažování. Jaké metody jsou dovoleny a jaké ne? Matematické uvažování vždy probíhalo v „přirozeném jazyce“ (třebas ve francouzštině či v latině nebo jiném jazyce pro normální domluvu), což samo bylo zdrojem mnohých nejednoznačností.