NP č.379 > Téma číslaČlověk a jeho strojJosef Krob

Vytvořit umělou bytost usiluje lidstvo odpradávna. S technologickým vývojem se však ocitá před palčivými otázkami: Kdo jsou roboti? A kdo jsme my?

 

„Roboti už jdou, roboti – už tady jsou,“ zpívá skupina Olympic v jedné své písničce a spojuje s roboty nadějná očekávání, že se lidstvo zbaví nepříjemných činností:

 

Všichni jsou si podobní, to je výhoda

rodné číslo výrobní jako ty a já.

Myslí myslí umělou, ale nadanou,

takže nás tu za chvíli ve všem zastanou.

 

Není to ale jen naděje vzešlá z českého prostředí, které dalo těmto umělým bytostem jméno. Také německá skupina Kraftwerk spojuje s roboty spíše to lepší:

 

We are programmed just to do

anything you want us to.

Ja tvoi sluga (I‘m your slave)

ja tvoi Rabotnik (I‘m your worker).

 

K OBRAZU SVÉMU

Na optimistických očekáváních vlastně není nic překvapivého. Populární kultura zde prostě jen zachytila přímo pradávné naděje. Od okamžiku, kdy si lidstvo vyprávělo mýtus o svém stvoření, snilo také o tom, že se samo stane tvůrcem a stvoří bytost, která mu bude sloužit a zbaví ho nekončící dřiny. Olympic ještě ve verších o podobnosti rodného a výrobního čísla připomněl dlouhověké představy o humanoidní podobě robotů, podle níž bude stvořená umělá bytost podobná svému tvůrci.

V průběhu dějin se pouze měnily technologie a materiály použité pro výrobu této bytosti. Jakmile člověk zvládnul jeden z prvních materiálů – hlínu – a stal se hrnčířským mistrem, usiloval o „uplácání“ hliněného sluhy. Tato fantazie přetrvala staletí a našla svůj vrchol v rudolfinské éře v podobě Golema. Už tady se ale objevují první náznaky o možná dobrém sluhovi, ale i nebezpečném tvorovi, který se může vymknout kontrole nebo být jen svým pánem zneužit ke škodě ostatních lidí.

Renesance a novověk, které daly rozvinout řemeslům a zejména kovozpracujícím odvětvím, pak ještě produkují spíše hudební automaty skryté do lidské podoby plechového robota. Obávám se však, že to je spíš jen nedostatek technologií, nikoli slabá fantazie tvůrců, kteří by jinak jistě našli využití pro armádu plechových vojáků.

Chemie a biologie 19. století, ještě jako mladé, sotva začínající disciplíny, se tématu zmocňují mnohem razantněji a probouzejí naděje, že bude možné vytvořit umělou bytost z „přírodních, ale neživých komponent a materiálů“. Zpočátku je to oživování mrtvoly, později chemická syntéza celé umělé bytosti. Frankenstein už není sluhou, ale velmi rychle se po svém zrození mění v nebezpečné monstrum, které se stává varovným příkladem a argumentem pro ty, kteří v umělých bytostech vidí spíše ohrožení. Špatnou pověst umělým organickým bytostem už nedokáže napravit ani o století mladší komediální Slečna Golem nebo Pán, který byl vdova.

Ovšem chemii střídá fyzika a matematika – vědní obory spojené v jednom přístroji, ovládaném formalizovanými systémy, programy a umělou inteligencí. Rodí se roboty, které již nejsou pohádkou, a velmi rychle se z nich stávají roboti – už tady jsou. A s nimi v plné vážnosti a naléhavosti přicházejí otázky, které by se daly shrnout pod jednu střechu – jak moc nám budou podobní? Nejde jenom o vzhled, i když ten také dokáže patřičně umocnit dojem, ale spíše o interiér nových tvorů. Budou myslet jako my? Budou něco cítit? Budou poslouchat, nebo se jednou vzepřou svým tvůrcům? Nebo jsou to zbytečné otázky a nemístné obavy?

 

POZNÁME, ŽE JSME STEJNÍ?

Umělá bytost má od samého počátku, kdy byla vysněna, hlavní cíl: sloužit. Moderně řečeno, primárním cílem při konstruování strojů je funkce. U jednoduchých mechanismů i automatů je to samozřejmé, hodinkám nikdo nepřiznává cit. Jak ovšem roste složitost stroje a stává se i pro samotného tvůrce obtížné zdokumentovat všechny vztahy mezi jednotlivými komponentami (zejména, když jsou těmito komponentami programy, které mají za cíl se doplňovat a učit se na základě vnějších podnětů), tak roste ochota vidět ve stroji ducha. Pokud bychom chtěli být přesnější a méně poetičtí, musíme rozlišit inteligenci a vědomí. Obojí se občas u strojů hledá, avšak málokdy se def inuje, co to vlastně je.

Především se zdá zřejmé, že inteligenci a vědomí nelze jednoduše ztotožnit nebo i jenom hovořit o jejich přímé úměře. Mít vědomí není totéž co být inteligentní. Ztrácet vědomí přece neznamená přicházet o inteligenci. A být méně inteligentní neznamená mít méně vědomí. Pokud ovšem nevíme, kudy vede hranice mezi vědomím a ne-vědomím, nebo jakým způsobem se vědomí poprvé probouzí, nemůžeme určit ani hranici mezi strojovým systémem bez vědomí a systémem, který již vědomí má, či se k němu probouzí postupným připojováním dalších prvků.

Naproti tomu, inteligence jako funkce dnes není technicky nesplnitelný problém. V mnoha ohledech by se již dalo říci, že je to zadání v zásadě splněné. Od seriózních rozhodovacích softwarových systémů přes šachové programy a jiné herní strategie až po například pana Sponku z jedné sady kancelářských programů. Vlastně jde jen o míru složitosti, která nám postačí k uznání inteligence.

Samozřejmě nejde o jednoduché primitivní funkce, ale o poměrně složitou síť rozhodovacích procesů, která by mohla mít za následek jako vedlejší produkt vznik vědomí. Otázka pak zní: Jak poznáme, že systém už je tak složitý, že to, co provádí, je důsledkem existence vědomí, nikoli složitých algoritmů naprogramovaných člověkem? Obávám se, že nepoznáme, alespoň ne v takovém smyslu, který se slovu běžně přikládá. Nebudeme totiž moci ukázat, co je v kterém obvodu uloženo a jak se vědomí zapíná. Nebo ještě lépe, nepovede se nám objevit vědomí stroje, dokud ho nedokážeme určit sami na sobě.

Problém definice člověka nás rychle vrací k otázce vědomí a inteligence. A aby to bylo ještě složitější, je třeba vzít v úvahu vyspělou protetiku, která dokáže postupně nahrazovat lidské orgány umělými, a nám opět nezbývá než se ptát, dokdy je z protéz sestavovaný člověk ještě člověk, a kdy už je to stroj. Dokud si ponechá svou hlavu? A co když se povede přenést všechny jeho znalosti a pocity do elektronického mozku?

 

KDYŽ NÁM CHYBÍ KRITÉRIUM

Na přítomnost vědomí můžeme usuzovat zatím pouze z jeho projevů. Nějaký přímý indikátor či detektor ještě vynalezen nebyl. Takže je třeba bedlivě pozorovat chování bytosti a podle toho usuzovat, zda jedná jako robot, nebo jako člověk. Robot má být stroj, který má plnit zadané funkce. Pokud dělá něco navíc, například projevuje city, není to stroj, ale člověk.

Toto kritérium samozřejmě vezme rychle za své, až se stroj naučí city předstírat. Pak může být rozlišovacím znamením nedokonalost/dokonalost. Nedokonalost na straně omylného člověka, bezvadnost a bezchybnost na straně stroje. Vždyť vadné stroje jsou opraveny nebo vyřazeny. Ale kdo by na to vsadil? I obvody mohou zkratovat, snížené napětí povede k defektnímu jednání a zase nedokážeme rozhodnout.

Zbývá ještě jedna možnost. Člověk pochybuje o svých rozhodnutích, váhá, než se k nim odhodlá, kdežto stroj je postaven proto, aby spočítal nejvýhodnější variantu a minimalizoval či zcela anuloval jakoukoli pochybnost. Rozhodnutí stroje je pak nepochybné a zpětně spočitatelné. Člověk naopak mnohokrát neví, proč se rozhodl právě tak. Může jednat intuitivně, a jak se nám doposud zdá, nespočitatelně a nepředvídatelně. Ale už je jasné, že i toto by stroje, zejména ty budoucí, dokázaly zdárně simulovat. Ještě je možné, jako poslední zoufalý pokus, kombinovat všechna tato tři kritéria. Za člověka uznat pouze emotivního, chybujícího a váhajícího tvora a spoléhat na to, že nikdo nebude mrhat finančními a technickými prostředky, aby vyvinul a sestrojil robota, který by váhal, zda se má svým chybám smát, nebo nad nimi plakat.

 

POLITICKÉ ŘEŠENÍ

Celý problém však může mít i jiné než pouze technologické řešení. Zmiňuje se o něm Ondřej Neff: umělá inteligence bude uznána za rovnocennou lidské, až se najde dostatečný počet aktivistů tvrdících, že je třeba duši umělých inteligencí chránit.

Nebylo by to ostatně nic nového a vlastně ani překvapivého. Dnes už i ten největší odpůrce feminismu věří, že žena má duši. A přesto v historicky poměrně nedávné době neměly ženy volební právo, jako by byly méně člověkem. René Descartes by nechápal smysl spolku pro ochranu zvířat — pro něj bylo zvíře pouhým biologickým strojem, mňouknutí kočky, na kterou někdo šlápnul, bylo výsledkem stejného mechanismu jako písknutí píšťaly u varhan, když pomocník šlápl na měch.

Kočky ani ženy nezměnily svou fyziologickou stránku, jsou stále stejným „mechanismem“. Jen společenské hnutí dosáhlo toho, že obé požívá ochrany před týráním a druhé mají ještě navíc i volební právo. Analogicky si tedy lze představit, že bez ohledu na skutečný stav se množství lidí rozhodne, že počítačové programy jistého typu a roboti mají duši a je třeba je ochraňovat. K odinstalování pana Sponky pak třeba budete potřebovat povolení s mnohem větším počtem razítek než k pokácení vzrostlého stromu na vaší zahradě. A velmi pravděpodobně to povolení vůbec nedostanete.

 

Autor přednáší filosofii na FF MU v Brně.

 


autor / Josef Krob VŠECHNY ČLÁNKY AUTORA

Nejčtenější články z tohoto čísla

No limit / Raveboy > NP č.379 > Dějiny přítomnosti Přiznejte se! Kde jste poprvé zaslechli rapování, monotónní elektrorytmus nebo snad dokonce výrazy „techno“, „house“ či „extáze“? Pokud jste v osmdesátých letech nepřijímali západoevropské vysílání, museli jste se s těmito fenomény setkat v hudebních skladbách, které rozvibrovávaly hitparády na počátku devadesátých let a pro něž se následně ujal výraz „eurodance“.   číst dále Bezdomovcem v zemi samurajů / Tomáš Havlín > NP č.379 > Rozhovor Předtím, než se šla Kajoko Jakuwa podívat na stávku odborářů, sešli jsme se k rozhovoru v jedné pražské kavárně. Má bezdomovec duši? A může být samuraj?   číst dále Brno je zlatá loď (alternativy) / Karel Veselý > NP č.379 > Kultura | Hudba Výběr coververzí a remixů Brzo na mě přijde řada připomíná brněnskou alternativní hudbu osmdesátých let optikou jejích současných pokračovatelů, jako jsou Květy, Čokovoko nebo Dva.   číst dále Brazilci v Čechách / Martina Křížková > NP č.379 > Pošli to dál Možná jste si toho také všimli, možná je to jen důsledek nečekané souhry okolností. Po několika pracovních dnech mimo hlavní město, po návštěvě několika vesnic, měst a městeček, kde bylo třeba bavit se s množstvím neznámých lidí, má autorka těchto řádek pocit, že objevila nový český rituál.   číst dále
celý archiv