Myšlenka, zda je stroj schopen skutečně myslet, již určitě napadla mnohé. Co se ale stane, pokud k tomu dojde? Nemůže to znamenat ohrožení lidstva? Nemůžou stroje převzít kontrolu nad pro ně nižší formou života?
Ve své práci bych se chtěl zaměřit na problematiku umělé inteligence strojů blížící se lidské mysli a dále ji rozvinout o možné katastrofické scénáře, ke kterým by mohlo dojít, kdyby opravdu stroje dosáhly nějaké umělé inteligence.
To že se ve dnešním světě bez počítačů prakticky nedokážeme obejít, je všem jasné. Vše se neustále vyvíjí, modernizuje. Na počítače už není nahlíženou jako na hloupou kalkulačku, ale na prvek, který se snaží zlepšovat či zpříjemňovat každodenní život nás všech. Aby k takovému pokroku mohlo dojít, musela se vyvinout určitá umělá inteligence. Díky ní, mohou počítače dělat věci, které byli dřív nemyslitelné. Bez našeho vědomí dnes například není problém, aby vám automaticky vysavač sám uklidil byt, metro jezdilo bez řidiče… Ale dokážou počítače opravdu myslet? A co to vlastně znamená myslet? O těchto otázkách již desítky let vedou diskuze různí matematici, neurologové, filozofové, programátoři, psychologové a další. Každý má nějaký názor pro i proti.
Jak ale rozpoznat že počítač opravdu myslí? Jedním z prvních testů umělé inteligence je tzv. Turingův test z roku 1950. Test probíhá následovně: máme osobu v uzavřené místnosti, ta pomocí papírků komunikuje s dalším objektem v jiné místnosti. V druhé místnosti může být buď počítač, nebo člověk. Osoba v první místnosti to má za úkol rozpoznat. I když je test velmi jednoduchý, nepovedlo se zatím žádnému programu projít na výbornou. Dokonce je pro úspěšného autora programu vypsána Loebnerova cena, která činí 100 tisíc dolarů[1]. Podobných testů je více, ale vždy naráží na složitost a nevyzpytatelnost lidského myšlení.
Když trošku snížíme laťku, tak prvním dobrým důkazem, že počítače jsou schopny alespoň částečně myslet, byla šachová partie mezi Garry Kasparovem a počítačem DeepBlue firmy IBM [2]. Úřadujícího mistra v šachu porazil počítač v roce 1997. Zde si můžeme zkráceně vysvětlit, jak vlastně prozatím počítače myslí. Stroj na to jde hrubou silou. Počítač postupně probere všechny možné tahy, všechny možné odpovědi soupeře, všechny své další tahy, všechny další možné odpovědi soupeře a tak dále. Pokud bychom dali šachovému programu dostatek času, vyhodnotil by všechny možné pozice na šachovnici až do konce hry. Bohužel počet pozic vzrůstá geometrickou řadou s počtem tahů a dostatek času v tomto případě znamená nekonečně dlouhou dobu. Počítač Kasparova porazil, problém je ale v tom, že tento program byl navržen přímo proti Kasparovovi, ladili ho ti nejlepší šachisti v oboru. DeepBlue vlastně nemyslel, pouze zkoušel různé strategie, které měl naučené a propočítával pravděpodobnost na úspěch. Toto se ale událo v roce 1997, dnes již výkon počítačů poskočil mnohem dále. Co daný výkon ještě více znevažuje, je myšlenka, zda důkaz hry šachů je vůbec kritériem pro měření inteligence.
Podle Vernora Vinge umělá inteligence překoná lidskou inteligenci po roce 2020. Vernor Vinge je světově proslulým průkopníkem v oblasti umělé inteligence, který varoval před riziky a příležitostmi, které elektronická inteligence nabízí. Vinge je bývalým profesorem matematiky na San Diego State University, počítačový odborníkem a autore sci-fi titulů [3]. Vinge často mluví o tzv. technologické singularitě. Technologická singularita je spojována s neustále se zrychlujícím tempem rozvoje moderních technologií, a konkrétně v kybernetice a informatice s exponenciálním nárůstem dostupného výpočetního výkonu, který je definován tzv. Moorovým zákonem [4]. Gordon Moor, je spoluzakladatel firmy Intel, jeho zákon říká, že počet tranzistorů na jednom čipu se každých zhruba 18 měsíců zdvojnásobí; nejedná se o přesný fyzikální zákon, nicméně tato věta platí již téměř 50 let. Základní možností vzniku technologické singularity je vytvoření počítače schopného provádět technologický vývoj: takový počítač totiž během dvou let půjde nahradit dvakrát rychlejším modelem, který během jednoho roku dokáže provést další „krok“ vývoje a vytvořit dvakrát rychlejší stroj, za dalšího půl roku… Jednoduše řečeno, čtyři roky od postavení původního stroje bude technologický vývoj probíhat nekonečnou rychlostí - odtud termín singularita.
Technologická singularita je velmi častou zápletkou různých scifi filmů. První zmínkou může být R.U.R od Karla Čapka. Karel Čapek již v roce 1920 přišel s myšlenkou stroje, který se podobá člověku. Nazval ho robot. Když jsem danou knihu četl, žasl jsem nad tím, jakou Karel Čapek měl představivost, jak si zahrával s myšlenkou robota podobného člověku. I když v té době neexistovala žádná koncepce genetického inženýrství, Čapek přišel s robotem jako biologickým strojem. Něco ve smyslu Frankensteinova monstra od Mary Shelley, kdy tito roboti jsou sestaveni jako stroj, místo toho aby rostly. Celý příběh končil tím, že roboti se vzbouřili, povraždili lidstvo ale jediné co jim chybělo, byla možnost se replikovat, množit, kterou jim měl dát jejich tvůrce doktor Alquist. On ale potřebnou formuli neměl. Shodou okolností si předtím zahrával s myšlenkou duše u robotu a ta rozhodla. V úplném závěru se totiž náhodou objeví dva roboti, kteří k sobě cítí lásku. Je to vlastně menší paralela na Adama a Evu, první lidský pár. V tomto případě první robotí pár, který založí nový život.
Filmů s podobnou tématikou je nespočet, každý si určitě pomatuje děsivě monotónní hlas Arnolda Schwarzeneggera ze série Terminátor. Nebo hrozivé agenty z trilogie Matrix. Prozatím jsou tato témata pro filmaře velmi výnosná, ale co když se to může změnit? Co když se film stane realitou?
Já věřím, že tento čas jednou určitě nastane. Jednou ze základních vlastností singularity je že neprobíhá lineárně ale exponenciálně. Vezměme si například menší myšlenkový experiment. Předpokládejme, že dnes máme dvě jablka, zítra budeme mít čtyři jablka, kolik si myslíte, že budeme mít poté? Šest? Ano, ale to myslíte lineárně. Ale je tu další možnost: osm. Jakto? Místo toho, aby se pouze lineárně přidávali dvě předchozí čísla, zkuste vždy aktuálním číslem umocnit číslo dva. Pak dostanete osm místo šesti jako třetí číslo v řadě. Co jsme dostaly, je exponenciální řadou 2^x, která vám poskytne miliardu místné číslo během několika opakování! Lidská mysl je z každodenní zkušenosti zvyklá předpokládat, že všechny modely mají lineární růst, zatímco ve skutečnosti, jak můžeme vidět v různých technologických odvětvích, je růst exponenciální. Stejné pravidlo platí i u dříve zmíněného Moorova zákona. V roce 1971 měl počítačový procesor kolem 2000 tranzistorů [5], dnes mnohé mají přes 2miliardy tranzistorů. Ve vývoji jde jen o to, jak se mění exponent. Podobně rychlý pokrok probíhá i v ostatních oborech jako biotechnologie a nanotechnologie. Kde pomalu začínají vznikat jednoduché stroje velikosti molekul. Díky tomuto vývoji dnes vděčíme za počítače, mobilní telefony i internet. Prakticky vše co si dokážete představit v dnešním světě, bylo tímto zákonem ovlivněno.
Takto rychlý vývoj může mít spoustu výhod, nikdo na planetě by nemusel hladovět, mohli by se vymítit nemoci, život by byl snazší. Co když to ale nepůjde tak růžově? Co když se dostaneme k tomu, že počítač, převezme kontrolu nad lidstvem? Co se stane potom? Tato otázka zní možná nereálně, ale počítače nemusí vůbec nabýt vědomí, nemusí si začít uvědomovat sami sebe, pouze budou plnit strojově kód, který jim zadal člověk. Dva incidenty, které mohly změnit současnou tvář světa, nastaly v roce 1980 v Cheyenne Mouintain, základně NORADU (North American Aerospace Defense Command), kdy jednou chyba programu, který špatně vyhodnotil záblesk od měsíce a podruhé selhání personálu který při testovacích procedurách zapomněl systém přepnout do testovacího módu. Oba incidenty mohly způsobit třetí světovou válku. Strategické bombardéry s jadernou výzbrojí byli již ve vzduchu a jen díky závažnému porušení předpisů zodpovědných pracovníků, byl tento incident zažehnán. Protože jak řekl hlavní hrdina ve filmu Den poté z roku 1983, o jaderné válce mezi USA a SSSR: „nezáleží na tom, kdo vyslal první raketu s jadernou náloží. Svět už nikdy nebude takový jako dřív“.
Výše zmíněné byli ty incidenty, které způsobila nějaká lidská nebo strojová chyba. Co když ale počítač bude naprogramován, aby chránil lidstvo, a on sám vyhodnotí, že lidstvo samotné je hrozbou samo pro sebe i zbytek planety a tvrdou silou ho začne likvidovat. Daný scénář je z filmu podle knihy Isaaca Asimova – Já robot. Roboti v tomto filmu sice mají v sobě zakódovány tři základní zákony, mezi něž patří, že nesmí ublížit člověku a musí ho poslouchat. Jenže centrální počítač našel způsob, jak ho obejít. On sám vlastně nedělal nic špatného, pouze z analýzy dat v globální počítačové síti (internetu) zjistil, že samotné lidstvo škodí samo sobě a vede k záhubě této planety. Proto se daný počítač rozhodl lidstvo značně redukovat. Bylo to špatné nebo nebylo? Vždyť počítač pouze plnil to, k čemu byl stvořen, pomáhat lidem…
Existují momentálně dvě technologie, které mají velkou šanci silně přispět k vývoji umělé inteligence. Za první bych považoval kvantový počítač, který dokáže poskytnout neuvěřitelný výpočetní výkon, prozatím bohužel pouze na papíře[6]. Za druhou technologii, která už ovlivňuje současný vývoj poměrně dlouho, jsou neuronové sítě. Umělé neuronové sítě, jak už název napovídá, jsou inspirovány biologickou nervovou soustavou. Celý systém je založený na velmi vysokém počtů různě propojených prvků, stejně jako neurony v mozku. Každý výpočetní prvek (neuron) obsahuje různé váhy pro jednotlivé vstupy. To znamená, že na začátku síť neví nic, váhy jsou nastaveny náhodně, systém se musí postupně učit stejně jako děti. Poté ale záleží na účelu, kterému jsou určeny a učeny. Nakonec může neuronová síť výborně sloužit k rozpoznávání obrazu, zvuku, převodu zvuku na text, automatickým systémům k obchodování s akciemi a dalším účelům, u kterých obyčejné algoritmické zpracování selhává nebo je příliš pomalé.
Výše zmíněné technologie by v delším časovém hledisku mohli vést k něčemu zlomovému, a to že počítače nabudou opravdového vědomí. A stejně jako my jsme nyní na vyšším inteligentním stupni vývoje a díky svým schopnostem dominujeme zvířatům, nemohli by počítače dominovat nám? Nemohlo by nastat podobný scénář jako ve filmu Matrix, že po prohrané válce strojů s lidstvem, si stroje zotročí lidskou populaci a budou jí využívat jako zdroj energie? A mohli bychom tomu vůbec zabránit? Pro mnohé z nás je jistě schůdnější představa, že by nám vládl nějaký vševědoucí stroj, než že bychom byli pod útlakem tyranů typu Hitler či Stalin. Ale od těchto tyranů jsme alespoň mohli očekávat, s čím přijdou. U strojů to bude problém.
Když si vše shrneme, je jasné, že dnes bychom se bez počítačů nedokázaly obejít. Počítače nás obklopují na každém kroku, spoléháme na ně. I když se většina z nás setkává dennodenně s elektronikou, která si dělá, co chce, nebo spíš jen nedělá to, co chceme my. Nelze ještě říct, že stroje myslí, že jsou inteligentní. Ale stejně jako věřím, že mezi miliardami miliard hvězd ve vesmíru existuje planeta s inteligentním životem, tak věřím, že lidé budou schopni ať úmyslně, či neúmyslně vytvořit inteligentní stroj který překoná ve všech ohledech člověka. Jestli to bude konec lidské populace, jak ji známe, je už pouze a pouze na nás. To ukáže až čas.
Zdroje
[1] Loebner.net [online]. 26 October 2007 [cit. 2011-01-06]. Home Page of The Loebner Prize in Artificial Intelligence. Dostupné z WWW:
[2] Voců, Michal. Šachový šampión poražen počítačem IBM. Ikaros [online]. 1997, roč. 1, č. 3 [cit. 08.01.2011]. Dostupný na WWW:
[3] mindstalk.net [online]. 9 March 1995, 4 Aug 2010 [cit. 2011-01-07]. Singular Vernor Vinge Fan Page. Dostupné z WWW:
[4] KAPLAN, Jeremy A. . Foxnews.com [online]. 4 January 2011 [cit. 2011-01-09]. 45 Years Later, Does Moore's Law Still Hold True?. Dostupné z WWW:
[5] Gizmodo.com [online]. 10 December 2007 [cit. 2011-01-08]. Intel Chips 1971 to 2007. Dostupné z WWW:
[6] Bristol.ac.uk [online]. 16 September 2010 [cit. 2011-01-09]. Optical chip enables new approach to quantum computing. Dostupné z WWW:
Žádné komentáře:
Okomentovat