�

Človek verzus stroj: „strojové učenie“ a jeho vplyv na modernú spoločnosť

Katarína Sklutová

Sklutová, K.: Človek verzus stroj: „strojové učenie“ a jeho vplyv na modernú spoločnosť. In: Ostium, roč. 15, 2019, č. 2.

Human vs. Machine: „Machine Learning“ and its Impact on Modern Society

The main aim of this essay is to reflect on the importance of modern technologies in our society and to analyze their impact on humans. In the essay, we focus on artificial intelligence, which is governed by the latest „deep learning“ method. It is undeniable that this type of artificial intelligence is increasingly becoming part of society and our everyday life. It is used in medicine, in the judiciary, in autonomous cars, but also in various social networks. In many cases, artificial intelligence begins to control our lives. In the first part we briefly describe this type of artificial intelligence and machine-learning in general. In the second and third part of the essay, we focus primarily on the negative consequences of the impact of artificial intelligence on humans, and we try to suggest possible ways to develop technological advancements in machine-learning. In conclusion, we consider the question: who we are, focusing on the biological dimension of human beings in relation to artificial intelligence.

Key words: Artificial Intelligence, Human, Machine-learning, Society, Technology

Úvod

„Strojové učenie“ (machine learning) je v súčasnosti jednou z najprogresívnejších podoblastí vedeckého výskumu umelej inteligencie.[1] Zakladá sa na štúdiu a tvorbe algoritmov, ktoré sa môžu modifikovať bez ľudského zásahu. Tieto „samoučiace sa“ algoritmy využívajú počítačové systémy na riešenie rôznych sofistikovaných úloh vyššieho rádu. Pod vyšším rádom rozumieme tú skutočnosť, že stroje sú programované tak, aby vyhodnocovali situácie, robili predikcie a rozhodnutia bez vopred zadefinovaného príkazu externého programátora. Slovom, v strojom učení použijeme jeden zo samoučiacich sa algoritmov,[2] ktorý poskytuje počítačovým systémom možnosť automaticky sa učiť bez toho, aby museli byť zakaždým programované.

Počas svojej relatívne krátkej histórie[3] sa toto vedecké štúdium posunulo míľovými krokmi vpred. Cieľom tejto eseje je pokus o reflexiu pozitívnych, no predovšetkým negatívnych faktorov, ktorými moderná technológia ovplyvňuje ľudskú spoločnosť a ľudské indivíduá. K napísaniu tejto eseje nás motivovala publikácia Technology vs. Humanity od autora Gerda Leonharda (nar. 1961), súčasného futuristu švajčiarskeho pôvodu.[4]

Nové výzvy pre novú epochu

Súčasní odborníci upozorňujú na skutočnosť, že v posledných tisícročiach sa ľudská spoločnosť ocitá na prahu novej epochy, tzv. antropocénu,[5] nazývanej aj ako „éra človeka“. Jeden z hlavných dôvodov, prečo vedci hovoria o nevej ére, je fakt, že ľudia a ich domestikované zvieratá tvoria v súčasnosti 98 percent živej populácie na planéte. Pritom na začiatku obdobia poľnohospodárstva, približne pred 10 000 rokmi, tvorili len 0,1 percenta populácie. Ide tak o jednu z najrýchlejších biologických zmien, ktorú Daniel Dennett nazýva „explóziou MacCreadyho“ a ktorá zásadne menila a mení svet na globálnej úrovni. Jednou z hlavných príčin týchto zmien je podľa Dennetta práve technológia, ktorá umožnila veľký nárast ľudskej populácie.[6]

Antropocén má viacero charakteristík, no jednou z najvýraznejších je v súčasnosti transhumanizmus, filozoficko-kultúrne hnutie, ktoré skúma dôsledky stierania hranice medzi „ľudským“ a „umelým“ typom existencie. Takéto stieranie hraníc môže viesť k vylepšovaniu človeka skrze najnovšie sofistikované technológie. Cieľom transhumanizmu je postupná eliminácia všetkých chorôb, zmierňovanie nežiaducich dôsledkov staroby či odďaľovanie smrti, teda prekonanie našich biologických „obmedzení“ a snaha vytvoriť „super-človeka“. To vyvoláva viacero otázok: Kto si bude môcť tieto vylepšenia dovoliť? Kto bude z vylepšovania človeka profitovať? Bude to široká verejnosť alebo spoločnosti, ktoré dané technológie vytvárajú? Staneme sa lepšími ľudskými bytosťami alebo budeme niekým celkom iným? Ako stanoviť hranicu, ktorá určí, čo nás ešte robí ľudskými bytosťami a kedy sa už naša ľudskosť stráca? Čo nás, v konečnom dôsledku, robí ľuďmi, resp. ľudským druhom? Pri napredovaní technologického pokroku si treba tieto otázky neustále ujasňovať a otvorene o nich diskutovať. Priveľké nadšenie môže potom viesť k provokatívnym otázkam, ako sú napríklad: Koľko bude človek schopný zaplatiť za 20, 30, 40 rokov života? Filozofia tohto typu, akou sa riadi predovšetkým Silicon Valley,[7] nie je ničím iným než obchodnou záležitosťou a jej hlavným cieľom je z technologického pokroku čo najviac profitovať.[8] Tieto problémy a otázky sa netýkajú len hnutia transhumanizmu, ale súvisia najmä s rýchlym vývojom v oblasti umelej inteligencie, ktorým sa budeme v eseji primárne zaoberať.

Učiaci sa stroj – čo to vlastne je a kde všade sa nachádza?

Úvahy o oživených a inteligentných ľudských výtvoroch nie sú nové a siahajú k počiatkom ľudskej civilizácie – stačí uviesť postavu Golema, známu zo židovského folklóru, alebo inteligentné lode Fajákov v Homérovom epose Odyssea (VIII. 556 – 562).[9] Úvahy o umelej inteligencii neboli len záležitosťou eposov, ale neraz sa ňou zaoberali aj filozofi ako napr. Hobbes, Leibniz, Hume alebo Kant. Do 20. storočia však nemožno hovoriť ani tak o filozofických predstavách umelej inteligencie, ako skôr o myšlienkach týkajúcich sa ľudskej mysle. Je preto potrebné dodať, že týchto filozofov zaujímali výhradne formálne aspekty myslenia, akými sú kalkul a výpočet.[10] Rozdiel medzi starými predstavami a súčasnosťou je v tom, že dnes tieto umelé stroje a výtvory nežijú len vo svete ľudskej fantázie, ale sú reálne prítomné a ovplyvňujú náš každodenný život. Nejde pritom len o kalkulačky alebo stroje, ktoré sa riadia jednoduchými inštrukciami, ale o stroje, ktoré sa vyznačujú čoraz väčšou autonómnosťou. Dokážu sa samostatne učiť.

Medzi takéto učiace sa stroje patria rôzne typy zariadení, z ktorých sú najznámejšie kvantový počítač WATSON a počítačový program ALPHAGO. Tieto učiace sa stroje sú definované metódou tzv. „hĺbkového učenia sa“ (deep learning), ktorá je najznámejšou paradigmou strojového učenia sa.[11] Metóda „hĺbkového učenia sa“ predstavuje de facto stále sa zdokonaľujúce neurónové siete (neuronal network), ktorých inšpiráciou je ľudský mozog a jeho štruktúra. Teória neurónových sietí tak primárne vychádza z neurofyziologických poznatkov – z napodobňovania funkcií ľudských neurónových sietí prítomných v mozgu.[12] Na druhej strane, bežné počítače fungujú na báze softvéru, ktorý je vopred vytvorený programátormi a ktorý funguje na princípe po sebe nasledujúcich inštrukcií (napr. „ak je splnená podmienka A, urob B“).

Učiace sa stroje založené na hĺbkovom učení sa však disponujú softvérom, ktorý sa sám učí na základe veľkého množstva dát, ktoré získavajú buď prostredníctvom programátorov alebo samostatne, napr. cez internetovú sieť. Stačí im teda stanoviť jeden hlavný cieľ (napr. „vyhraj hru Mário“), ku ktorému sa následne dokážu prepracovať vlastnými, od programátora nezávislými postupmi. Inak povedané, učiace sa stroje, akými sú WATSON alebo ALPHAGO, dokážu napr. súperiť s ľuďmi v rôznych vedomostných súťažiach. V posledných rokoch sa testuje ich funkcionalita nielen pri hrách a vedomostných súťažiach, ale aj v zdravotníctve, justícii a prakticky v každej oblasti spoločenského života (rôzne aplikácie, mobilné zariadenia, autonómne autá, digitálni asistenti a pod.).

Tieto úspechy v zavádzaní najnovších technológií do každodenného života reflektujú bádatelia rôznymi spôsobmi. Niektorí opatrne poukazujú na fakt, že moderná technológia sa stáva novým, neviditeľným, a preto nedôveryhodným základom našich životov.[13] Iní zasa nadšene tvrdia, že umelá inteligencia vlastne funguje na tom istom princípe, na akom aj ľudská myseľ, naše vedomie a život vôbec – na algoritme.[14]

Hranica medzi „človekom“ a „strojom“ sa neustále zužuje, a to do takej miery, že už pomaly nevieme rozoznať, či komunikujeme cez telefón a e-mail so strojom alebo človekom. Umelá inteligencia sa postupne stáva našou každodennou súčasťou – stáva sa nielen externou súčasťou ľudských bytostí, ale čoraz častejšie preniká aj do oblasti nášho „ducha“, t. j. do našich kognícií a mentálnych procesov. Tento fenomén sa zvykne označovať ako zinteligentňovanie.[15]

„Éra zinteligentňovania“ a jej vplyv na modernú spoločnosť

V prvom rade treba upozorniť na skutočnosť, že éra zinteligentňovania má viacero negatívnych stránok. A to nielen z hľadiska zneužívania strojového učenia v oblasti marketingu, ale aj z psychologického a filozofického hľadiska. Budeme sa sústrediť nielen na manipuláciu ľudí skrze najnovšie technológie, ktorá speje do štádia tzv. „digitálnej nahoty“, ale stručne poukážeme aj na postupné vytváranie závislostí od daných technológií.

Strojové učenie sa prakticky začína rozširovať do všetkých oblastí marketingu a obchodu. Jeden z hlavných dôvodov, ktorými firmy a obchodníci zdôvodňujú ich využívanie, je požiadavka vyhovieť očakávaniam zákazníkov. Musíme pripustiť, že takýto prístup môže mať svoje pozitívne stránky. Napríklad nástroj na vyhľadávanie potravín Spoon Guru ponúka mobilnú aplikáciu, v ktorej je zakomponovaná umelá inteligencia pomáhajúca alergikom zistiť, ktoré výrobky v obchode obsahujú zložky kompatibilné s ich alergiami. Vďaka tejto aplikácii môžu zákazníci zistiť, či potraviny obsahujú orechy alebo lepok. Hlavnou úlohou aplikácie je teda skenovať čiarové kódy na výrobkoch.[16] Odvrátenou stranou takéhoto využívania strojovej inteligencie je však manipulácia s osobnými dátami zákazníkov. Aplikácia pomáha obchodníkom zistiť, ktorý produkt sa najviac predáva, prípadne kto si daný produkt kupuje – umelá inteligencia by tak mala napríklad disponovať dátami o vekovej skupine spotrebiteľov. Na to však, aby umelá inteligencia vytvárala tie najpresnejšie analýzy, potrebuje čo najväčšie množstvo osobných dát. Kumulovaním osobných dát s cieľom dosiahnuť zisk veľké firmy nepriamo manipulujú a ovplyvňujú svojich zákazníkov.

Ďalší príklad, keď sa zinteligentňovanie stáva manipulatívnym nástrojom v rukách majiteľov veľkých korporácií, je oblasť herného priemyslu. Tu sa umelá inteligencia využíva s cieľom predvídať správanie zákazníkov pomocou veľkého množstva osobných dát získaných od hráčov počítačových hier bez toho, aby si to uvedomovali. Používa sa napríklad na vypočítavanie správneho alebo vhodného momentu vydania nejakej hry na spotrebiteľský trh – z dôvodu zvýšenia predajnosti. Hlavnou myšlienkou tejto umelej inteligencie je „premeniť hráčov na platiteľov“.[17] Práve vysoký stupeň autonómie umelej inteligencie umožňuje takéto ovplyvňovanie ľudí – zákazníkov, konzumentov. Značne vplýva aj na voličov prostredníctvom politických kampaní na internete v podobe automatických reklám, ktoré môžeme označiť za manipulačné a obmedzujúce osobnú slobodu. To môže viesť k strate súkromia a následnému zneužitiu osobných dát.

Jedným z najväčších problémov tejto oblasti sa stáva predaj kvantitatívnych údajov zo sociálnych sietí tretím a štvrtým stranám, ktoré nemajú jasne zadefinovanú politiku využívania týchto údajov. Takýto škandál sa stal v roku 2018 spoločnosti Facebook, ktorá poskytla technologickým spoločnostiam ako Microsoft, Netflix, a Spotify prístup k osobným dátam desiatok miliónov používateľov bez ich povolenia. Preto je zrejmé, že prvoradou úlohou sociálnych médií v súčasnosti nie je snaha o súkromie a bezpečnosť ich používateľov.[18] Podľa nášho názoru sa dá tento prípad generalizovať na celú internetovú sieť. V súčasnosti je preto dôležité, aby si ľudia, ktorí využívajú internet, uvedomovali možné riziká a premýšľali o tom, aké osobné údaje zverejnia. Všetky druhy informácií – vrátane obrázkov, dokumentov, hudby či filmov – sa dnes zálohujú prevažne do „cloudových úložísk“[19] a mobilné zariadenia majú ľahký prístup k našej polohe, fotoaparátu či k rôznym osobným súborom. Máme však k našim dátam bezprostredný prístup len my?

Strata súkromia cez monitorovanie ľudí, ľahký prístup k ich osobným údajom a absencia akéhokoľvek súkromia – to sú iba niektoré z problémov, ktoré viedli k vytvoreniu pojmu tzv. digitálnej nahoty. Najnovšie štúdie napríklad ukazujú, ako ľahko sa dá zistiť správanie používateľov len z údajov o ich polohe pomocou strojového učenia sa. Systém POI (Point of Interest Prediction) využíva údaje o správaní sa ľudí z dát Wi-fi na modelovanie a predvídanie ich aktivít v rozličných časoch a lokalitách.[20] Umelá inteligencia tak nadobúda čoraz väčšiu schopnosť predvídať konanie a potreby ľudí. Jedným z príkladov takéhoto predvídania je stále sa rozvíjajúca oblasť digitálnych asistentov, akými sú napr. Google Home a Google Now. Títo asistenti nás informujú, aké je počasie ešte predtým, než začneme svoj deň, naplánujú nám celý rozvrh, večeru či dovolenku. Na to však, aby nám mohli čo najlepšie naplánovať jednotlivé činnosti alebo nám povedať informácie o počasí či cestnej premávke, musia disponovať čo najpresnejšími informáciami o našej osobe, ktoré sú a budú uložené do – už spomenutých – cloudov. Digitálni asistenti tak v konečnom dôsledku nie sú len našimi pomocníkmi, ale stávajú sa naším druhým ja. To môže dospieť do štádia absolútneho sledovania ľudských indivíduí a celej spoločnosti. Ak je možné „nabúrať sa“ do počítača, čo bráni tomu, aby sa niekto nabúral do nášho digitálneho asistenta? Bude potom existovať ešte niečo, čo o mne nikto nevie? Staneme sa digitálne nahí?

Ďalším príkladom negatívneho vplyvu moderných inteligentných technológií na človeka je vytváranie nových foriem závislostí. Ide predovšetkým o vytváranie citovej väzby človeka k stroju. Čím sú moderné stroje sofistikovanejšie, tým intenzívnejšie sú aj interakcie medzi ľuďmi, mobilmi, sociálnymi sieťami či digitálnymi asistentmi. Zaujímavým príkladom je počítačový program ELIZA, zostrojený Josephom Weinzenbaumom (1923 – 2008). Tento program fungoval ako tzv. chatbot, ktorého cieľom bola konverzácia s ľuďmi. Weinzenbaum doňho zakomponoval scenár, ktorý mu umožnil, aby pri konverzácii zohrával úlohu rogeriánskeho psychoterapeuta – mal pacientovi opakovať otázky, ktoré mu pacient sám pokladal. Program tak fungoval na princípe vopred stanových inštrukcií a pravidiel. Napriek tomu zožal veľký úspech, a to až do tej miery, že sám Weizenbaum bol šokovaný, ako sa ľudia naň citovo naviazali a ako ho antropomorfizovali.[21] V súčasnosti existujú viaceré programy takéhoto typu – ALEXA, CORTANA alebo najznámejší z nich SIRI od spoločnosti Apple. Ide o digitálnych asistentov, ktorí sú oveľa sofistikovanejší ako ELIZA. Antropomorfizovanie je jeden z kľúčových momentov, keď sa celkom odstraňujú rozdiely medzi ľudskou bytosťou a umelou inteligenciou. Tomuto problému sa budeme viac venovať v závere eseje.

Hľadanie rovnováhy v technologickom pokroku – potreba edukácie

S novými sociálnymi problémami, ktoré umelá inteligencia generuje, musíme hľadať aj nové riešenia. Spoločnosť a jednotlivci – ako používatelia, ktorí prichádzajú s učiacimi sa strojmi do každodenného kontaktu – by nemali zohrávať rolu pasívnych príjemcov hotových produktov. Domnievame sa, že na to, aby sme dokázali adekvátne reagovať na proces vytvárania umelej inteligencie, treba poznať, ako táto inteligencia funguje. Vďaka tomuto poznaniu ju budeme môcť kontrolovať a v prípade núdze vypnúť, resp. deaktivovať.

Myšlienka, že poznanie, ako funguje umelá inteligencia, je privilegovaným poznaním, ktoré patrí iba špeciálnym vedcom a technikom, je nebezpečná. Takýto prístup môže vyústiť až do technologického analfabetizmu, ktorý opäť zvýhodňuje monopolné spoločnosti, akými sú Google či Facebook. Z tohto dôvodu považujeme vzdelávanie v oblasti nových technológií za jednu z najdôležitejších zbraní voči negatívnemu vplyvu umelých inteligencií.[22] Koľko ľudí napríklad vie, kde všade sa umelá inteligencia využíva? Ako rozpoznať hranicu medzi zobrazovaním náhodných reklám na sociálnej sieti Facebook a cieleným zobrazovaním personalizovaných reklám, ktoré zapadajú do presného rámca toho, k čomu inklinujeme (napr. filmy, hudba, politické názory a pod.)? Neschopnosť podať adekvátnu odpoveď na tieto otázky nás môže priviesť až do štádia straty kontroly – technológia bude ovládať nás a nie naopak. Toto štádium môže vyústiť len do dvoch možností: tým, že nebudeme môcť sledovať logiku systému, ho budeme musieť buď pasívne prijímať, alebo úplne odmietnuť.[23]

Ani jedna z týchto krajností nie je žiaduca. Úplné odovzdanie sa do rúk technológií môže byť nebezpečné, a dokonca niekedy až fatálne. Predstavme si situáciu, keď sa nachádzame vo vozidle riadenom autopilotom. V prípade nehody bude autopilot kalkulovať, koľko osôb zahynie, ak sa vyhne zrážke on, alebo ak sa vyhne zrážke ten druhý. Ak sme v aute náhodou sami a v druhom aute sú dve osoby, dáva to autopilotovi právo „odsúdiť“ nás na smrť tým, že strhne auto do priekopy? Problematickými sa javia aj kriminálne súdne systémy, využívané sudcami a policajtmi. Takéto systémy nie sú dokonalé a môžu vykazovať diskriminačné predsudky, ako sa to stalo v prípade Google služieb.[24] Prípad, keď pri rozsudku zohrával kľúčovú úlohu súdny systém, sa stal v roku 2013 v USA. Eric. L. Loomis bol odsúdený na šesť rokov väzenia. Správa v prípade Loomisa bola vyrobená kriminálnym súdnym systémom COMPAS, ktoré predáva spoločnosť Northpointe Inc. Zahŕňala rad grafov, ktoré na základe hodnotenia možných rizík predpovedali, že Loomis by pravdepodobne spáchal ďalšie zločiny.[25] Táto správa zohrávala rozhodujúcu úlohu pri jeho odsúdení, čo sa neobišlo bez otázok. Nikto napríklad presne nevedel, ako COMPAS funguje, pretože sa spoločnosť ohradila, že ide o výrobné tajomstvo – z tohto dôvodu sa edukácia v oblasti umelej inteligencie stáva čoraz potrebnejšia a naliehavejšia. Loomis tak mohol spochybniť hodnotenie systému a brániť sa voči nemu. Do akej miery by teda mali sudcovia veriť a zohľadniť pri rozsudku výsledok systému, do ktorého nemajú možnosť vidieť? Správa spoločnosti ProPublica dospela k záveru, že COMPAS predpovedá, že ľudia tmavej pleti, ktorí sú obžalovaní, budú mať vyššie riziká recidívy, než ľudia svetlej pleti.[26] Bol to tak rozhodujúci bod aj v prípade Loomisa alebo tam zohrávali úlohu najmä „nestranné faktory“? Podobne ako pri príklade s autom sa môžeme pýtať: dáva „právo“ kriminálnemu súdneho systému odsúdiť nás na niekoľko rokov väzenia?

Na základe vyššie uvedených prípadov je teda dôležité uvedomiť si jeden fakt – umelá inteligencia môže byť v mnohých prípadoch presná, ale to nevyhnutne neimplikuje, že je neomylná a že jej výsledok nebude skreslený. Napriek tomu, že sa umelá inteligencia, založená na strojovom učení, vyznačuje veľkou mierou autonómnosti, je v konečnom dôsledku vytvorená ľudskými bytosťami: „Súčasťou výzvy pochopiť algoritmický útlak je aj pochopiť, že matematické formulácie na riadenie automatizovaných rozhodnutí robia ľudské bytosti. (…) niektorí ľudia, ktorí rozvíjajú vyhľadávacie algoritmy a ich architektúru, sú ochotní otvorene propagovať sexistické a rasistické postoje na pracovisku, ako aj mimo neho, zatiaľ čo my máme veriť, že tí istí zamestnanci vyvíjajú ‚neutrálne‘ alebo ‚objektívne‘ rozhodovacie nástroje.“[27]

Technologickí nadšenci často poukazujú na neomylnosť stroja, a naopak na omylnosť človeka. Ale čo urobíme v prípade, ak stroj prestane fungovať podľa našich predstáv, prípadne urobí fatálnu predikciu, ktorú by sme neočakávali? To sú reálne problémy a hrozby, s ktorými sa vo vývoji umelej inteligencie skutočne stretávame. Tieto príklady nás napokon privádzajú k zásadným otázkam: môže stroj, ktorý nie je človekom, rozhodovať o živote a vine človeka? Je možné takýto stroj, v prípade, že zabije človeka, súdiť? Kto bude vinný? Zároveň je dôležité položiť si otázku, kto má predstavovať obraz spravodlivosti – sudca (človek) alebo systém (stroj)? Mali by sme dať stroju kontrolu nad ľudským životom? Do istej miery to robíme už dnes – napríklad už v spomenutom prípade autopilota alebo v zdravotníctve, keď operáciu vykonáva stroj.

Pokiaľ ide o obavy, do akého štádia by sa mala umelá inteligencia vyvinúť, ľudia si často predstavujú scenáre ako zo sci-fi filmov. Nie je to však umelá inteligencia, ktorá sa obráti proti nám, ale ľudia, ktorí ju zneužívajú. Vo vzťahu človek-stroj je práve prvý menovaný činiteľ tým, kto predstavuje skrytú hrozbu (napr. už spomenuté získavanie a následné zneužitie osobných údajov, manipulácia, hacknutie našich digitálnych asistentov a pod.).

Vplyv na vývoj umelej inteligencie tak nesmie byť záležitosťou len privilegovanej vrstvy obyvateľstva, ktorá ním sleduje vlastné ekonomické záujmy, líšiace sa od záujmov spojených s trvalo udržateľným životom a mierom v spoločnosti. Ako uvádza Leonharda: „tak ako priveľa opatrení zabráni pokroku a inováciám, priveľká proaktivita oslobodí niektoré silné a pravdepodobne nekontrolovateľné sily, ktoré by sa mali zatiaľ držať pod kontrolou.“[28] Je preto dôležité, aby sme v diskusii o technologickom pokroku v umelej inteligencii sledovali nielen jeho pozitívne, ale aj negatívne stránky. Nájsť spoločnú reč v otázkach budúcnosti technológií, ktorá napokon bude viesť k rozumnému pokroku v tejto rýchlo sa vyvíjajúcej oblasti, je jedný z najdôležitejších cieľov, ktorý by si moderná spoločnosť mala stanoviť. Iba tak budú môcť technológie slúžiť k zlepšeniu života človeka a len tak budeme smerovať k lepšej spoločnosti. Podmienku tohto optimistického scenára tvorí potreba edukácie v oblasti želateľných a neželateľných efektov umelej inteligencie na náš každodenný život.

Kto je človek? (namiesto záveru)

Predpokladajme, že technologický pokrok je dedičstvom celého ľudstva ako druhu, ktorý obýva Zem. Ako sme spomenuli vyššie, z hľadiska transhumanizmu je diskusia o umelej inteligencii súčasťou diskusie o ľudskej podstate, o tom, čo nás robí ľudskými bytosťami. Vývoj v oblasti umelej inteligencie, ktorý sa spája so strojovým učením, nás stavia pred otázky typu: Ako funguje naše telo, náš mozog? Sme predprogramovaní, alebo sa vieme slobodne rozhodovať či slobodne myslieť? Je človek len „lepší stroj“? Aký je vzťah človeka a stroja, resp. umelej inteligencie? Môžu stroje myslieť a správať sa rovnako (ne)inteligentne ako my?

Na to, aby sme tieto otázky aspoň čiastočne zodpovedali a aby sme mohli analyzovať vzťah človeka k umelej inteligencii a jej vplyvu na nás, je dôležité pokúsiť sa nanovo zodpovedať otázku: kto je človek? Táto otázka je nadčasová. Napriek množstvu rôznych odpovedí na ňu neexistuje jednoznačná odpoveď. Odpovede sa totiž líšia na základe toho, kde a v akom kontexte pojem človeka používame. Zároveň bude táto otázka aktuálna dovtedy, kým bude existovať ľudský druh. Ako tvrdil Emerich Coreth (1919 – 2006), pýtanie sa patrí k zvláštnym výsadám ľudskej podstaty, je naším údelom – údelom človeka, ako bytosti, ktorá si je vedomá svojej existencie.[29] Práve tým sa líšime od iných živých bytostí. Odpoveď, ktorú nachádza v kontexte problému transhumanizmu a „strojového učenia“, sa bude odvíjať od akcentovania biologického rozmeru človeka. Nazdávame sa, že práve tento rozmer človeka – t. j. jeho biologická podstata – je vo vzťahu k umelej inteligencii najzásadnejší.

Umelú inteligenciu tvoríme spôsobom, akým myslíme. A naopak, umelá inteligencia nám istým spôsobom umožňuje lepšie pochopiť samých seba a to, ako funguje naše telo, náš mozog. Na jednej strane sa snažíme pretvoriť človeka na výkonnejší stroj, no na druhej strane antropomorfizujeme stroje. Táto situácia speje do štádia, v ktorom pomaly zabudneme na dôležitý fakt – na biologický rozmer našej ľudskej podstaty. Biologické procesy však nevyhnutne nemusia mať charakter mechanického stroja. Fakt, že človek je biologickou bytosťou znamená, že je súčasťou prírody, ktorá nie je nevyhnutne mechanická a v ktorej všetky druhy, vrátane ľudí, prešli istým evolučným procesom trvajúcim miliónov rokov.[30]

Na základe evolučného procesu sa vyvinula kultúra a spoločnosť. Človek ako jediný biologický druh disponuje kultúrou, etickými normami a hodnotami. Je to niečo, čím sa líšime od ostatných živých bytostí – aj napriek tomu, že primitívne formy kultúry sa objavujú aj v prírode – a čo nás zásadne odlišuje od umelej inteligencie a strojov. V súčasnosti to viacero vedcov (ktorí vidia silné analógie medzi človekom a strojom) neberie do úvahy.

Predpokladajme, že človek sa snaží vytrhnúť zo svojho biologického tela, zo svojej konečnosti a pominuteľnosti, že sa chce „nahrať do počítača“, do virtuálnej reality, v ktorej by mohol žiť večne a idylicky. Nezabúdame pritom na skutočnosť, že sme súčasťou prírody a spoločnosti, teda súčasťou skutočného sveta. Ako upozorňuje Leonhard: „Toto prirodzené napätie medzi človekom a strojom nemôže technológia vyriešiť, ani keby vedela simulovať celý ľudský mozog a jeho 100 miliárd neurónov. Súcit a šťastie, ako aj vedomie, jednoducho neexistujú len z biologického alebo chemického hľadiska, ale v celostnej súhre všetkého, čo tvorí človeka.“[31]

Ak sa zamyslíme nad ľudskou podstatou z takéhoto komplexného hľadiska, tak zistíme, že sú to práve naše nedostatky, či už biologické alebo morálne, ktoré z nás robia ľudské bytosti. Pomýliť sa v usudzovaní, robiť chyby, na základe ktorých sa stále učíme niečo nové, dokonca aj naša smrteľnosť – to všetko patrí k ľudským bytostiam a k biologickému životu ako takému.

Ľudia sú biologické bytosti vytvárajúce kultúru. Až keď si uvedomíme túto skutočnosť a prijmeme našu biologickú podstatu, budeme vedieť regulovať narastajúci pokrok v umelej inteligencii a plne si uvedomíme, čo znamená byť človekom. Človek sa neskladá len z génov, ako to tvrdia genocentristi (napr. Dawkins). Redukciou nespoznáme to, čo z nás robí ľudí. To spoznáme až pri nahliadnutí na človeka ako na celostnú biologickú bytosť. Táto bytosť sa vyvinula do určitého štádia, v ktorom sa ako jediný druh na planéte riadi etickými kódexmi a hodnotami, vytvára kultúru, sociálne interakcie či vzťahy a uvedomuje si samého seba.

Umelú inteligenciu však žiadna z týchto vecí necharakterizuje. Aj keby technológia dokázala dokonale simulovať ľudské emócie (napr. súcit), nikdy nemôže byť a nebude súcitná. Stroj daný cit prinajlepšom len dobre simuluje. Netreba si zamieňať dobre vykonanú simuláciu s aktuálnou bytosťou, zamieňať algoritmické cítenie za aktuálne pocity.[32] Skutočné pocity nemožno naprogramovať. Vyvíjajú sa v nás postupne, od narodenia po celý život. Z jednej strany sú zapríčinené naším biologickým vývojom a genetikou a z druhej strany sú ovplyvňované a tvorené kultúrou, v ktorej sme vyrastali a v ktorej žijeme. Ak naprogramujete umelej inteligencii vlastnosť „byť vtipný“, nebude sa namiesto toho správať seriózne, nahnevane a nekomunikatívne, nezmení sama od seba svoj pohľad na svet, svoju povahu. Môže sa naučiť to dokonale simulovať, až tak, že to nebudeme vedieť rozoznať. No umelá inteligencia, ktorá je založená na strojovom učení, je schopná simulovať jednotlivé emócie iba preto, lebo jej bola stanovená takáto úloha, t. j. úloha lepšie spoznať a naučiť sa ľudské emócie. Neprejavuje tieto emócie na základe vlastných pocitov, nedisponuje biologickým telom, nedisponuje biologickým mozgom a predovšetkým neprešla evolučným a kultúrnym vývinom, akým prešla ľudská bytosť.

Tvrdenie niektorých vedcov, vývojárov a nadšencov technologického pokroku, že umelá inteligencia je prirodzeným pokračovaním ľudskej evolúcie, je podľa nás nesprávne. Nemala by byť ďalším, samostatným druhom, ktorý budeme slepo poslúchať a nemali by sme sa ani pokúšať takýto stroj vytvoriť. Mala by byť náš dobrý a výkonný sluha, naša predĺžená ruka, ale určite nie náš pán, nemala by za nás rozhodovať, ako sa stalo v prípade súdneho systému COMPAS. Naše úvahy ukončime Tallbotovou myšlienkou: „Všetko závisí od nášho smeru pohybu, či už smerom k väčšiemu vedomému výberu alebo k väčšej podriadenosti veciam, ktoré nás vedú.“[33]

L i t e r a t ú r a

BLUMENTHAL, E.: Facebook’s Latest Privacy Scandal: What We Know About The Company’s Handling of User Data. [online]. Cit. 22. 2. 2019.

URL: https://eu.usatoday.com/story/tech/2018/12/19/facebooks-latest-privacy-scandal-what-we-know-now/2361257002/.

BRIEN, D.: Computers, The Internet, and the Abdication of Consciousness – an Interview with Stephen Talbott. [online]. Cit. 3. 1. 2018. URL: http://natureinstitute.org/txt/st/jung.html.

CORETH, E.: Co je člověk? Praha: Zvon 1994.

DENNETT, D.: From Bacteria To Bach. UK: Penguin Books 2018.

DOMINGOS, P.: Our Digital Doubles. In: Scientific American, vol. 319, September 2018, s. 80 – 85.

HARARI, Y. N.: Homo Deus (stručné dějiny zítřka). Praha: Leda 2017.

HOROWITZ, Brian T.: 8 Ways Artificial Intelligence Is Revolutionizing Retail. [online]. Cit. 18. 2. 2019. URL:https://www.pcmag.com/feature/366279/8-ways-artificial-intelligence-is-revolutionizing-retail.

LEONHARD, G.: Technológia vs Humanita. Bratislava: Slovenská inovačná a energetická agentúra, 2018.

LIPTAK, A.: Sent to Prison by a Software Program’s Secret Algorithms. [online]. Cit. 3. 2. 2019. URL: https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html.

NOBLE, S. U.: Algorithms of Oppression. How Search Engines Reinforce Racism. New York: New York University Press 2018.

PLIEŠOVSKÝ, R.: Vedci pomocou AI predvídajú z dát Wi-Fi pohyb a polohu študentov a ich známych. [online]. Cit. 1. 1. 2019. URL: https://techbox.dennikn.sk/vedci-pomocou-ai-predvidaju-z-dat-wi-fi-pohyb-a-polohu-studentov-a-ich-znamych/.

SLAVKOVSKÝ, R.: Racionalita a ľudská kognícia. Trnava: Filozofická fakulta Trnavskej univerzity 2013.

WEINZENBAUM, J.: Mýtus počítače. Praha: MORAVIAPRESS a. s., 2002.

P o z n á m k y

[1] Vo všeobecnosti možno umelú inteligenciu definovať ako odvetvie počítačovej vedy, v ktorej sa programovo kóduje stroj tak, aby sa stal inteligentným.

[2] Takýmito algoritmami môžu byť napríklad tzv. „rozhodovacie stromy“.

[3] Za priekopníkov strojového učenia bývajú označovaní vedci Frank Rosenblatt (1928 – 1971), tvorca tzv. perceptrónu, a Arthur Samuel (1901 – 1990), tvorca prvého programu určeného na hranie dámy s ľudským protivníkom. Pozri bližšie: DOMINGOS, P.: Our Digital Doubles. In: Scientific American, roč. 319, 2018, s. 82.

[4] Porov. LEONHARD, G: Technológia vs. Humanita. Bratislava: Slovenská inovačná a energetická agentúra, 2018.

[5] Problematike sa venuje napríklad súčasný izraelský historik a mysliteľ Yuval Noah Harari vo svojom diele Homo Deus z roku 2015, porov. HARARI, Y. N.: Homo Deus (stručné dějiny zítřka). Praha: Leda 2017.

[6] Daniel Dennett zdôrazňuje, že MacCreadyho explózia ešte vždy prebieha, pričom neustále zvyšuje svoju rýchlosť. Pre bližšiu problematiku porov. DENNETT, D.: From Bacteria To Bach. UK: Penguin Books 2018, s. 8 – 9.

[7] Názov sa používa na označenie IT spoločností, ktoré sídlia v severnej Kalifornii, v USA. Medzi najznámejšie patrí napr.: Apple, Adobe Systems či eBay.

[8] Pozri bližšie: LEONHARD, G: Technológia vs. Humanita. Bratislava: Slovenská inovačná a energetická agentúra, 2018.

[9] Na pasáže s Homérom ma upozornila Zuzana Zelinová.

[10] Pozri bližšie: SLAVKOVSKÝ, R.: Racionalita a ľudská kognícia. Trnava: Filozofická fakulta Trnavskej univerzity 2013, s. 42.

[11] V hĺbkovom učení ide o rovnaké samoučiace sa algoritmy, avšak s tým rozdielom, že existuje viacero vrstiev týchto algoritmov – každý z nich poskytuje inú interpretáciu údajov, na ktorých sa pracuje – takáto sieť algoritmov sa nazýva „umelé neurónové siete“.

[12] Pre širšie uvedenie do témy neurónových sietí pozri napr.: KVASNIČKA, L. a kol.: Úvod do teórie neurónových sietí. Bratislava: Iris 1997.

[13] LEONHARD, G: Technológia vs. Humanita, c. d., s. 87.

[14] Napr. ide o predstaviteľov tzv. „funkcionalizmu“ zo súčasnej filozofickej oblasti – filozofie mysle. Funkcionalizmus tvrdí, že mozgu (podobne ako počítaču) sú dané „vstupy“ a “výstupy“. Funkcionalisti chápu myseľ ako softvér a mozog ako hardvér.

[15] LEONHARD, G: Technológia vs. Humanita, c. d., s. 100.

[16] O umelej inteligencii v oblasti maloobchodu pozri bližšie: HOROWITZ, Brian T.: 8 Ways Artificial Intelligence Is Revolutionizing Retail. [online] Cit. 18. 2. 2019. URL:https://www.pcmag.com/feature/366279/8-ways-artificial-intelligence-is-revolutionizing-retail.

[17] Orig. „Turning players into payers“. Pre širšie poznanie tohto problému pozri: URL: https://www.scientificrevenue.com/scientific-revenue-pricing-cloud/ [online].

[18] Porov. BLUMENTHAL, E.: Facebook’s Latest Privacy Scandal: What We Know about the Company’s Handling of User Data [online]. Cit. 22. 2. 2019. URL: https://eu.usatoday.com/story/tech/2018/12/19/facebooks-latest-privacy-scandal-what-we-know-now/2361257002/.

[19] Cloud vo všeobecnosti predstavuje „virtuálne prostredie“, t. j. prostredie na internete.

[20] PLIEŠOVSKÝ, R.: Vedci pomocou AI predvídajú z dát Wi-Fi pohyb a polohu študentov a ich známych. [online]. Cit. 1. 1. 2019. URL: https://techbox.dennikn.sk/vedci-pomocou-ai-predvidaju-z-dat-wi-fi-pohyb-a-polohu-studentov-a-ich-znamych/.

[21] WEINZENBAUM, J.: Mýtus počítače. Praha: MORAVIA PRESS, 2002, s. 13.

[22] Edukácia je len jednou z dôležitých zbraní, ako sa chrániť voči manipulatívnym praktikám obchodných firiem. Našou intenciou je však sústrediť sa na tento bod.

[23] LEONHARD, G: Technológia vs. Humanita. Bratislava: Slovenská inovačná a energetická agentúra, 2018, s. 107.

[24] Jeden z najznámejších prípadov, ktorý sa stal, súvisí so službou Google Maps. Ešte v čase, keď bol Barack Obama prezidentom USA, Google Maps pozícia viedla pri hesle „n*gger“ k Bielemu domu. V tomto prípade spoločnosť Google trvala na tom, že nie je zodpovedná za daný algoritmus. Ale čo ak chyba nie je len v časti systému, ale týka sa samotného fungovania algoritmov, ktoré už navrhujú ľudia? Kto je skutočne zodpovedný za takúto chybu? Pre bližšiu problematiku Google služieb, rasizmu a sexizmu pozri: NOBLE, S. U.: Algorithms of Oppression. How Search Engines Reinforce Racism. New York: New York University Press, 2018.

[25] Porovnaj: LIPTAK, A.: Sent to Prison by a Software Program’s Secret Algorithms. [online]. Cit. 3. 2. 2019. URL: https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html.

[26] Tamtiež.

[27] NOBLE, S. U.: Algorithms of Oppression. How Search Engines Reinforce Racism. New York: New York University Press 2018, s. 14.

[28] LEONHARD, G: Technológia vs. Humanita, c. d., s. 223.

[29] CORETH, E.: Co je člověk? Praha: Zvon, 1994, s. 9 – 20.

[30] Pozri: HURST, L. D.: Human Evolution is Still Happening – Possibly Faster Than Ever [online] Cit. 2. 1. 2019. URL: https://theconversation.com/human-evolution-is-still-happening-possibly-faster-than-ever-105683?utm_source=facebook&utm_medium=facebookbutton&fbclid=IwAR2iCIUeD3rNv4_GGbliT-LLadLrn0b0x73IIcQIIUkmj_hrmi-P_6MTyOM

[31] LEONHARD, G: Technológia vs. Humanita, c. d., s. 263.

[32] Tamtiež, s. 241.

[33] BRIEN, D.: Computers, The Internet, and the Abdication of Consciousness – an Interview with Stephen Talbott. [online]. Cit. 3. 1. 2018. URL: http://natureinstitute.org/txt/st/jung.htm

Bc. Katarína Sklutová

Katedra filozofie a dejín filozofie

Filozofická fakulta

Univerzita Komenského v Bratislave

Šafárikovo nám. 6

814 99 Bratislava 1

E-mail: katarina.sklutova@gmail.com