UMĚLÁ INTELIGENCE - FASCINUJÍCÍ, ÚŽASNÁ I DĚSIVÁ

Také jste zhlédli video tancujícího robota a říkali si: není to včera, co se nemotorně učili chodit? Umělá inteligence překládá z různých jazyků, analyzuje rentgenové snímky lépe než nejzkušenější lékaři, spolehlivě řídí auta, píše povídky, blufuje v pokeru a vytváří fotografie nerozeznatelné od skutečných. Rozvoj umělé inteligence mění, a velmi změní naši budoucnost. Nejde tedy o téma, jímž by se měli zabývat pouze informatici a technici, ale my všichni. A psychologové dosti zásadně. Pokusím se nastínit proč. Uvažuji o strojové inteligenci, nicméně to vezmu přes emoce. V úvahách o UI ve mně střídavě vyvstává emocí celá řada. Například vzrušení až fascinace, strach a někdy i mateřské city: však je UI tak trochu naším společným, lidským dítětem. Myslím, že my všichni se svým způsobem na UI podílíme. Někteří z nás ji programují, někteří uvažují nad jejími etickými aspekty a prakticky všichni jsme jejími uživateli. Měli bychom přemýšlet, jakou umělou inteligenci chceme a co všechno jí svěříme.

Batole se samopalem 

A kde se bere ta fascinace? Nám lidem je vlastní vzrušení z novosti, z tušených možností, z toho, co dokážeme či můžeme dokázat. Čím je daná věc mocnější, čím nebezpečnější, tím více nás fascinuje a jsme v pokušení zkoušet, co umí. Někoho táhne vidina peněz, někoho slávy, mě asi nejvíc údiv a zvědavost. UI nás strčí do kapsy jak přesností a rychlostí své práce, tak kapacitou paměti. Zatímco axony nervových buněk vedou signál rychlostí maximálně okolo 120 m/s, elektronická zařízení komunikují i rychlostí světla (300 000 000 m/s). Zatímco maximální frekvence, s níž pracují neurony, je kolem 200 Hz, procesory pracují s frekvencí 2 GHz. Že nás něco takovým způsobem předčí, je fascinující a děsivé zároveň. A tím se dostávám k další emoci: strachu. Strach je emoce ochranná, evolučně nejstarší a dost možná nejzásadnější. Pokusím se na ni nyní podívat konkrétněji: čeho se v souvislosti s umělou inteligencí bojím/bojíme? Je tento strach na místě? Podívejme se tedy na možné scénáře.

Nezaměstnaní 

Odborníci odhadují, že umělá inteligence brzy změní trh práce. O svá zaměstnání by mohla přijít až polovina lidí na zeměkouli, a změna prý bude rychlá. Lidé se toho příliš nebojí, protože se domnívají, že nás UI zbaví monotónních, podřadných, špatně placených zaměstnání. Že na nás zbudou ta dobře placená, kreativní a zajímavá. Skutečnost však bude mnohem pragmatičtější: UI nás zbaví toho, co dokáže dělat efektivněji: lépe a levněji. Pokud bude ziskovější převzít například management popelářských vozů než samotné vysypávání popelnic, člověka-popeláře bude řídit UI, a nikoli člověk robotické popeláře. UI se už nyní prosazuje ve finanční správě a jistě bude brzy poskytovat právní rady. Uplatňuje se v personalistice a část klientely pravděpodobně brzy přetáhne i nám psychologům. Už nyní jsou k dispozici automatičtí chatovací terapeuti (Wysa, Youper, Woebot). Vřelého lidského kontaktu se sice nedočkáme, ale racionálního zhodnocení své situace a potíží ano. AI-therapy dokonce slibuje zbavit své klienty bez kontaktu s živým terapeutem sociální úzkosti. Umělý terapeut má řadu výhod: například nižší cenu nebo to, že nám odpovídá prakticky okamžitě, v jakoukoli denní i noční hodinu. Namále mají i spisovatelé a další umělci: UI už nyní dokáže psát básně a povídky, komponovat hudbu či vytvářet výtvarná díla. A jistě se v tom bude zlepšovat.

Sledovaní a ovládaní 

Facebook je údajně schopen sestavit náš psychologický profil lépe než náš životní partner. Z našich příspěvků, postů, sdílení a lajků, z toho, s kým se přátelíme, případně koho kdy blokujeme, nás poznal víc než dost. Poměrně neutrálně toho využívá k cílené reklamě. Je zde však potenciál politického či jiného zneužití, jak se stalo v roce 2016, kdy se firma Cambridge Analytica dostala k datům desítek milionů uživatelů Facebooku a s jejich pomocí napomohla Donaldu Trumpovi v boji o Bílý dům. Princip je prostý: jakmile někdo ví, co se nám líbí, není pro něj těžké nás ovlivnit. Bude-li nás chtít přesvědčit k volbě daného politika, bude nám posílat takové jeho citáty, o nichž ví, že v nás vzbudí sympatie. Podobně s fotografiemi: usoudí-li, že jsme mírumilovní, bude nám posílat fotky politika, na nichž se usmívá a tváří klidně. Jsme-li spíše bojovného ducha, pošle nám politika rozhodného, naštvaného, s dominantním gestem. Cambridge Analytica po skandálu skončila a Facebook začal data svých uživatelů více chránit, nicméně podobné zneužití v budoucnu je reálnou možností. Chytré mobily plní funkci nejen telefonu, ale také hodinek, diáře, fotoaparátu, pošty, mapy, encyklopedie, rádce… Je to úžasná věcička. Jenže zároveň je možné, že se někdo k našim datům dostane. Že bude mít přístup ke všemu, co si píšeme, co čteme, co si fotíme. S kým se přátelíme, co a kde nakupujeme. Bude vědět, kde se nacházíme. Může hacknout náš mikrofon i kameru, takže nás bude moci odposlouchávat a špehovat, aniž bychom to tušili. Proč by to dělal? Toť otázka. Technicky to možné je a bude. Zájem může mít třeba žárlivý manžel, pomoci mu může specializovaná firma. Ve vývoji je též software, který rozpoznává naše emoce, stačí zapnout kameru. Zatím prý poznává emoce základní, ale časem bude jistě lepší než my lidé, stejně jako při rozpoznávání obličejů. Výhodou počítače je mimo jiné rychlost. Když forenzní psychologové a policejní vyšetřovatelé odhadují věrohodnost výpovědi, používají kamery. I osoby, které dokáží dobře blufovat, se totiž často prozradí tzv. mikrovýrazy: skutečná emoce se v obličeji mihne na zlomek vteřiny, což si při běžné konverzaci neuvědomíme. Na zpomaleném či rozfázovaném záznamu však je možné mikrovýraz zachytit. Chytrý algoritmus to může analyzovat v reálném čase. Další možnosti pak skýtá analýza našeho hlasu. Až počítače poznají, kdy jsme zaujatí, kdy dojatí, kdy rozpačitě potlačujeme smích a kdy jsme se, byť drobně, vzrušili, budou velmi dobře vědět, co a koho nám mají nabídnout a jak. Odoláme předpřipravené volbě politické strany „na míru“ či seznamce, která nám nabídne toho pravého přesně pro nás?

Big brother 

Kameru máme ve svém mobilu, máme ji v počítači a další spousty kamer se nacházejí v ulicích. Jsou čím dál levnější a čím dál více zaplňují veřejný i polosoukromý prostor. Hlídají vchody do domů a zboží v obchodech, jsou na zastávkách, na úřadech či náměstích. Uvažuje se o tom, že by kamery mohly hlásit na policii neobvyklé dění. Bezpečí a ochrana. Zní to hezky. Jenže… Extrémně zajímavá je špionáž pro autoritářské vlády. V Číně, kde je již nyní instalováno přes 200 milionů kamer, hodlá prezident Si vybudovat vševidoucí digitální systém sociální kontroly, který dokáže s pomocí prediktivních algoritmů identifikovat potenciální odpůrce v reálném čase. Digitální kontrola doplní zaváděný systém sociálních kreditů získávaných na základě ekonomického a sociálního chování i politické uvědomělosti. Nízký kredit s sebou nese například nemožnost nákupu letenek či práce ve státní správě. Obavy jsou i ze sociální izolace osob s nízkým kreditem – kontakt s nimi totiž může způsobit snížení vlastního sociálního kreditu. Kamery umí nejen snímat, ale také rozpoznávat obličeje. A nebude problém, aby u toho rozpoznávaly i emoce. Jak se tváříte na plakát Nejvyššího? Autokraté většinou padnou převratem či v důsledku masových protestů. Ty ale vyžadují aspoň základní organizaci. Jenže taková organizace v zemích s rozsáhlým automatizovaným sledovacím systémem bude jen těžko možná. A nutno poznamenat, že Čína dodává sledovací systémy autoritářským vládám po celém světě. Trend výměny svobody za bezpečí se ovšem netýká pouze autoritářských systémů, jde prakticky o celosvětovou záležitost. Vzpomeňme například na ochotu amerických občanů po útocích 11. září 2001 podpořit protiteroristický zákon. Umělá inteligence rozpoznávající obličeje a kombinující je s dalšími osobními daty má obrovský potenciál jak v ochraně našeho bezpečí, tak v destrukci naší svobody. Přemýšlejme o tom. Kde všude chceme kamery mít? Mají kamery na veřejných místech rozpoznávat naše obličeje? Mají číst naše emoce? Mají hlásit neobvyklé dění? A kdo k nim má mít přístup?

Rozmazlení a závislí 

Diář, hodinky, mapa, pošta, knihy a dokumenty. To vše bylo dřív fyzické a mechanické, dnes jde u většiny z nás o elektroniku. Vše se děje v mobilu či přes mobil. Praktické, pohodlné a efektivní. Elektronické diáře nám samy připomínají, co máme kdy naplánováno, řada lidí je používá třeba i k automatickému rozesílání narozeninových přání, aby jejich blízcí věděli, že na ně „nezapomněli“. Též řidičské dovednosti se pravděpodobně brzy stanou nepotřebnými a doma za nás mnohé vyřeší a zařídí inteligentní spotřebiče. Chytrá lednička už dnes vyhodnotí, co v ní chybí, a než vyrazíte domů z práce, pošle vám upozornění, abyste to mohli dokoupit. Pohlídá vám kalorie a datum spotřeby potravin ve svých útrobách. Případně poradí, co by se dalo z jejího obsahu uvařit. Časem chybějící suroviny nejspíš sama objedná a další zařízení vám je připraví tak, abyste měli prostřeno patnáct minut po příchodu domů. Zdržíte-li se, nevadí, automobil ledničku jistě včas informuje. Zkrátka super. Ale také je to všechno křehké: stačí zapomenout heslo, a máme velký problém. A ještě větší problém můžeme mít, když naše heslo zjistí někdo jiný. Podobně tomu může být v továrnách, na úřadech, ve vládě atd. Tento trend přitom pokračuje, budeme na UI čím dál závislejší. Rozsáhlé důsledky pak může mít i obyčejný výpadek elektřiny. Co se přitom děje s našimi schopnostmi? Svaly, které netrénujeme, zakrňují. A podobně je to i s pamětí, schopností orientace v prostoru, schopností soustředění apod. Skutečnost, že si nemusíme pamatovat spoustu telefonních čísel, nemusíme si pamatovat cestu atd., uvolňuje naši mentální kapacitu pro něco jiného. Využijeme toho však? Myšlení bolí, říká se. Když si vzpomenu, kolik spolužáků na základce nenávidělo matematiku, protože se v ní muselo myslet. A kolik spolužáků na vysoké ze stejného důvodu nesnášelo statistiku. Kdyby tak statistickému programu stačilo říct: „Hele, mám takováhle data. Co z nich plyne?“ To by bylo! A co kdyby za nás stroj i ta data sebral, a vlastně celou diplomku sepsal? Kolik studentů by odolalo? Co se stane s Descartovou res cogitans? Budeme chtít přemýšlet? Nebo se budeme raději věnovat zábavě a nadměrnému uspokojování základních potřeb?

V elektronickém náručí 

Další velkou oblastí, v níž se začínají prosazovat stroje,  je – na první pohled nečekaně – uspokojování našich citových potřeb. Lovot je roztomilý robot, jehož název vznikl spojením slova love (láska) a robot. Má velké oči, tučňákovi podobné tělo a komunikuje pískáním tak, jak si to nastavíte v mobilu. Pohybuje se na kolečkách s pomocí kamer. Na zavolání přijde, zamává rukama, nechá se pochovat a v náručí usne. Dokáže reagovat na nálady lidí. Navazuje tak na robotické zvířecí mazlíčky, třeba na pejsky Aibo nebo WowWe CHiP. Oproti živým mazlíčkům mají ti elektroničtí řadu výhod: nikoho nepokoušou, nic neznečistí ani neroztrhají, nehrozí alergická reakce a dají se kdykoli vypnout. Jste-li v práci, nemusíte se obávat, zda se váš mazlíček necítí osamělý, a naopak můžete být klidnější, neboť v době vaší nepřítomnosti pohlídá dům. Ve vývoji jsou též roboti-pečovatelé – ti by měli být schopni v budoucnu ošetřovat třeba dlouhodobě nemocné či hlídat děti. A těšit se můžeme i na roboty-partnery. Počítat u nich můžeme prakticky se stejnými výhodami, jakými nás oblažují umělá štěňata, a samozřejmě s mnohým dalším: budeme si s nimi moci popovídat a nikdy nám neskočí do řeči. Nerozčílí se, nebudou nás za nic peskovat a nic nám vyčítat. A samozřejmě budou úžasnými milenci a milenkami. Knížka Láska a sex s roboty (Love and Sex with Robots) od Davida Levyho poprvé vyšla v roce 2007 a dnes již existují celé nevěstince s robotickými prostitutkami. Jejich schopnosti se den ode dne zlepšují. Erotika s roboty má přitom spoustu výhod: ničím se nenakazíme, neohrozí nás nežádoucí těhotenství ani citové či právní oplétačky. Takže se můžeme těšit, že v budoucnu nebudeme nikdo bez kvalitního sexu a kdykoli si budeme mít s kým popovídat. Jak na tom však budeme v kontaktu s bližními z masa a kostí? Chci říci, že nás možná zničí paradoxně to, že UI bude prostě úúúúžasná.

Zotročeni, či vyhubeni? 

Popsala jsem tři možné varovné scénáře našeho soužití s umělou inteligencí, a sice že budeme nezaměstnaní, ovládaní a rozmazlení. Tyto scénáře se navzájem nevylučují, naopak: dají se velmi dobře kombinovat a svým způsobem se i navzájem podporují. Možná vám tu však chybí klasický scénář sci-fi filmů: válka lidí a robotů, boj o zdroje, zlá vůle UI. Nebojte, nepřijdete o ně, budeme se jim věnovat v příštím čísle.

Internetové zdroje: https://www.respekt.cz/tydenik/2020/37/cina-vsechno-vidi https://computerworld.cz/technologie/software-na-rozpoznavaniemoci-je-na-vzestupu-jeho-vyuziti-je-vsak-diskutabilni-55785 https://lovot.life/en/