Empatie bez těla?

Na jakých projektech souvisejících s umělou inteligencí se podílíš nebo ses podílel?

O umělou inteligenci se aktivně zajímám dlouho – už od doby před nástupem dnešních velkých jazykových modelů (LLM – Large Language Models) – a tato cesta mě dovedla k několika klíčovým pracím. V roce 2020 jsem s psychology Petrem Sojkou a Tomášem Řiháčkem stál u zrodu českého výzkumně-klinického projektu DeePsy zaměřeného na poskytování průběžné zpětné vazby o efektu terapie. Podobné aplikace prokazatelně zlepšují výsledky terapie a podporují psychoterapeuty při jejich práci. 

Společné nadšení při této práci nás vedlo k využití umělé inteligence, přesněji řečeno modelů hlubokého učení (deep learning), pro automatický přepis psychoterapeutických nahrávek a jejich následnou analýzu. V současné době se snad také DeePsy díky projektu PRINS dočká možnosti generovat strukturované poznámky z nahraných sezení nebo z terapeutových poznámek. 

Na tuto zkušenost jsem navázal ve startupu Upheal, který jsem od roku 2022 pomáhal rozvíjet pro americký trh. Cílem Uphealu je převádět terapeutické nahrávky na záznamy o průběhu terapie. Ty jsou specifickým způsobem strukturované pro účely zdravotních pojišťoven, které je vyžadují. Čili liší se od terapeutických poznámek, jež často obsahují daleko podrobnější a subjektivní údaje. Moje dnešní role v tomto startupu je „klinický prompt inženýr“.

A od září 2023 působím v aplikovaném projektu Edustories, který pomocí případových studií a využití LLM se špetkou virtuální reality pomáhá studentům učitelství a učitelům při zvládání náročného chování žáků. Díky Edustories dokážeme nabídnout personalizované scénáře a doporučení. Zajímavostí na tomto projektu bylo, že jsme jej Technologické agentuře České republiky podávali zhruba měsíc poté, co OpenAI zveřejnilo ChatGPT-3.5 a ještě se tolik o jazykových modelech nevědělo. Byla to až neuvěřitelná shoda náhod. 

Všechny zmíněné projekty vycházejí z přesvědčení, že současné využití LLM může výrazně přispět ke zlepšení a urychlení rozvoje i takových oblastí, jako jsou psychoterapie či vzdělávání. S nástupem LLM se aplikace v těchto humanitních oborech staly dostupnějšími a možnosti využití AI v těchto oblastech výrazně vzrostly. Z mého pohledu nejde o to, že AI vyřeší všechny problémy, ale je to nástroj, který nám momentálně umožňuje pomoci s některými z nich.

Kdo je tedy klinický prompt inženýr a co dělá? 

Ve své podstatě je to někdo, kdo se snaží odhadnout chování LLM a zadat mu psanou výzvu (prompt) tak, aby získal to, co od LLM očekává. Velmi nepřesně řečeno jde o jakéhosi vyšetřovatele LLM. Pokud chci například z přepisu terapeutických nahrávek získat konkrétní informace o klientových problémech, musím napsat výzvu, která mi umožní zjistit, jak je klient popisuje. To je prostý problém extrakce dat z textu a řešil se už před nástupem LLM. Ovšem LLM nám umožňuje jednodušeji se posunout od prosté extrakce k částečné abstrakci: když modelu zadám správně formulovaný prompt, dokáže například na základě svých znalostí kognitivně-behaviorální terapie odhadnout klientovo jádrové přesvědčení (hluboce zakotvený postoj, který má člověk k sobě, druhým lidem a světu jako celku). V současnosti se klade stále větší důraz nejen na to, jak dávat otázky LLM, ale i na to, jak kombinovat znalosti a dovednosti LLM s dalšími zdroji, například externí databází znalostí o specifických terapeutických technikách, což může výrazně zlepšit následnou identifikaci. Tomuto propojení se dnes často říká „kontextové inženýrství“ místo původního „prompt inženýrství“.

Jan Nehyba
se dlouhodobě zabývá osobnostním rozvojem, reflektivní praxí ve vzdělávání a psychoterapií. Působí jako vyučující na Pedagogické fakultě Masarykovy univerzity v Brně a věnuje se výzkumu zaměřenému na zvládání náročného chování žáků, duševní zdraví a reflektivní praxi. Ve výuce se soustředí na podporu osobnostního i profesního rozvoje studentů učitelství a na praktický nácvik různých metod a technik respektující výchovu. Má zkušenost jako psychoterapeut a věnuje se výzkumu psychoterapie a podpoře terapeutů.

Mně osobně práce s LLM pomohla lépe odhalovat vlastní předpoklady v otázkách a požadavcích, abych dostal to, co skutečně potřebuji. To je velmi inspirativní i pro každodenní komunikaci s lidmi. Například když se LLM zeptám: „Proč jsou dnes online lekce efektivnější než prezenční výuka?“, dostanu odpověď, která rovnou potvrzuje můj skrytý předpoklad – model začne vyjmenovávat důvody, proč je online výuka lepší, a vůbec nezpochybní, zda tomu tak skutečně je. Když však svůj dotaz zbavím předpokladů a zpřesním, co opravdu hledám: „Jaké jsou hlavní výhody a nevýhody online a prezenční výuky z hlediska efektivity učení?“, model nabídne vyvážené srovnání obou forem.

Na druhou stranu mám často dojem, že dříve jsme cvičili svůj mozek a paměť prostřednictvím znalostí a dovedností, které jsme se učili – ať už to byly třeba básničky, příběhy, nebo cokoli jiného. Postupně se však v jednadvacátém století toto přesvědčení posouvá k postoji „znalostí je tolik, že je důležitější umět je vyhledat než mít je v hlavě“. Ale přijde mi, že s nástupem LLM už nejde ani o vyhledávání, ale o to, jak se správně zeptat; jako by naše kognitivní úsilí při získávání znalostí bylo čím dál menší a vedlo k „metakognitivní lenosti“. Znalosti přece máme externě uložené někde v LLM, takže nám stačí se kdykoli jenom zeptat. Je ale otázka, zda tím jako lidé něco neztrácíme – minimálně schopnost učit se novým věcem, a tedy i adaptovat se na nové situace.