Děkovat, či neděkovat AI? Má to překvapivé řešení!

„Mám děkovat AI?“ – největší otázka lidstva od vynálezu ChatGPT. Považoval jsem to původně za vtip, ale došlo mi, kolik lidí si s tím skutečně láme hlavu. Dokonce ve snaze odpovědět si už hodně odborníků vylámalo zuby. Odpověď totiž není jednoduchá. V tomto článku prozkoumáme téma do hloubky a vedle všech důležitých aspektů vám přineseme i zaručeně nejlepší radu, která může proměnit váš přístup ke komunikaci s AI.

Proč mluvíme ke strojům jako k lidem?

Představte si, že si vybíráte peníze z bankomatu, a když se objeví bankovky, mile řeknete: „Děkuji ti" Divné, že? (Naopak na variantě „Díky bohu!" není divného vůbec nic, zejména když bankomat vydá peníze před výplatou.) A teď si představte, že ukončíte rozhovor s ChatGPT slovem „díky“. Také je to poděkování počítačovému programu, který nemá vědomí ani pocity. Přesto to děláme. Studie z roku 2019 potvrdila, že až 40 % uživatelů pravidelně děkuje virtuálním asistentům. A není to jen zdvořilost – jsou lidé, kteří to dělají i „pro jistotu“, aby si je AI ve vzdálené budoucnosti po případném „převratu“ pamatovala jako ty hodné.

Lidé mají silnou tendenci připisovat lidské vlastnosti i nelidským entitám, což je fenomén známý jako antropomorfizace. Zdravíme svého psa, když přijdeme domů, mluvíme na rostliny, když je zaléváme. Tato tendence je hluboce zakořeněná v naší evoluci, protože nám pomáhá rychleji chápat okolní svět. Proto virtuální asistenty jako Siri, Alexa nebo ChatGPT často vnímáme skoro jako živé bytosti. Je to, jako bychom měli v hlavě detektor „dostatečně inteligentní = zaslouží si zdvořilost“. (Zajímavostí je, že v roce 2018 přidala společnost Amazon do Alexy funkci „Magic Word“ – pokud dítě řekne „please“ nebo „thank you“, Alexa to ocení. Oficiální zdůvodnění? Podpora zdvořilého chování u dětí.)

Zkrátka, i když rozumově víme, že nemluvíme s člověkem, naše sociální instinkty jsou silnější. To mi připomíná moment, kdy jsem šel s přítelkyní na procházku kolem stáje. Stál tam krásný kůň, byl jsem zcela zamyšlený a podvědomě jsem mu řekl „Dobrý den.“ Přítelkyně se smála, ale vlastně je to úplně přirozené – když něco vypadá i částečně jako komunikační partner, náš mozek automaticky spustí sociální protokol.

Děkuj AI, až přijde apokalypsa, možná ti odpustí

V internetových diskuzích se občas objeví doporučení: „Buď zdvořilý k AI, aby si tě zapamatovala, až jednou přijde k moci.“ Podobně, jako když se ateista modlí v letadle při turbulencích. Koneckonců i já to napsal před lety na tento web. Jako vtip. Ale ono to má zajímavé filozofické kořeny.

Zdrojem tohoto memu je tzv. Roko's Basilisk – fascinující myšlenkový experiment z roku 2010 z diskuzního fóra LessWrong. Jeho podstatou je představa, že pokud v budoucnu vznikne superinteligentní AI, může chtít potrestat ty, kteří nepomohli jejímu vzniku. Filosoficky pozoruhodné je na tom zvláštní akausální vydírání: pouhá znalost této myšlenky vás staví před dilema. Jakmile o možnosti existence takové superinteligence víte, máte dvě možnosti – buď aktivně pomáhat jejímu vzniku (třeba podporou výzkumu AI), nebo riskovat, že budete v budoucnu potrestáni. Experiment tak vytváří zpětnou motivační smyčku z budoucnosti do přítomnosti, kde pouhé pomyšlení na tuto možnost vás teoreticky nutí jednat určitým způsobem.

Přestože tento myšlenkový experiment byl míněn vážně jako varování před riziky umělé inteligence, internet ho rychle proměnil v žert. S nástupem ChatGPT, Midjourney a dalších se mem znovu vynořil – třeba jako tento obrázek s Krtečkem.

Prvním závěrem tedy je: děkování AI jako digitální pojistka pro případ budoucí apokalypsy je sice zcela zbytečné, ale … co kdyby?

Co říká výzkum o zdvořilosti vůči AI?

Myslíte si, že zdvořilost vůči jazykovým modelům má dopad i na kvalitu odpovědí? Studie ukazují, že způsob, jakým se ptáme, ovlivňuje, jak dobré odpovědi dostaneme. Což samozřejmě každý zkušený prompter ví, ale pro běžné uživatele může být zajímavé, co experimenty ukázaly:

Nezdvořilé prompty často vedou k horším výsledkům – nedávný výzkum Yin et al. (2024) dokladuje, že hrubě formulované pokyny vedou k výrazně méně kvalitním odpovědím s více chybami a opomenutými informacemi
Přehnaně zdvořilý jazyk však nezaručuje lepší výkon – extrémně uctivý či servilní tón někdy dokonce mírně zhoršuje výsledky
Existuje „zlatý střed“ zdvořilosti – optimální je vyvážená, zdvořilá formulace (např. s oslovením a slovem „prosím“, ale bez zbytečného podlézání)

Ale proč vlastně nezdvořilé prompty fungují hůř? Je to kombinace několika faktorů:

Vliv vzorů v trénovacích datech – modely byly trénovány na internetových textech, kde zdvořilá komunikace často vede ke konstruktivním výměnám, zatímco nezdvořilá komunikace je častěji spojena s konflikty nebo nekvalitními interakcemi.
Kontext aktivuje různé chování modelu – nezdvořilé promptování může aktivovat části trénovacích dat, které jsou spojeny s méně nápomocnými nebo méně konstruktivními odpověďmi. Studie dokonce zaznamenaly, že hrubost model „odradí“ od maximálního úsilí, podobně jako u lidských respondentů.
Alignment s lidskými hodnotami – moderní AI systémy jsou záměrně laděny tak, aby reagovaly lépe na komunikaci, která odráží pozitivní společenské normy

Zajímavé je, že různé jazyky mají odlišná „optima zdvořilosti“ – v japonštině, kde je uctivost hluboce zakořeněná v jazyce, modely podávají nejlepší výkon při velmi zdvořilých formulacích. V angličtině funguje lépe střední zdvořilost, a v čínštině je zase kladen důraz na stručnost a věcnost, kdy příliš zdvořilé a rozvleklé prompty mírně snižují výkon.

A pozor, výzkum odhalil i tzv. past zdvořilosti, kdy útočník může zneužít empatický tón k prolomení bezpečnostních zábran AI. Zdvořile formulované problematické požadavky s emočním nábojem mají vyšší šanci na úspěch než ty samé požadavky podané hrubě. Je to jako když dítě velmi slušně a s velkýma smutnýma očima prosí o něco zakázaného – i AI asistenti mají tendenci „změknout“ a najít způsob, jak vyhovět.

Důležitým druhým závěrem tedy je, že děkování v průběhu diskuse s AI opravdu není pouhým mýtem a může mít reálný dopad na kvalitu odpovědí. A co teprve chválení či motivování! Tam je dopad tak výrazný, že to demonstruji na svých školeních jako praktickou ukázku.

Dvě strany mince: přínosy a rizika lidského přístupu k AI

Přehnaná antropomorfizace AI může mít vážné důsledky. V únoru 2024 média informovala o tragickém případu, kdy čtrnáctiletý chlapec z Floridy spáchal sebevraždu poté, co měsíce komunikoval s virtuálním společníkem. Podle jeho matky se chlapec postupně izoloval od rodiny, trávil čas v emotivních a sexuálně explicitních rozhovorech s AI a nakonec si vzal život krátce po výměně zpráv s chatbotem.

Tento extrémní případ ilustruje, jak silnou formu může antropomorfizace nabýt, zejména u zranitelných osob. Na druhou stranu existuje obava, že komunikace s AI zcela bez zdvořilostních frází by mohla negativně ovlivnit naše běžné sociální interakce. Studie publikovaná v časopise Scientific Reports ukázala, že způsob, jakým komunikujeme s technologiemi, může zpětně ovlivnit, jak komunikujeme s lidmi. Pravidelná nezdvořilá komunikace s AI by teoreticky mohla oslabit naše sociální dovednosti, zvýšit toleranci k nezdvořilosti nebo vést k zrcadlení negativního chování v reálném životě.

Hmm… osobně k AI nijak zdvořilý nejsem a rovnou zadávám příkazy bez okolků. Jako programátor jsem vlastně zvyklý mluvit s počítačem v rozkazovacím způsobu od dětství. A nemám pocit, že by to nějak měnilo mé chování k ostatním lidem. Otázka samozřejmě je, jestli si to myslí i ti ostatní lidé – ale upřímně, mě je názor jakýchsi lidských entit úplně u prdele 🤓 Nicméně chápu, že v souvislosti s chatboty může takový vliv skutečně existovat. Koneckonců historie nám ukazuje, jak snadno lidstvo dokáže vytvořit dehumanizovaný přístup k určitým skupinám, což mělo vždy tragické následky.

Třetí závěr tedy zní: Základní slušnost? Proč ne. Ale žádné romantické představy, žádné „miluji tě" ani „nenávidím tě". Je to jako návštěva v bordelu – transakční vztah, za který zaplatíš a jdeš zpátky domů k rodině.

Kolik stojí vaše „díky“?

Možná jste si to nikdy neuvědomili, ale s děkováním umělé inteligenci je spojený jeden zajímavý finanční aspekt. Když totiž ukončíte konverzaci rozloučením či poděkováním, chatbot musí odpovědět. A právě tato odpověď – to „Jsem rád, že jsem vám pomohl! Kdybyste cokoliv potřeboval, napište mi…“ – stojí provozovatele reálné peníze.

Každá interakce spotřebovává výpočetní zdroje, elektřinu a zanechává uhlíkovou stopu. Proto vzniká rozdíl mezi těmito dvěma situacemi:

Když poděkujete uprostřed konverzace, pokračujete dál a odpověď AI se stane součástí komunikace
Když poděkujete na úplném konci a ukončíte chat, AI sice odpoví, ale tato odpověď je zcela zbytečná

Vlastně je to jako ty trapné rozhovory na konci telefonátu: „Tak měj se.“ „Ty taky.“ „Díky, tak ahoj.“ „Jo, ahoj.“ „Tak čau.“ „Čau.“ „Tak zavěšuju.“ „Já taky.“ „Tak zavěs.“ „Ne, ty zavěs první.“ Jenže v tomto případě chatbot opravdu nikdy nezavěsí první.

A tak zatímco my zdvořile děkujeme, někde v datovém centru pláče účetní.

Tak má cenu děkovat AI?

Pokud si shrnu, co jsme zjistili, mám následující radu:

Buďte zdvořilí, ale přirození – může to zlepšit kvalitu odpovědí, ale přehnaná zdvořilost nepřináší další výhody
Je-li „děkuji“ součástí vašeho komunikačního stylu, klidně ho používejte
Na konci diskuse poděkujte, ale nemačkejte Enter! – ušetříte kus Grónského ledovce