Mýty, fakta a skrytá tajemství strojového učení

Stále panuje tolik nejistot ohledně nebezpečí a rizik, které nám hrozí ze strany umělé inteligence. A vůbec nejasností kolem jejich fungování.

Když se téma otevře na internetu, pochopitelně každý má názor: pro jednoho je ChatGPT „prostý tipovací stroj“, jiný tvrdí, že „rozumí realitě světa“, že „funguje jako lidský mozek“ a navíc „vědci přiznávají, že se v něm už nevyznají“. Což diskusi nijak neposouvá.

Na školeních ChatGPT věnuju dobrých 30 minut na to, abych poměrně do hloubky vysvětlil, jak v jádru funguje. Aby lidé odcházeli se střízlivou představu nezatíženou mýty o tom, co je to neuronová sít a strojové učení.

Strojové učení jako výchova orchestru

Právě strojové učení bývá obestřeno největším tajemnem. Lidé si to často představují jako tajemnou skříňku, kam naházíte kupu fotek a ona – mávnutím kouzelného proutku – začne rozpoznávat, co na nich je.

Strojové učení je spíš jako výchova štěněte. Řízená člověkem, teda programem, který člověk vymyslel a rozumí mu. Tomu, koho učí, se říká neuronová síť. Technicky vzato je to záplava čísel, ale na chvíli si ji představme jako partu muzikantů tvořících orchestr.

V začátcích jsou všichni absolutní amatéři. Dáte jim za úkol zahrát první tóny Mozarta a výsledek? Víc než tragedie.

Ale pak na scénu vstupuje dirigent s andělskou trpělivostí. A začne s korekcemi. Prvnímu vysvětlí: „Kamaráde, kytara není dechový nástroj.“ Dalšímu, už trochu pokročilejšímu, jemně naznačí: „Hele, jsi celých pět tónů vedle.“ A tak dále. Každý si radu částečně vezme k srdci. Při dalším pokusu je to stále katastrofa, ale už míň apokalyptická. A s každým dalším pokusem se zlepšují, až se z toho absolutního chaosu začne pomalu vyklubávat něco, co by se dalo nazvat hudbou.

Od počátku, kdy nikdo nevěděl, jak se nástroj drží, se postupem času a díky obrovské dávce zpětné vazby rodí virtuózové.

Ale pozor! Zvládnou-li zahrát Malou noční hudbu tisíckrát k dokonalosti, znamená to, že dají i Beethovenovou Osudovou a další hity? To je otázka za milion. Záleží na tom, jestli během učení pochopili principy a techniky, které lze uplatnit na nové skladby, nebo se jen bezmyšlenkovitě naučili svůj part a při pohledu na jiný notový zápis padnou do kómatu.

Žádoucí je, aby nastala první varianta. Což není vůbec samozřejmé. Naopak, desetiletí si špičky v oboru neuronových sítí lámou hlavu, jak vylepšovat dirigenta, aby byl superkomenský. Píší se studie, hledají nové pedagogické finty, zkoumá se, jak moc má tlačit na pilu a tak dále. Je to často bádání metodou pokus-omyl.

Samé ocásky

Co přesně se jednotliví hudebníci naučili, zda mají talent nebo je to čistě vydřené, to není vůbec snadné zjistit. To je ono místo, kde vědci dnes tápou.

Nicméně zaznívají i mnohem odvážnější otázky: Když se podaří orchestr vyladit tak, že zahraje s bravurou jakoukoli skladbu od jazzu po rock, znamená to, že odhalil podstatu hudby? Že chápe, co srdce posluchačů rozbuší? Můžeme očekávat, že jednoho dne přijde s vlastní symfonií, která obletí svět? Pokud vrtíte hlavou, že ne, tak co když počet členů nafoukneme milionkrát? Rozsvítí se pak v něm jiskra geniality?

Je ChatGPT inteligentní, nebo tupě papouškuje, co si přečetl jinde?