Své texty píšu v dialogu s jazykovými modely. Když vznikala esej o lišce a ježkovi, Fable do ní přidal odstavec s myšlenkou, která mě samotného nenapadla: „velké jazykové modely jsou samy lišky. Vědí něco o chemii, něco o římském právu, něco o rajčatech a v ničem nejsou zcela spolehlivé.“ Tahle myšlenka mě nepochybně posunula v přemýšlení a od té doby jsem se k ní několikrát vrátil v různých souvislostech.
I odstavec, který jste si právě přečetli, vznikal podobně. GPT-6 Astra mi ho pomohl několikrát přeformulovat, než jsem byl celkem spokojený. Dnes tak píšu běžně: zadám jednoduchý prompt a nechám si navrhnout odstavec. Pak ho s dalšími pokyny předám k přepsání modelu, který mi v tu chvíli připadá pro češtinu nejlepší. Něco sám upravím, upozorním na to, co mi nesedí, a nechám model zkusit další verzi. Někdy mi text vyhovuje napoprvé, jindy napotřetí a někdy až po mé závěrečné úpravě. Tak vzniká znění, které se nakonec dostane ke čtenáři.
Průměrný génius
Psychologové se snaží měřit tvořivost desítky let. Nejčastěji používají úlohy na rozbíhavé myšlení: vymyslete co nejvíc neobvyklých využití cihly nebo napište deset slov, která spolu mají co nejméně společného. Tvořivost tím sice nezachytí v celé šíři, výsledky ale mohou vyjádřit čísly a vzájemně porovnat. Když v roce 2023 dostal podobnou úlohu ChatGPT, překonal průměrného člověka.
Jenže průměr neříká všechno. Tým kolem Briana Uzziho z Northwestern University, jehož práci o vědeckých týmech jsem citoval už v Lišce, nedávno porovnal odpovědi 9 198 lidí s 215 542 odpověďmi devíti jazykových modelů. V průměrném skóre mezi lidmi a modely prakticky nebyl rozdíl. Ten se ukázal až v rozložení výsledků. Modely se držely kolem průměru, zatímco mezi lidmi se našla hrstka těch, jejichž nápady byly mnohem originálnější než cokoli, co vytvořilo AI. Autoři tomu říkají problém odlehlých hodnot. Umělá inteligence dokáže být stejně tvořivá jako průměrný člověk. Jenže právě díky těm, kdo z průměru výrazně vybočují, lidstvo nachází nové cesty.
Ještě větší studie z Montrealu, na níž se podílel i Yoshua Bengio, letos potvrdila podobný výsledek u 100 000 lidí, kteří psali haiku, filmové synopse a velmi krátké povídky. GPT-4 nastavený na vysokou míru náhodnosti při tvorbě odpovědí předčil 72 procent účastníků. Tvorba lepší poloviny lidí však byla v souhrnu pestřejší než odpovědi modelu.
Odkud se toto omezení bere? Částečně souvisí s tím, jak se modely dolaďují. Díky lidské zpětné vazbě se model učí lépe reagovat na naše požadavky, jeho odpovědi tím ale zároveň ztrácejí na rozmanitosti. Dává přednost tomu, co se lidem líbí, a často proto sází na jistotu: nabídne něco dobře známého. Dolaďování se podrobněji věnuji ve své knize, v kapitole Co je vlastně umělá inteligence.
Všichni stejně originální
Mohli bychom se tedy spokojit s tím, že modely zvládají slušný průměr a lidem zůstávají výjimečné nápady. Každý má své místo. Jenže při psaní se člověk s modelem může spojit. Co vznikne z jejich spolupráce? Anil Doshi a Oliver Hauser to zkoumali v experimentu, v němž 293 lidí napsalo krátkou povídku. Část se spolehla na vlastní nápady, ostatní dostali od GPT-4 jeden nebo pět návrhů zápletky. Hotové texty pak posuzovalo šest set hodnotitelů. Povídky napsané s pomocí modelu hodnotili jako čtivější a lépe napsané. Nejvíc pomoc prospěla těm, kteří si v předchozím testu tvořivosti vedli nejhůř.
Jenže povídky napsané s pomocí modelu si byly navzájem mnohem podobnější než ty, které lidé psali sami. Autoři v tom vidí sociální dilema: jednotlivci se vyplatí model použít, ale pokud po něm sáhnou všichni, literatura jako celek ztratí na pestrosti. Podobnou past známe u antibiotik nebo cestování autem po městě. Co se vyplatí jednomu, může ve výsledku uškodit všem.
Nestačilo by modely střídat? Stejná úvaha napadla i mě a střídání modelů tvoří část mého postupu, který popíšu níže. Emily Wengerová a Yoed Kenett letos účinek střídání modelů otestovali: stejnou sadu úloh zadali 22 různým modelům a 102 lidem. Odpovědi modelů si byly navzájem podobnější než odpovědi kterýchkoli dvou lidí. Podobnost přetrvala, i když výzkumníci odhlédli od formulací a porovnávali samotný obsah. Modely pocházejí od různých firem, ale učí se na podobných datech z internetu, a tak často dospívají k podobným nápadům. Střídání modelů pak připomíná listování několika průvodci po stejném městě: každý je napsaný jinak, ale všechny nás vedou stejnými ulicemi.
Třetí nález se týká samotného myšlení. Harsh Kumar a kolegové z Torontské univerzity rozdělili 1 100 lidí do skupin a části nabídli pomoc jazykového modelu. Kdo viděl návrhy modelu, začal se jich držet a přestal hledat vlastní cesty. Po odebrání modelu si tito účastníci v dalších úlohách vedli hůř než lidé, kteří od začátku pracovali sami. Když za vás činku zvedá někdo jiný, vaše svaly ochabují.
Přínosy i ztráty dobře ukazuje analýza výsledků několika studií Niklase Holznera, Sebastiana Maiera a Stefana Feuerriegela z Mnichova, kteří loni shrnuli výsledky 28 experimentů s 8 214 účastníky. Mezi tvořivostí samotného modelu a člověka nezjistili statisticky významný rozdíl. S pomocí modelu ale lidé tvořivější byli – mírně, přesto měřitelně. Za drobný posun v kvalitě však zaplatili mnohem větším úbytkem pestrosti. Stále se nám vrací stejný obraz: jednotlivé texty jsou lepší, celek chudší.
Ethan Mollick, autor knihy Co-Intelligence, přirovnává modely k podivným stážistům: jsou rychlí, sečtělí, trochu z jiné planety a ve snaze zavděčit se občas něco vymyslí. Se stážistou musíte chvíli pracovat, abyste poznali, co mu jde, kde potřebuje vedení a kdy je lepší pustit se do práce sám. Můžete mu třeba zadat k vypracování dvacet verzí úvodu. Pořád ale zbývá rozhodnout, zda některá skutečně vystihuje, co vlastně chcete říct.
Mollick popisuje, jak mu model pomáhal při psaní knihy. Když nevěděl, jak dál s rozepsaným odstavcem, nechal si navrhnout několik variant. Do rukopisu z nich převzal jen máloco, přesto mu pomohly znovu se rozepsat. I návrh, který nakonec celý zavrhneme, nám může posloužit. Nad cizím zněním si někdy snáz ujasníme, co nám nesedí, co chybí a jak bychom chtěli myšlenku rozvinout sami. A to vždy byla velmi podstatná část autorské práce.
Bohužel právě o průběžném ladění textu zatím mnoho nevíme. Přiznávají to i autoři mnichovského souhrnu studií. Člověk škrtá, nesouhlasí, žádá jiný směr. Model přepisuje. Pomáhá taková spolupráce zachovat pestrost? Dosavadní výzkum nedává jasnou odpověď. Víme jen, že lepší jednotlivé texty mohou dohromady tvořit chudší celek.
Deset tisíc rozhodnutí
Spisovatel Ted Chiang, autor povídky, podle níž vznikl film Příchozí, se v eseji pro New Yorker z roku 2024 dotkl samotné podstaty autorství. Povídka o deseti tisících slovech podle něj znamená deset tisíc rozhodnutí: proč právě tohle slovo, kde ukončit větu, co vyslovit a co ponechat mezi řádky. Zadáme-li modelu sto slov a převezmeme hotovou povídku, většinu rozhodování přenecháme stroji. Ten podle Chianga doplní mezery zprůměrováním voleb jiných autorů nebo napodobením konkrétního stylu. Textu přibývá, ale podíl vlastního záměru se ředí. Drobná rozhodnutí určují, co ve skutečnosti sdělujeme.
Neurovědec Erik Hoel připomíná, že za obrazem či básní hledáme člověka. Něco viděl, něco ho zasáhlo a nedalo mu pokoj, dokud se nám to nepokusil sdělit. Díváme se na obraz a vidíme svět jeho očima. Když lidská zkušenost chybí, výsledek sice může být zajímavý, ale chybí ono osobní setkání.
Nick Cave podobnou výhradu vyslovil bez okolků. Obdržel od fanouška píseň, kterou ChatGPT napsal „ve stylu Nicka Cavea“. Cave mu odpověděl, že písně vznikají z utrpení: člověk pochybuje, naráží na vlastní meze a pokouší se posunout o kousek dál. Data netrpí. Zaslanou píseň Cave nazval groteskním výsměchem tomu, co znamená být člověkem.
Podobně uvažuje i badatel Mark Runco. Nad povedeným dílem se ptá, jak vzniklo a proč se do něj autor vůbec pustil. Model může vytvořit něco originálního a užitečného, schází mu však vlastní pohnutka: nic ho netrápí, nic se v něm nedožaduje vyslovení. Nápaditý výsledek ještě nevypovídá o tvořivosti původce. Pro schopnosti modelů Runco navrhuje označení umělá tvořivost.
David Cropley, který nechal ChatGPT projít testem tvořivosti, loni odvodil její matematický strop na hranici každodenní a profesionální tvorby. Výpočet stojí na předpokladu, že pravděpodobnější slovo lépe zapadá do kontextu, ale méně pravděpodobně přináší novost. Originalita roste na úkor vhodnosti.
Skladatel Anthony Brandt ukazuje, co se může stát s nezvyklým nápadem, když u něj člověk vydrží. Zpočátku působí podivně, nikam nezapadá. Autor ho však rozvíjí, domýšlí jeho důsledky, až kolem něj vystaví celé dílo. Zvláštnost najednou dostane smysl a všechno ostatní drží pohromadě právě díky ní. Takovou cestu však zvládají jazykové modely obtížně, pokud je nevede člověk. Překvapit totiž nestačí. Překvapení musí také k něčemu být.
Jak to dělám já
S modely píšu denně a hodně. Za poslední měsíce tak vznikla například kniha o umělé inteligenci a řada textů na blogy. Bez modelů by nic z toho neexistovalo – nemám na to čas ani sílu. Jak s nimi pracuji, jsem stručně popsal v úvodním textu blogu a v závěru knihy.
Když hledám název kapitoly, nechám si navrhnout i několik desítek možností. Většina je průměrná, ale při porovnávání snáz poznám, co funguje. Podobně pracuji s odstavcem, se kterým nejsem spokojený: nechám ho třeba desetkrát přepsat a někdy přitom vystřídám různé modely. V nejlepší verzi pak změním pár slov nebo jen slovosled a pošlu ji do dalšího kola. Někdy stačí drobná úprava, aby model přišel s větou, která mi v odstavci chyběla.
Aby mi šla práce rychleji od ruky, vytvořil jsem si vlastní editor, který průběžně vylepšuji. Programuju už desítky let a s pomocí dnešní AI dokážu zázraky. Jedním tlačítkem si zkopíruji text i zadání do schránky a vložím je do Codexu, Claude Code, ChatGPT nebo webového Clauda na claude.ai. Odpověď pak přenesu zpátky do editoru, kde ji můžu přijmout jako nové znění, nebo zahodit.
Dlouhodobě také ladím vlastní pracovní postupy modelů. V Claude Code i v Codexu se jim říká skills – uložené instrukce a podklady pro opakované úkoly. Samotné skills za sebe nechávám psát AI. Já jí pomáhám s laděním a postupně do nich promítám své zkušenosti s tím, co při psaní a kontrole textů funguje.
Hotový text nechám posoudit jiným modelem v roli přísného editora. Psaní článku obvykle koordinuje Claude Fable, zatímco posudek dnes většinou píše ChatGPT Astra. Zadání je jasné: nic neopravovat přímo, jen hledat mezery v argumentaci, nesrovnalosti a kostrbatou češtinu. Můj software umí jednotlivé návrhy ukázat u konkrétního místa a nabídnout nástroje k efektivním úpravám a poznámkám. U Lišky přišel s 23 nálezy. Čtrnáct jsem zapracoval a devět zamítl, včetně jednoho ze dvou, které označil za závažné. K jeho zamítnutí jsem si poznamenal jediné slovo: záměr. I umělému editorovi se vyplatí naslouchat. Musím si ale dávat pozor, abych nezačal automaticky přijímat všechno, co mi doporučí.
U faktů postupuji jinak než u formulací. Jejich kontrolu také svěřuji automatu, ale s přísnými pravidly: každé tvrzení musí dohledat a doložit konkrétními citacemi. Co nedoloží, musí označit jako nedoložené.
Nakonec si každý odstavec sám přečtu a zamknu ho, aby do něj už žádný model nemohl zasáhnout. U Lišky jsem během jediného dne zamkl čtyři pětiny odstavců. To byl den, kdy jsem text doopravdy napsal. Ani obálka není vygenerovaná modelem. Je to koláž dvou starých mědirytin a sítě vědních oborů spočítané z dat. Důkladně nechávám ověřovat i licence použitých podkladů – v tomto případě obou rytin.
Při takovém způsobu práce dobře chápu, co Chiang píše o autorských rozhodnutích. K některým z nich dospívám až nad navrženou větou. Čtu ji a říkám si: tady to ještě není ono, tohle slovo říká víc, než chci, a tamto bych raději nechal čtenáře domyslet. Jak větu přepisuji, ujasňuje se mi i samotná myšlenka. Někdy zahodím všechny návrhy a najdu si vlastní formulaci. Ani tehdy nebyly návrhy zbytečné. Až nad nimi jsem přišel na to, co vlastně chci říct.
Jenže kus rozhodování modelu přece jen přenechávám. Někdy o tom vím, jindy si toho ani nevšimnu. Už tím, jaké možnosti mi nabídne, mi ukazuje, kudy se dá přemýšlet. A člověk se snáze vydá po cestě, kterou má před očima. Mohu text přepsat desetkrát, a přece nemám jistotu, že v něm bude slyšet můj hlas. Záleží na tom, co z těch návrhů přijmu, co odmítnu a co si nakonec řeknu po svém.
Podobá se pak mé psaní víc tomu, co píší druzí? Patrně ano. Jenže psaním si také ujasňuji, co si vlastně myslím a jak to povědět druhému člověku. Na slovní bohatosti ani literární originalitě mi tolik nezáleží. Záleží mi však na tom, abych měl co říci. A pokud mohu soudit, článků, které by se těmito věcmi zabývaly takhle dopodrobna, zatím po světě mnoho není.
Stejně jako většina mých textů vznikl i tento v dialogu s několika jazykovými modely. Pomáhají mi s formulacemi, protiargumenty a oponováním mým závěrům. Směr, výběr argumentů i konečná podoba jsou moje, důležitá tvrzení ověřuji ve zdrojích a za výsledek nesu odpovědnost já. Více v úvodním textu blogu. Kniha Umělá inteligence srozumitelně – od fungování modelů po dopady na práci, školu i demokracii, včetně českého kontextu – je zdarma ke stažení pod licencí CC BY 4.0.