LLM jako delegace: Proč je autor nepřirovnává ke kompilátorům

Blaine Hansen tvrdí, že přirovnání velkých jazykových modelů ke kompilátorům nebo elektrickému nářadí zakrývá jejich nepředvídatelnost. Podle něj je přesnější chápat práci s modelem jako delegování úkolu.

Nejde o tvrzení, že LLM nejsou nástroje v běžném smyslu. Autor odmítá hlavně představu, že se chovají jako deterministické systémy s úzkým a přesně definovaným rozhraním.

Proč ne kompilátor

Kompilátor dostane přesně definovaný vstup a má vytvořit výstup podle formálních pravidel. Při stejném vstupu se od něj očekává předvídatelné chování.

LLM naproti tomu pracují s přirozeným jazykem. Zadání může být nejednoznačné a výsledek závisí na kontextu, formulaci promptu i dalších podmínkách. Model může vytvořit přijatelný výstup, ale také udělat nečekanou nebo obtížně vysvětlitelnou chybu.

Proč autor používá metaforu delegace

Při delegování úkolu zadavatel popíše očekávaný výsledek, ale nemá úplnou kontrolu nad každým krokem provedení. Musí počítat se zpětnou vazbou, kontrolou výsledku a případným přepracováním.

Podle Hansena podobně funguje i práce s LLM. Uživatel často neřídí přesný postup, ale zadává cíl a následně ověřuje, zda výsledek odpovídá očekávání.

Přirovnání k delegaci se netýká lidské povahy modelu. Autor výslovně neříká, že se model chová jako člověk. Metafora má vystihnout nejistotu výsledku a omezenou kontrolu nad způsobem provedení.

Praktický dopad pro vývojáře

Pokud tým chápe práci s LLM jako delegování, měl by nastavit:

• jasná kritéria dokončení,
• kontrolu výstupu,
• omezení oprávnění,
• možnost úlohu vrátit k přepracování,
• deterministickou validaci tam, kde je to možné.

U částí systému, které vyžadují přesné a opakovatelné chování, má dál smysl používat běžný kód, schémata, testy a přesně definovaná rozhraní.

Hansenův text je názorová argumentace, ne obecně přijatá technická definice LLM. Nabízí ale užitečný rámec pro přemýšlení o tom, proč agentní systémy potřebují dohled a kontrolní mechanismy.