LLM jako delegace: Proč nejsou kompilátory ani nástroje
Srovnání LLM s kompilátory a nástroji je zavádějící. LLM jsou spíše o delegaci než o deterministických systémech.
V diskusích o velkých jazykových modelech (LLM) se často objevují srovnání s kompilátory a nástroji, což autor článku považuje za zásadně mylné. Podle něj LLM nejsou deterministické systémy, ale spíše stochastické entity, které nelze přesně ovládat. To je klíčový bod, který ukazuje, proč je lepší chápat LLM jako nástroj pro delegaci úkolů.
Kompilátory a nástroje jsou navrženy tak, aby byly předvídatelné a deterministické. Cílem těchto nástrojů je poskytovat automatickou moc s co nejmenším počtem ovládacích prvků. Například, power tools umožňují uživatelům vykonávat opakující se úkoly rychleji a efektivněji díky jednoduchému ovládání. Naopak, LLM fungují na základě přírodního jazyka, což je nejméně spolehlivé rozhraní pro interakci se systémy. Lidé se k přírodnímu jazyku uchylují, když neexistuje přesnější způsob, jak vyjádřit své požadavky.
Zajímavé na tom je, že ačkoli LLM mohou produkovat přijatelné výsledky, často vyžadují značnou zpětnou vazbu. Autor uvádí, že LLM dělají podivné a matoucí chyby, což ztěžuje spolehlivost jejich výstupů. Používání LLM se tak podobá delegaci úkolu na osobu, což může vést k zklamání, protože očekávání nemusí být splněna. LLM se tedy chovají jako lidé, kteří jsou obtížně kontrolovatelní a mohou zklamat.
Celkově autor zdůrazňuje, že LLM by měly být chápány jako nástroj pro delegaci, nikoli jako náhrada za deterministické systémy, jako jsou kompilátory nebo power tools. Tato perspektiva může pomoci lépe pochopit, jak LLM mění způsob, jakým přistupujeme k úkolům a práci s jazykem.