Model kognitivní závislosti na LLM ukazuje bod zlomu

Paper Large-Language Models as a Cognitive Virus nepřináší experiment dokazující, že LLM lidem snižují schopnosti. Jeho konkrétní příspěvek je matematický model, který zkoumá jinou otázku: za jakých předpokladů může postupné rozšiřování LLM vytvořit náhlý a obtížně vratný přechod od samostatné práce k trvalému kognitivnímu spoléhání na nástroj.

Autoři dělí populaci do tří stavů. U označuje lidi bez LLM nebo se slabým napojením. C jsou pravidelní uživatelé, kteří si ponechávají čtení, psaní, ověřování a jiné zdroje informací. D představuje trvale závislý stav, v němž LLM nahrazuje podstatnou část těchto operací.

Mezi stavy působí čtyři základní rychlosti: sociální a institucionální šíření používání, návrat od pravidelného používání k nezávislé práci, přechod do závislosti a zotavení ze závislosti. Pátý parametr popisuje, jak silně společnost podporuje samostatné kognitivní návyky, když jsou stále běžné.

Kdy model vytváří technologický lock-in

Nelineární člen modelu dovoluje, aby vedle sebe existovaly dva stabilní režimy. Pokud je kolektivní podpora samostatné práce silnější než individuální návrat k ní, vznikne interval, v němž může populace skončit buď v autonomnějším, nebo více závislém stavu podle své předchozí historie.

Při růstu tlaku na adopci se autonomní režim drží až k hornímu prahu. Po jeho překročení model přeskočí na větev s vyšším podílem pravidelných a závislých uživatelů. Při cestě zpět nestačí snížit adopční tlak na původní hodnotu; systém se vrátí až po překročení nižšího prahu. Rozdíl mezi oběma hranicemi je hystereze, kterou autoři používají jako mechanismus technologického lock-inu.

Tento výsledek plyne z rovnic a zvolených předpokladů, ne z pozorování skutečných uživatelů. Model je typu mean-field: pracuje s průměrnou populací, nezahrnuje strukturu sociálních sítí a rozděluje spojitou škálu chování do tří ostrých kategorií. Ani neurčuje, jak rychle by případný přechod proběhl.

„Kognitivní kompetence“ je ilustrativní parametr

Autoři jednotlivým stavům přiřazují relativní kompetenci dostupnou bez externí pomoci. V ukázkovém výpočtu používají hodnoty 1 pro U, 0,5 pro C a 0,1 pro D. Sami zdůrazňují, že jde o modelovací předpoklad pro substituční režim, nikoli o obecně naměřený dopad LLM. Pokud AI funguje jako lešení a uživatel aktivně rekonstruuje, kontroluje a procvičuje výsledek, může být pořadí jiné.

Právě rozdíl mezi lešením a náhradou je použitelnější než virová metafora. Stejný nástroj může rozšířit schopnosti při práci a současně zanechat uživatele bez samostatné dovednosti po svém odebrání. Paper proto neklade hranici mezi používáním a nepoužíváním AI, ale mezi workflow, které zachovává aktivní uvažování, a workflow, které ho odstraňuje.

Dvě různé úrovně zásahu

Model rozlišuje opatření měnící kolektivní bod zlomu od opatření měnících podíl závislých uživatelů. Omezení automatického vnucování LLM, zachování ne-AI alternativ a pravidelný návrat k samostatným úlohám posouvají podmínky přechodu. Ověřování, metakognitivní trénink a úlohy navržené tak, aby člověk musel nejdřív přemýšlet, mají v modelu snižovat přechod z běžného používání do substituční závislosti.

Z paperu proto nelze tvrdit, že společnost už překročila bod zlomu nebo že konkrétní produkt způsobuje pokles schopností. Lze z něj vytáhnout testovatelnou hypotézu: prevence a návrat nemusí být symetrické, pokud adopci i samostatné návyky posiluje okolí. Aby se z hypotézy stal popis reality, bylo by potřeba změřit přechody mezi stavy, ověřit zvolené parametry a model rozšířit o rozdíly mezi lidmi, institucemi a typy úloh.