Oprava chyby v OpenAI Chat Completion v LLM 0.31.1
LLM 0.31.1 opravuje konkrétní edge case v tool callingu přes OpenAI-compatible Chat Completion endpointy, kdy prázdné argumenty nástroje mohly u některých providerů způsobit JSON chybu.
llm je nástroj Simona Willisona pro práci s velkými jazykovými modely z příkazové řádky.
Verze llm 0.31.1 opravuje konkrétní chybu u OpenAI-compatible Chat Completion endpointů. Problém se týkal situace, kdy model zavolal nástroj s prázdnými argumenty a některý provider kvůli tomu vrátil JSON chybu.
Simon Willison uvádí, že na chybu narazil při testování projektu llm-meta-ai.
Oprava je praktická hlavně pro uživatele llm, kteří přes OpenAI-compatible Chat Completion endpointy používají tool calling a mohou narazit na volání nástroje bez argumentů.
Nejde o velké vydání ani širší změnu API. Je to malá opravná verze zaměřená na konkrétní edge case v tool callingu.