Survival LLM: offline knihovna a vlastní test na 22 otázkách
Open-source asistent ukládá model i nouzové příručky do počítače. Uváděná přesnost ale pochází z malého testu autora na starší verzi knihovny.
Survival LLM je bezplatný open-source asistent pro macOS a Windows, který po úvodním stažení pracuje bez internetu. Model, vyhledávací index i texty zůstávají na počítači a autor uvádí, že dotazy neopouštějí zařízení. To je užitečná vlastnost pro výpadek sítě i pro soukromé dokumenty, není to však záruka správné zdravotní nebo bezpečnostní rady.
Co se skutečně ukládá lokálně
Plná knihovna má při stažení přibližně 9 GB a po instalaci 19 GB. Obsahuje zhruba 930 tisíc nejčtenějších článků Wikipedie, nikoli celou Wikipedii, a dále například WikiMed, MedlinePlus, Ready.gov, CDC, vojenské zdravotnické a survival manuály, wikiHow či iFixit. Menší varianta bez Wikipedie a iFixit má 1,3 GB ke stažení a asi 3 GB po instalaci.
Odpověď má uvést přečtené články a zvýraznit použitou pasáž. Uživatel může přidat vlastní PDF, dokumenty Word, e-knihy a poznámky. Ani citace ale sama nepotvrzuje, že model zdroj správně vyložil; stránka projektu výslovně upozorňuje, že zejména menší modely chybují.
Instalátor vybírá model podle operační paměti. Pro Mac s nejméně 128 GB nabízí NVIDIA Nemotron 3.5 Super s 80GB downloadem, pro Mac s 32 až 96 GB Qwen3.8 27B o velikosti 18 GB. Windows s nejméně 32 GB dostává Nemotron 3.5 Lightning o velikosti 25 GB a počítače s 16 až 31 GB IBM Granite 4.2 8B o velikosti 6 GB. Podporovány jsou Macy s Apple Silicon a macOS 14 nebo novějším a 64bitové Windows 10 a 11.
Co znamenají výsledky 21 z 22
Web projektu uvádí 21 správných odpovědí z 22 pro Nemotron 3.5 Super i Qwen3.8 27B, 19 pro Nemotron 3.5 Lightning a 14 pro Granite 4.2 8B. Nejde o nezávislý benchmark. Test provedli autoři produktu na dřívějším sestavení knihovny a za správnou považovali odpověď, která vystihla hlavní bod oficiálního doporučení u 22 otázek o výpadku proudu a první pomoci. Hodnocení bylo podle nich zaslepené, ale malý a úzce zaměřený soubor neumožňuje převést výsledek na obecnou „přesnost“ v nouzových situacích.
Pro praktické nasazení je podstatná i spotřeba. Autor na MacBooku Pro naměřil přibližně 100 W během odpovědi trvající 5 až 40 sekund a odhaduje 100 až 300 odpovědí na plnou baterii. Před krizovou situací je proto potřeba stáhnout model i knihovnu, vyzkoušet jejich spuštění bez sítě a uchovat vedle aplikace také přímo ověřené postupy pro konkrétní léky, alergie nebo zařízení. U první pomoci má být model navigací ke zdroji, ne náhradou odborné péče.