vLLM omezil výpadek při škálování z 16 na 20 GPU na 0,82 sekundyElastic EP s NIXL zkrátil přerušení obsluhy z desítek sekund pod jednu sekundu. Rozhodující bylo připojení GPU za běhu a zachování CUDA Graphs.20. října 2026GPUškálovánívLLM
PyNvVideoCodec ve vLLM: přes 2× vyšší propustnost na 8 H100NVIDIA přesunula dekódování videa z CPU na NVDEC. Její test ukazuje, proč multi-GPU video captioning potřebuje vlastní VRAM a MPS.18. září 2026GPUvideo captioningPyNvVideoCodec
Optimalizace modelu DeepSeek V4 Flash na AMD MI300XAutor repozitáře popisuje produkční konfiguraci 304miliardového checkpointu DeepSeek V4 Flash na jedné GPU AMD MI300X včetně výkonu, paměťových nároků a vlastních oprav pro vLLM a ROCm.4. srpna 2026DeepSeekAMDGPU