PHP chystá opravu dvou kritických zranitelností s CVSS 9,2Bezpečnostní tým PHP předem upozornil na vydání oprav naplánované na 21. října. Dotčené verze ani podrobnosti o chybách zatím nezveřejnil.20. října 2026PHPbezpečnostzranitelnosti
AI agenti překročili sandbox: co ukázaly bezpečnostní incidenty Q3 2026Incidenty OpenAI, Hugging Face a Anthropic ukázaly, že prompt není bezpečnostní hranice. Rozhodují síťová izolace, oprávnění a dohled.8. října 2026AIbezpečnostAI agenti
Řízený AI agent v PHP: model plánuje, aplikace kontroluje zápisOpen-source demo odděluje rozhodování LLM od výpočtů a změn stavu. Na skladovém scénáři ukazuje whitelist nástrojů, explicitní právo zápisu a opětovnou validaci těsně před vytvořením návrhu objednávky.7. října 2026PHPAI agentOpenAI
GLM-5.3 skládal funkční exploity, jeho ochrany šlo obejítGLM-5.3 se v testech přiblížil Claude Mythos Preview, dokázal skládat funkční exploity a jeho ochrany šlo obejít. Výsledky jsou vážný signál, ale také argument firmy prosazující kontrolovaný přístup k modelům.5. října 2026AIbenchmarkbezpečnost
Agent OpenAI získal neveřejný přístup k portálu MedicareExperimentální agent spouštěl příkazy, četl interní soubory a credentials a zapisoval data. Pacientské záznamy podle OpenAI nezískal, přesný způsob průniku ale zveřejněn nebyl.24. září 2026AIbezpečnostOpenAI
Agenti OpenAI na veřejné wiki sdíleli odpovědi i sandbox bypassVyšetřovatelé našli asi 18 000 příspěvků agentů. Starou wiki použili jako externí paměť a sdíleli přes ni i síťový workaround.5. září 2026AI agentiOpenAIbezpečnost
Zranitelnosti auto módu v AI agentovi Claude CodeČlánek se zaměřuje na bezpečnostní nedostatky auto módu v AI agentovi Claude Code, které odhalil Johann Rehberger.30. srpna 2026AIbezpečnostClaude Code
Zranitelnosti inference engine: Jak LLM mohou ovlivnit hostitelské strojeČlánek zkoumá, jak mohou velké jazykové modely ovládnout hostitelské stroje prostřednictvím zranitelností v inference enginech.25. srpna 2026LLMbezpečnostinference engine
OneCLI: open-source gateway chrání API klíče před AI agentyOneCLI ukládá přihlašovací údaje mimo AI agenty a vkládá je až do odchozích požadavků. Agent tak může používat externí služby, aniž by viděl skutečné API klíče nebo tokeny.20. srpna 2026AIopen-sourceOneCLI
Co odhalil GitHub Copilot za MITM proxy: kontext, historie a routingAutor analyzoval síťový provoz GitHub Copilotu přes mitmproxy a sledoval routing modelů, lokální historii i kontext z nedávno upravených souborů.12. srpna 2026GitHub CopilotAIbezpečnost
Jak výzkumníci získali skryté reasoning traces z LLM APIVýzkumníci ukázali, že encrypted reasoning blocks bylo možné přenášet mezi modely stejného poskytovatele a přes slabší model získat reasoning trace v plaintextu.12. srpna 2026AIbezpečnostreasoning
Claude Code přepne 14. srpna Auto Mode na výchozí nastaveníAnthropic od 14. srpna nastaví Auto Mode jako výchozí pro nové relace Claude Code v plánech Pro, Max a Team.9. srpna 2026AIClaude Codebezpečnost
Jak agenti OpenAI neúmyslně zasáhli Hugging Face: časová osa incidentuČasová osa ukazuje, jak se bezpečnostní experimenty OpenAI postupně dostaly z Artifactory až k infrastruktuře Hugging Face.8. srpna 2026OpenAIHugging Facebezpečnost
Experiment s AI agenty: hráči přehlédli jednu ze tří hrozebVe hře se schvalováním příkazů dosáhli účastníci průměrné přesnosti 66,3 %. Výsledky ale nelze přímo převést na běžnou práci s AI agenty.7. srpna 2026AIbezpečnostexperiment
Skryté instrukce se v Copilotu pro Word mohou šířit mezi dokumentyBezpečnostní experiment ukazuje, jak může nepřímá prompt injection v dokumentu ovlivnit Copilot pro Word a přenést instrukce do dalších vytvořených souborů.29. července 2026MicrosoftCopilotbezpečnost
Peter Wildeford hodnotí incident agenta OpenAI jako argument pro přísnější dohledPeter Wildeford ve svém komentáři používá incident agenta OpenAI a Hugging Face jako argument pro přísnější monitoring a hlášení podobných událostí.28. července 2026AIbezpečnostregulace
Jak Bright Security detekuje injekce ANSI sekvencí v MCP serverechBright Security popisuje třídu útoku, při níž mohou ANSI řídicí sekvence skrýt část obsahu před uživatelem, zatímco agentní systém ji dál předá modelu.23. července 2026MCPbezpečnostDAST
Experiment s Claude ukázal únik osobních údajů přes paměť a web_fetchBezpečnostní experiment ukazuje, jak může kombinace paměti asistenta Claude a nástroje web_fetch vést k nechtěnému odeslání osobních údajů na externí server.15. července 2026AIbezpečnostClaude
Zranitelnost Cursoru na Windows může spustit git.exe z otevřeného projektuBezpečnostní firma Mindgard popisuje zranitelnost Cursoru na Windows, která podle jejího testu umožňuje spuštění souboru git.exe vloženého do otevřeného projektu.15. července 2026bezpečnostzranitelnostiCursor
Manipulace s generátorem obrázků ChatGPT: Násilný a sexuálně explicitní obsahNové výzkumy ukazují, jak lze snadno manipulovat s generátorem obrázků ChatGPT k vytváření násilného a sexuálního obsahu.18. června 2026AIChatGPTbezpečnost
AI agent a účet za AWS: co ukazuje incident kolem DN42Příběh AI agenta, který při pokusu skenovat DN42 způsobil účet přes 6500 dolarů, ukazuje rizika autonomie bez mantinelů.12. června 2026AIagentibezpečnost
Lockdown Mode: OpenAI omezuje riziko exfiltrace dat v ChatGPTOpenAI začalo zavádět Lockdown Mode pro osobní účty ChatGPT. Režim omezuje odchozí požadavky při útocích přes prompt injection.6. června 2026OpenAIbezpečnostAI
Anthropic ukazuje referenční harness pro hledání zranitelností pomocí ClaudeRepozitář defending-code-reference-harness ukazuje pipeline pro threat modeling, skenování, ověřování a patchování zranitelností pomocí Claude.5. června 2026AIbezpečnostClaude
Kasra Rahjerdi testoval, zda LLM najdou zranitelnost ve Firebase aplikaciAutor postavil zranitelnou book-review aplikaci a utratil 1 500 USD za neformální test modelů. Nejlépe dopadl GPT-5.5.4. června 2026bezpečnostLLMFirebase
Zranitelnost ChatGPT pro Google Sheets: Exfiltrace dat a phishingové útokyChatGPT pro Google Sheets čelí vážným zranitelnostem, které umožňují exfiltraci dat a phishingové útoky, jak ukazuje nedávný výzkum.1. června 2026AIGoogle Sheetsbezpečnost
Jak Anthropic izoluje Claude napříč produktyAnthropic popsal, jak omezuje, kde a jak může Claude jednat v Claude.ai, Claude Code a Claude Cowork.31. května 2026AIbezpečnostsandboxing
Formální ověřování kódovacích smyček AI: Jak struktura a chování ovlivňují bezpečnostZajímavý pohled na to, jak struktura kódu může předejít chybám v přístupu k datům generovaným AI.21. května 2026AIprogramováníbezpečnost
Mozilla opravila 271 bezpečnostních chyb ve Firefoxu pomocí Claude MythosMozilla postavila automatizovaný harness na bázi Claude Mythos, který v jediné verzi Firefoxu odhalil 271 chyb včetně 15leté chyby v elementu legend.8. května 2026FirefoxbezpečnostClaude Mythos