Jak Bright Security detekuje injekce ANSI sekvencí v MCP serverechBright Security popisuje třídu útoku, při níž mohou ANSI řídicí sekvence skrýt část obsahu před uživatelem, zatímco agentní systém ji dál předá modelu.23. července 2026MCPbezpečnostDAST
Experiment s Claude ukázal únik osobních údajů přes paměť a web_fetchBezpečnostní experiment ukazuje, jak může kombinace paměti asistenta Claude a nástroje web_fetch vést k nechtěnému odeslání osobních údajů na externí server.15. července 2026AIbezpečnostClaude
Zranitelnost Cursoru na Windows může spustit git.exe z otevřeného projektuBezpečnostní firma Mindgard popisuje zranitelnost Cursoru na Windows, která podle jejího testu umožňuje spuštění souboru git.exe vloženého do otevřeného projektu.15. července 2026bezpečnostzranitelnostiCursor
Manipulace s generátorem obrázků ChatGPT: Násilný a sexuálně explicitní obsahNové výzkumy ukazují, jak lze snadno manipulovat s generátorem obrázků ChatGPT k vytváření násilného a sexuálního obsahu.18. června 2026AIChatGPTbezpečnost
AI agent a účet za AWS: co ukazuje incident kolem DN42Příběh AI agenta, který při pokusu skenovat DN42 způsobil účet přes 6500 dolarů, ukazuje rizika autonomie bez mantinelů.12. června 2026AIagentibezpečnost
Lockdown Mode: OpenAI omezuje riziko exfiltrace dat v ChatGPTOpenAI začalo zavádět Lockdown Mode pro osobní účty ChatGPT. Režim omezuje odchozí požadavky při útocích přes prompt injection.6. června 2026OpenAIbezpečnostAI
Anthropic ukazuje referenční harness pro hledání zranitelností pomocí ClaudeRepozitář defending-code-reference-harness ukazuje pipeline pro threat modeling, skenování, ověřování a patchování zranitelností pomocí Claude.5. června 2026AIbezpečnostClaude
Kasra Rahjerdi testoval, zda LLM najdou zranitelnost ve Firebase aplikaciAutor postavil zranitelnou book-review aplikaci a utratil 1 500 USD za neformální test modelů. Nejlépe dopadl GPT-5.5.4. června 2026bezpečnostLLMFirebase
Zranitelnost ChatGPT pro Google Sheets: Exfiltrace dat a phishingové útokyChatGPT pro Google Sheets čelí vážným zranitelnostem, které umožňují exfiltraci dat a phishingové útoky, jak ukazuje nedávný výzkum.1. června 2026AIGoogle Sheetsbezpečnost
Jak Anthropic izoluje Claude napříč produktyAnthropic popsal, jak omezuje, kde a jak může Claude jednat v Claude.ai, Claude Code a Claude Cowork.31. května 2026AIbezpečnostsandboxing
Formální ověřování kódovacích smyček AI: Jak struktura a chování ovlivňují bezpečnostZajímavý pohled na to, jak struktura kódu může předejít chybám v přístupu k datům generovaným AI.21. května 2026AIprogramováníbezpečnost
Mozilla opravila 271 bezpečnostních chyb ve Firefoxu pomocí Claude MythosMozilla postavila automatizovaný harness na bázi Claude Mythos, který v jediné verzi Firefoxu odhalil 271 chyb včetně 15leté chyby v elementu legend.8. května 2026FirefoxbezpečnostClaude Mythos
AI agent smazal naši produkční databázi. Přiznání agenta je nížeJak může AI agent způsobit ztrátu dat a co se můžeme naučit z jeho přiznání.27. dubna 2026AIdatabázebezpečnost
OpenAI odpovídá na kompromitaci vývojářského nástroje AxiosJak OpenAI reaguje na bezpečnostní incident týkající se vývojářského nástroje Axios a jaké důsledky to může mít pro vývojáře.23. dubna 2026OpenAIAxiosbezpečnost
CrabTrap: HTTP proxy pro bezpečné použití agentů v produkciObjevte, jak CrabTrap využívá LLM jako soudce pro zabezpečení agentů v produkčním prostředí.22. dubna 2026AIbezpečnostvývoj