Conduct: Open-source nástroj pro správu AI agentů
Conduct je open-source nástroj, který zajišťuje dodržování politiky a audit pro AI agenti při volání LLM a MCP nástrojů.
Conduct je open-source nástroj určený pro správu AI agentů, který se zaměřuje na dodržování politiky a audit při interakcích s jazykovými modely (LLM) a nástroji pro správu kódu (MCP). Tento projekt, který je dostupný na GitHubu, nabízí robustní rámec pro řízení a monitorování akcí AI agentů, což je klíčové pro zajištění bezpečnosti a souladu s předpisy.
Hlavní funkce Conduct
Jednou z nejdůležitějších komponent Conduct je Conduct Guard, což je motor politiky, který rozhoduje o akcích AI před jejich provedením. Tato funkce zajišťuje, že každá akce je podrobena kontrole a může být buď zablokována, varována, auditována nebo upravena na základě definovaných pravidel. To znamená, že Conduct Guard kontroluje, co agent může dělat, nikoli pouze to, co udělal. Tento přístup je odlišný od tradičních runtime firewallů, které pouze informují o tom, co agent udělal, a ne kontrolují, co může udělat.
Další klíčovou součástí je Conduct Router, který funguje jako proxy pro LLM. Zajišťuje, že každá žádost prochází Guardem, což posiluje bezpečnostní opatření a zajišťuje dodržování politiky.
Conduct rovněž nabízí více než 20 compliance balíčků, včetně standardů jako OWASP a HIPAA, což usnadňuje integraci s různými regulacemi a zajišťuje, že organizace mohou splnit požadavky na dodržování předpisů.
Rychlý start a nasazení
Nástroj je navržen tak, aby byl snadno nasaditelný. Uživatelé mohou začít s Discovery mode, který poskytuje 14 dní čtenářské viditelnosti do akcí AI bez nutnosti instalace nebo konfigurace. To umožňuje týmům získat přehled o tom, jak jejich AI agenti pracují, a připravit se na pozdější implementaci politiky.
Conduct podporuje self-hosting pomocí Docker Compose a Kubernetes, což dává uživatelům flexibilitu v nasazení podle jejich potřeb. Pro rychlé spuštění stačí stáhnout repozitář a spustit několik příkazů v terminálu.
Bezpečnost a důvěra
Bezpečnost je v Conduct klíčovým prvkem. Každá workspace podepisuje svůj aktivní soubor politik, což znamená, že jakékoli změny musí být ověřeny. Dále Conduct používá SHA-256 hash chain pro auditní log, což zajišťuje integritu a umožňuje snadné ověření historie akcí. Tento mechanismus poskytuje důvěru v to, že žádné akce nebyly manipulovány a že všechna rozhodnutí jsou transparentní a auditovatelné.
Implementace Conduct může vyžadovat specifické nastavení pro různé AI agenti a nástroje, což je důležité mít na paměti při plánování jeho nasazení.