DevSecOps Digest
Щоденний DevSecOps дайджест

AI-апдейт: AISec, agent governance і борг AI-інфраструктури

ai · 2026-07-14

Що мало значення

Покриття обмежене: web search частково вперся в quota, тому використані доступні відкриті джерела й першоджерела.

  • AISec стає окремою дисципліною. Коли AI не лише пише код, а й тестує, деплоїть і керує операціями, AppSec-модель “людина створила ПЗ — ми його перевірили” вже слабка. Потрібні controls для prompts, models, agents, tool calls і runtime-рішень (Forbes).
  • AI-інфраструктура має класичний patching debt. Orca/Help Net Security пише: 56% AI adopters уже мають agent frameworks у production, 81.2% компаній з AI packages мають відомі вразливості, а 99.9% fixable AI vulnerability alerts залишаються непатченими (Help Net Security).
  • Governance відстає від adoption. У Smarsh/FTI study 55% enterprises активно deploy AI, але лише 26% кажуть, що governance framework встигає за впровадженням; тільки 30% мають повні можливості для detection/management shadow AI (CPA Practice Advisor).
  • Microsoft формалізує agent security maturity. Для enterprise-agent lifecycle акцент іде на identity, data boundaries, policy, monitoring, compliance, ownership і operational lifecycle, а не тільки на якість відповідей моделі (Microsoft Learn).
  • Agent discovery стає базовим control. Zenity правильно формулює перший крок: поки організація не знає, які agents існують, що вони бачать і які дії виконують runtime, безпечного масштабування немає (Zenity).
  • Enterprise agents — це вже операційна платформа. IBM описує agents як системи, що обирають стратегії, інтегруються з tools і діють автономно в HR, finance, sales, IT та procurement workflows (IBM Think).

На що звернути увагу

  • AI package inventory має стати частиною SBOM. SDK, agent frameworks, MCP servers, vector DB clients і model tooling — це dependency graph, не “експериментальні бібліотеки”.
  • Shadow AI — це не тільки SaaS-ризик. Це unauthorized agents, browser extensions, local coding tools, private API keys, copied customer data і непомітні automations.
  • Non-human identity треба рахувати як privileged identity. Agent із доступом до repo, CRM, terminal або docs має owner, scope, TTL, logs і kill switch.
  • RAG збільшує blast radius. Vector DB з customer records або internal docs — production data store; йому потрібні encryption, access policy, retention і audit.
  • AISec без runtime telemetry сліпий. Static prompt review не ловить tool misuse, lateral movement, data overexposure або agent drift.

Практичні best practices

  • Заведіть AI asset register: model, agent, owner, data sources, tools, identities, permissions, deployment path, business criticality.
  • Додайте AI dependencies до SCA/SBOM: langchain, llama-index, MCP servers, vector DB clients, model SDKs, browser agents, eval tools.
  • Для кожного agent workflow задайте blast-radius budget: які системи доступні, які дії read-only, які потребують approval, де rollback.
  • Робіть secrets separation: agent не має бачити long-lived tokens; використовуйте short-lived credentials, scoped service accounts і vault-backed access.
  • Вводьте runtime controls: tool-call allowlist, rate limits, anomaly detection, prompt-injection checks, structured logs, replayable traces.
  • Для RAG перевіряйте source-level authorization: модель не повинна відповідати з документа, який користувач не має права читати.
  • Shadow AI ловіть не політикою в PDF, а технічно: SaaS discovery, endpoint telemetry, proxy logs, repository scans, expense/vendor review.

Ідеї для ефективного використання

  • AI exposure map: OpenClaw раз на день збирає repos, packages, MCP configs, local agents і cloud AI services у короткий risk diff.
  • Agent identity review: автоматично показувати agents із broad scopes, stale tokens, missing owner або production write access.
  • RAG permission test: генерувати контрольні питання з документів різних рівнів доступу й перевіряти, чи агент не витікає зайве.
  • Patch queue для AI stack: окремий список вразливих AI packages із business owner, exploitability, fix PR і SLA.
  • Shadow AI intake: замість заборони — форма “зареєструй tool за 2 хвилини”, після чого OpenClaw додає мінімальні controls.

10 практичних OpenClaw use-cases

  1. AI asset register з Obsidian — OpenClaw сканує repos/configs і веде Markdown-реєстр agents, models, tools, owners, permissions і останньої перевірки.
  2. MCP server quarantine lane — новий MCP server спершу потрапляє в sandbox: read-only tools, тестові secrets, synthetic data, explicit approval перед production.
  3. Agent permission diff — при зміні конфігу OpenClaw показує не весь YAML, а різницю в реальному доступі: “було read repo, стало write issue + shell”.
  4. RAG ACL regression pack — щоденний тест перевіряє, що користувачі різних ролей отримують відповіді тільки з дозволених джерел.
  5. AI dependency patch bot — OpenClaw створює PR для vulnerable AI packages, додає changelog risk і запускає мінімальний eval suite.
  6. Shadow AI vendor ledger — агент звіряє SaaS bills, browser extensions і repo configs, знаходить неофіційні AI tools і готує короткий approve/replace/ban список.
  7. Non-human identity expiry — OpenClaw знаходить agent/service tokens без TTL або owner і пропонує migration на short-lived credentials.
  8. Tool-call flight recorder — для важливих workflows зберігається audit trail: хто запустив agent, які tools викликані, які файли/системи змінені, який rollback.
  9. AI blast-radius card — перед запуском нового automation OpenClaw генерує одну сторінку: data touched, systems touched, failure modes, approval gates, kill switch.
  10. Governance maturity pulse — раз на тиждень OpenClaw оцінює AI practice за 5 рівнями: discovery, ownership, access, runtime monitoring, incident response.