Enterprise AI обычно ломается не на демо, а после него: когда система встречает реальные данные, доступы, workflows, evals, security, стоимость и ownership.
Тексты
Заметки об AI-системах, LLM security, агентах и работе с моделями.
Перед очередным AI-пилотом нужно проверить процесс, данные, риски, операционную модель и путь к ROI. Это аудит, который я провожу до рекомендации разработки.
Enterprise-агенты ломаются, когда контекст считают длинным промптом. Production требует scoped memory, retrieval, permissions, tool context, evals и observability.
Production-агентам нужны threat modeling, permissions, evals, tracing, guardrails и human review. Security начинается там, где обычно заканчиваются демо.
Production LLM-системе нужны regression tests для ответов, retrieval, tools, refusals, cost, latency и human handoff. Одной accuracy недостаточно.
Когда LLM вызывает tools, безопасность уже не только про текст. Нужны permissions, confirmations, audit logs, tool schemas, sandboxing и защита от prompt injection.
Практическая заметка про MCP tooling: если включить слишком много tools сразу, они загрязняют context window и усложняют контроль поведения агента.
Полевые заметки о локальных моделях с MCP tools: что работает хорошо, что ломается и почему локальным AI-workflows все равно нужна архитектура.