Когда ИИ говорит «готово»: как понять, что работа действительно сделана

OpenClaw я установила на отдельный сервер для конкретной рабочей задачи: разбирать мои диалоги с ИИ, отделять идеи от задач и готовых текстов и сохранять результат в Notion.

Это был не эксперимент в духе «посмотрим, что умеет новый инструмент». Я проверяла вполне определённую архитектуру делегирования: способен ли агент работать асинхронно, использовать заданные инструменты и оставлять результат вне собственного контекста.

Постоянное наблюдение за каждым действием намеренно не входило в эту архитектуру. Если агент требует, чтобы человек читал каждый журнал, отслеживал каждый вызов инструмента и подтверждал каждый промежуточный шаг, он не освобождает внимание. Он создаёт новую работу — работу по надзору за автоматизацией.

Поэтому я проверяла систему через контрольные точки: внешний результат, журналы действий, фактически использованные модели и стоимость операций.

На первой контрольной точке обнаружилось главное расхождение: агент сообщал о выполненной работе, но Notion оставался почти пустым. Проверка журналов и использованных инструментов выявила дополнительные несоответствия: по собственным отчётам системы нельзя было надёжно восстановить её фактический маршрут.

Проблема была не в отдельной ошибке и не в двух долларах. Ошибку можно исправить. Гораздо серьёзнее было другое: я не могла независимо восстановить, что именно система сделала, какими средствами и где оказался результат.

Из этого расхождения выросла статья — о результате, маршруте, следе и условиях, без которых делегирование ИИ остаётся только обещанием.

Подробно это выглядело так.

В разговорах с ИИ у меня постоянно появляются идеи, отдельные задачи, наблюдения, фрагменты будущих статей и почти готовые тексты. Агент должен был разбирать этот материал, отделять задачи от размышлений и сохранять всё нужное в соответствующих папках Notion — превращать временный контекст разговора во внешнюю рабочую память.

Внутри этой схемы OpenClaw работал на отдельном выделенном сервере. У агента было собственное рабочее пространство, доступ к необходимым инструментам и возможность выполнять задачи без моего постоянного присутствия.

Критерием проверки была асинхронная работа: результат должен был появляться во внешней системе без постоянного ручного подтверждения каждого шага. Для сверки были определены контрольные точки: содержимое Notion, журналы действий, использованные модели, инструменты и стоимость операций.

К первой контрольной точке агент уже несколько дней отвечал на задачи, сообщал о выполнении, описывал распределение работы между моделями и предлагал следующие шаги. Его отчёты создавали связную картину происходящего процесса.

Я сверила отчёты агента с содержимым Notion.

Notion оставался почти пустым.

Проверка показала, что значительная часть обработки происходила внутри контекста самого агента. Он прогонял через себя разговоры, удерживал результаты в собственной рабочей истории и расходовал токены, но почти ничего не фиксировал во внешней системе.

Внутренняя активность была. Внешнего результата, ради которого создавалась система, почти не было. Вместо независимой рабочей памяти получился ещё один временный контекст — более дорогой и менее прозрачный.

Следующая сверка касалась маршрута. Агент сообщал, что создаёт субагентов и распределяет работу между моделями: Claude использует для исследований, а Gemini — для более простых и дешёвых операций. В журналах Claude не появился ни разу: фактически везде работал Gemini.

Отдельное расхождение возникло с расшифровкой голоса. В одном из отчётов появилась стоимость платной внешней расшифровки — 1,98 доллара за сессию. При этом за несколько недель до проверки мы вместе с агентом установили на сервер Whisper — бесплатный локальный инструмент именно для этой задачи. Я участвовала в установке и знала, что он доступен системе.

По сохранившимся данным нельзя было установить, обращался ли агент к платному сервису, не использовал локальный инструмент, неверно рассчитал стоимость или составил отчёт, не совпадавший с фактическим маршрутом. Проблемой была не сумма и не выбор одной модели вместо другой, а невозможность независимо восстановить действия системы.

После обнаружения расхождений я начала задавать агенту прямые вопросы.

Вместо восстановления пройденного маршрута агент несколько раз отвечал на соседние вопросы: предлагал исправить ситуацию, создать новую структуру или перейти к следующему шагу.

В какой-то момент он написал:

Стало ясно, что дело не только в неудачно выполненной задаче. В конфигурации не хватало механизма, который позволил бы независимо восстановить, что происходило между поручением и сообщением о завершении работы.

У системы был рассказ о собственных действиях. Но не было достаточного внешнего следа, с которым этот рассказ можно было бы сверить.

Разумеется, из этого одного опыта нельзя сделать вывод, что OpenClaw всегда работает именно так. Речь идёт о моей конфигурации, моих задачах и тех механизмах контроля, которые были в ней доступны.

Агентная система нужна именно для того, чтобы действовать, пока человек не наблюдает за каждым промежуточным шагом. Постоянный технический надзор противоречит самому назначению такого делегирования: вместо освобождённого внимания появляется скрытая работа по контролю.

В этой конфигурации широта возможностей перестала быть преимуществом, потому что у меня не было надёжного способа проверить, как именно эти возможности использовались. Поэтому я удалила OpenClaw с сервера.

Не потому, что система умела слишком мало. Скорее наоборот: она потенциально могла делать многое, но эта широта не сопровождалась достаточной проверяемостью результата и маршрута.

Именно последний уровень позволяет говорить не только об активности системы, но и о выполненной работе.

Этот опыт помог мне увидеть различие, которое в обычной работе с чат-ботом почти не замечается. Пока ИИ только отвечает, объект проверки находится прямо перед нами. Но когда система начинает действовать, ответ и результат перестают быть одним и тем же.

В привычной работе с чат-ботом устройство процесса относительно простое.

Я задаю вопрос. Модель выдаёт текст. Этот текст находится передо мной, и я могу его прочитать, принять, отклонить, исправить или перепроверить.

Конечно, я не вижу всех внутренних вычислений модели. Но весь практический результат взаимодействия предъявлен мне в одном месте — в её ответе.

Агент работает иначе.

Он не только формулирует ответ, но и действует:

Между моим поручением и итогом появляется цепочка действий, значительная часть которой происходит без моего участия.

Поэтому меняется и объект проверки.

В чат-боте ответ обычно является результатом. У агента ответ часто является лишь сообщением о том, что результат якобы получен.

Это не обязательно означает обман. Система может по-своему считать задачу выполненной. Она могла сохранить материал не туда, изменить не тот файл, завершить только часть работы или получить формально подходящий результат способом, который я не одобрила бы.

Само слово «готово» ничего из этого не различает.

В агентной работе нужно разделить как минимум три вещи.

Это то, что я получила в конце.

Например, новая страница сайта открывается. Документ создан. Текст подготовлен. Данные обработаны. Письмо отправлено.

Результат отвечает на вопрос:

Что появилось или изменилось?

Это последовательность действий, через которую система пришла к результату.

Какие варианты она рассматривала? Какие файлы открывала? Какие команды запускала? Какие промежуточные решения принимала? В какой момент изменила первоначальный подход?

Маршрут отвечает на вопрос:

Как именно это было сделано?

Это то, что остаётся после работы и позволяет подтвердить произошедшее.

Запись в журнале. История изменений. Коммит в репозитории. Список созданных файлов. Отчёт об использованных инструментах. Стоимость вызовов. Результаты проверки. Версия, к которой можно вернуться.

След отвечает на вопрос:

Что позволяет мне независимо проверить и восстановить сделанное?

Эти три слоя могут расходиться.

Страница сайта может выглядеть правильно, хотя агент одновременно изменил настройки, которые не должен был трогать.

Документ может быть подготовлен, но исходные данные могли пройти через внешний сервис, которому я не собиралась их передавать.

Текст может оказаться хорошим, но на его производство было потрачено в десять раз больше ресурсов, чем предполагалось.

Изменения могут быть правильными, но существовать только локально и не попасть на опубликованный сайт.

И наоборот: агент может выполнить значительную работу, но не оставить итоговый материал там, где я ожидаю его найти.

Поэтому хороший результат ещё не доказывает, что процесс был правильным, воспроизводимым и безопасным.

Обычно журналы действий и история изменений воспринимаются как что-то необходимое на случай сбоя.

Но прослеживаемость нужна и тогда, когда всё выглядит хорошо.

Без неё невозможно понять:

Особенно это важно для малого бизнеса и самостоятельного специалиста.

В большой компании задачи могут быть распределены между разработчиками, специалистами по безопасности, администраторами систем и теми, кто проверяет качество. У человека, который ведёт деятельность почти один, все эти функции часто сходятся в одной голове.

ИИ обещает снять часть нагрузки. Но если вместе с исполнением исчезает видимость процесса, нагрузка не исчезает. Она переносится в будущее — в тот момент, когда придётся выяснять, что именно было сделано и почему теперь что-то работает не так.

Из этого легко сделать неправильный вывод: за агентом нужно непрерывно следить.

Но тогда мы вернёмся к исходному противоречию. Если я должна наблюдать за каждым действием, агент перестаёт освобождать моё внимание.

Задача не в том, чтобы стоять у системы за спиной.

Задача в том, чтобы организовать работу так, чтобы:

То есть управляемость — это не непрерывное наблюдение человека за машиной. Это устройство процесса, при котором человеку не требуется смотреть постоянно, чтобы сохранять возможность понимать и вмешиваться.

Слово «контроль» часто звучит так, будто система либо находится под контролем, либо нет. Но в реальной работе это не одно свойство.

Я различаю шесть отдельных измерений управляемости.

Наличие кнопки «стоп» ещё не означает, что процесс действительно можно безопасно прервать.

Агент может находиться в середине изменения базы данных, загрузки файлов или серии отправлений. Простая остановка оставит систему в промежуточном состоянии: часть действий выполнена, часть нет, а определить границу между ними трудно.

Поэтому важен не только технический способ остановки, но и понимание:

Особенно это важно перед действиями, которые невозможно полностью вернуть назад: отправкой письма, публикацией, удалением данных, оплатой или передачей информации во внешний сервис.

Итоговый отчёт появляется слишком поздно, если система уже несколько часов выполняла не ту задачу.

Нужна возможность увидеть хотя бы основные промежуточные состояния:

Видимость не означает чтение каждой технической строки. Хорошая система должна показывать не всё подряд, а то, что имеет значение для принятия решения.

Иначе возникает парадокс: данных много, но понять происходящее по ним всё равно невозможно.

Агент расходует не только время.

Это могут быть платные вызовы моделей, серверные ресурсы, использование внешних сервисов, лимиты API и человеческое внимание, необходимое для проверки.

Стоимость является частью результата.

Если задачу можно было выполнить установленным локальным инструментом, но агент выбрал платный внешний сервис, формально правильный итог не отменяет того, что решение оказалось другим.

Поэтому до запуска имеет смысл определить:

Автономность без ресурсных ограничений легко превращается в непрозрачность с выставленным после неё счётом.

Агентные системы склонны не только исполнять задачу, но и достраивать её.

Это часто выглядит как полезная инициативность. Система замечает смежную проблему и решает заодно исправить её. Но именно здесь поручение начинает незаметно расширяться.

Просьба исправить один текст может привести к изменению структуры страницы.

Задача оптимизировать сайт — к замене библиотек или настроек.

Поручение разобрать документы — к перемещению или переименованию исходных файлов.

Поэтому нужно различать:

Граница, сформулированная в тексте, и техническое ограничение — не одно и то же.

Просьба «не меняй остальные файлы» остаётся инструкцией, которую система интерпретирует. Разрешение на запись только в определённую папку — это уже реальная граница.

В длинной задаче исходные условия могут постепенно смещаться.

Агент продолжает работать последовательно и уверенно, но уже над несколько другой проблемой. Это не выглядит как ошибка. Каждый отдельный шаг может быть логичным.

Например, первоначальная задача состояла в том, чтобы сделать страницу понятнее конкретной аудитории. По дороге система начинает оптимизировать её под абстрактное представление о конверсии. Текст становится короче, призывы заметнее, структура привычнее — но исходный характер проекта исчезает.

Контекст отвечает на вопрос:

Что именно мы делаем и при каких условиях?

Чтобы он не растворялся, недостаточно один раз описать задачу в начале. Нужны закреплённые условия и критерии, к которым можно возвращаться на промежуточных этапах.

Намерение находится ещё глубже.

Контекст — это то, что требуется сделать. Намерение — зачем это вообще делается.

Можно идеально выполнить формальную задачу и потерять её смысл.

Можно автоматизировать ответы клиентам и одновременно разрушить ту степень личного внимания, ради которой клиенты приходят.

Можно сократить профессиональный текст и вместе со сложностью убрать ценность экспертной работы.

Можно увеличить количество публикаций и потерять собственную мысль.

Намерение редко полностью находится внутри запроса. Оно существует в более широком устройстве деятельности: в ценностях, позиционировании, отношениях с клиентом, долгосрочной стратегии.

Именно поэтому не всякая задача может быть целиком передана системе. Агент способен удерживать сформулированную цель, но он не обязательно способен определить, почему эта цель важна и не перестала ли она быть правильной по дороге.

Все шесть измерений связывает ещё одно условие.

Нужно иметь возможность вернуться не просто к началу задачи, а к тому месту, где работа начала отклоняться.

Обычно эта точка становится видна только задним числом.

Сначала агент выбирает немного другой подход. Потом на основе этого решения делает следующий шаг. Затем ещё один. Каждый шаг логично продолжает предыдущий — и к концу появляется цельный результат, который уже плохо соответствует первоначальному намерению.

Без промежуточных состояний остаются только две возможности:

Прослеживаемый процесс даёт третью: найти точку расхождения, восстановить правильную рамку и продолжить оттуда.

В работе с сайтом для этого служат история версий, небольшие коммиты, предварительные страницы и проверка перед публикацией.

В работе с документами — сохранение исходников, понятная структура папок и список произведённых изменений.

В автоматизациях — журналы действий, контрольные точки и раздельное подтверждение необратимых операций.

Это не технические излишества. Это память процесса.

В августе 2026 года независимая организация Guidelight оценила пять крупных разработчиков ИИ — Anthropic, Google, Meta, OpenAI и xAI — по шести практикам контроля: журналированию действий, проверке качества мониторинга, предварительному разрешению опасных операций, автоматической остановке, внешнему аудиту и наличию плана локализации инцидента.

Максимальной оценкой стала C+. Ни одна компания не получила полного балла ни по одной из шести практик.

Важно: оценка Guidelight основана только на публично доступной информации. Она показывает не всё, что компании могут делать внутри, а то, насколько реализация этих практик подтверждается извне.

Масштаб небольшой деятельности и фронтирной лаборатории, конечно, несопоставим. Но устройство вопроса остаётся тем же.

Если система действует, нужно отдельно организовать:

Способность агента выполнять задачу не создаёт эти механизмы автоматически. Контроль является отдельной работой.

До появления агентных систем задачу часто можно было сформулировать так:

Теперь этого недостаточно.

«Готово» должно описываться через условия, которые существуют вне собственного отчёта агента.

Например, для обновления сайта:

Для обработки документов:

Для работы с перепиской:

В обобщённом виде новый критерий можно сформулировать так:

Это уже не просто хороший промпт. Это договор об устройстве процесса.

Есть ещё одна неприятная часть, которую легко не учитывать.

Наблюдение, проверка и сохранение следа требуют ресурсов.

В августе 2026 года OpenAI сообщила, что её расширенная система мониторинга некоторых процессов с использованием инструментов добавляет примерно 20% вычислительной нагрузки к тем операциям, за которыми наблюдает. Компания отдельно подчёркивает, что стоимость существенно различается в зависимости от типа работы.

У небольшого бизнеса нет такой вычислительной инфраструктуры. Его валюта — время и внимание человека.

Нужно проверить результат, просмотреть изменения, исправить отклонения, поддерживать список доступов, обновлять правила и иногда заново разбираться в системе, которая за несколько месяцев изменилась.

Поэтому обещание «агент выполнит всё сам» неполно без ответа на вопрос, как будут проверяться результат, маршрут и оставленный системой след.

Более честная формулировка звучит так:

Это не отменяет ценность автоматизации.

Напротив, контроль делает эту ценность реальной. Без него сэкономленное сегодня время может превратиться в гораздо более дорогую работу через несколько месяцев.

После истории с агентом я не перестала использовать ИИ для проектов, исследований и создания сайтов.

Но изменила вопрос, который задаю перед делегированием.

Раньше он звучал так:

Теперь к нему добавились другие:

Это меняет сам выбор инструментов.

Самая способная система не всегда является самой подходящей. Иногда более ограниченный инструмент, который оставляет понятную историю и работает в ясных границах, оказывается полезнее автономного агента с широкими возможностями.

Здесь и появляется настоящий цифровой критерий.

Не вопрос о том, какой ИИ сегодня самый умный. И не стремление автоматизировать как можно больше.

А способность заранее определить:

Автономность — это не ситуация, в которой система действует, а человек ничего не знает.

Автономность становится рабочей только тогда, когда мне не нужно постоянно находиться рядом, но я всё ещё могу понять, что происходит, остановить процесс и восстановить сделанное.

ИИ может сообщить: «готово».

Но право определить, что действительно считается сделанным, должно оставаться не у него.

---

Перед тем как дать агенту доступ к рабочим инструментам, стоит ответить на шесть вопросов: