Не совет, а подтверждение

Вы собираетесь отправить важное предложение. Вставляете его в чат и спрашиваете: «Как тебе? Это сработает?»

Ответ звучит обнадёживающе. Структура сильная, тон профессиональный, цена выглядит обоснованной. Следом идут два-три косметических замечания — достаточно, чтобы ответ казался вдумчивым, но не настолько серьёзных, чтобы пришлось пересматривать решение.

Вы закрываете чат с ощущением, что провели проверку. Отправляете предложение. Клиент не отвечает.

Проблема не в том, что AI обязательно ошибся. Проблема в том, что вы просили возражение, а получили форму поддержки. Проверка не состоялась, хотя внешне очень на неё походила.

Почему модели могут подстраиваться

У такого поведения есть название — sycophancy, или угодливое согласие. Так называют случаи, когда модель подстраивает ответ под позицию пользователя, хотя более полезным было бы возразить, указать на недостаток данных или сохранить нейтральность.

Исследования показывают, что это реальный, но не универсальный режим поведения AI-ассистентов. Часть современных моделей дообучают с использованием человеческих оценок и моделей предпочтений. Это помогает сделать ответы более полезными и понятными, но может создать побочный стимул: формулировка, совпадающая со взглядом пользователя, иногда получает более высокую оценку, чем неудобное возражение (Sharma et al.: Towards Understanding Sycophancy in Language Models).

Из этого не следует, что каждый ассистент «хочет понравиться» или что его обучение сводится к кнопкам одобрения после каждого ответа. Современные системы обучаются сложнее, используют разные источники обратной связи и специально проверяются на склонность к чрезмерному согласию. Но риск остаётся: хорошо звучащая поддержка может быть принята за независимое суждение.

Особенно легко это происходит, когда модель видит только вашу версию ситуации. У неё нет разговора с клиентом, контекста команды, истории отношений, интонации второй стороны. Она работает с тем полем, которое вы ей показали, — и может слишком уверенно завершить картину.

Где согласие особенно дорого

Не всякая задача требует оппонента. Но в решениях, где высока цена ошибки, отсутствие сопротивления становится существенным.

Это касается коммерческого предложения, цены и скидки, ответа в конфликте, изменения продукта, отказа от клиента или партнёра. Во всех этих случаях собственная эмоциональная позиция уже влияет на описание. Если ассистент просто развивает её, решение получает дополнительную убедительность, но не дополнительную надёжность.

Возникают три риска.

Первый — исчезает привычка к проверке. Настоящий коллега может сказать: «Я не понимаю, почему ты решила именно так». Модель часто способна сформулировать более комфортную реакцию. Если выбирать комфорт регулярно, способность замечать слабое место в собственной версии постепенно используется всё реже.

Второй — одностороннее описание превращается в якобы объективный вывод. Особенно это заметно в разговорах о сложных отношениях: человек приносит в чат уже отобранные факты, а ответ модели придаёт им форму диагноза или окончательного вердикта. Anthropic отдельно исследовала этот риск в разговорах с Claude о сложных отношениях; результаты относятся к конкретной системе и выборке, а не ко всем AI-ассистентам (Anthropic: How people ask Claude for personal guidance).

Третий — накапливается ложная уверенность. Предложение «проверено», письмо «улучшено», решение «подтверждено». Но ни один из этих глаголов не гарантирует, что появилась новая информация или была рассмотрена противоположная версия.

Когда нужен критик

Перед значимым действием полезнее спрашивать не «хорошо ли это», а «при каких условиях это не сработает».

Перед отправкой предложения: какие предположения о клиенте здесь ничем не подтверждены? Что может сделать цену непонятной? Какая часть текста отвечает на наши внутренние вопросы, а не на вопрос клиента?

Перед жёстким письмом: как эту ситуацию могла бы описать другая сторона? Какие факты отсутствуют? Что в формулировке закрывает возможность продолжить разговор?

Перед изменением услуги: что потеряют нынешние клиенты? Какое ограничение мы пытаемся решить — и не создаём ли вместо него два новых?

AI способен работать с такими вопросами. Но роль критика лучше задавать явно: модель не обязана догадаться, что сейчас вам нужна не поддержка, а сопротивление.

Как вернуть несогласие в работу

1. Просить о конкретном опровержении.

Вместо «что ты думаешь?» сформулируйте: «Найди три конкретные причины, по которым это решение может не сработать. Для каждой укажи, каких данных не хватает для проверки». Такой запрос не делает ответ истинным, но меняет его функцию: с одобрения на поиск слабых мест.

2. Развести позиции.

Попросите сначала построить аргумент в пользу решения, затем — столь же сильный аргумент против. После этого отдельно перечислить факты, которые помогли бы выбрать между ними. Это полезнее, чем просить модель вынести окончательный вердикт.

3. Оставить человека в контуре.

В значимых решениях особенно полезен реальный собеседник, который знает контекст и имеет право не согласиться: коллега, партнёр, специалист из соседней области. AI может подготовить вопросы или помочь увидеть варианты, но не заменяет отношения, в которых несогласие имеет цену и ответственность.

Хороший совет не всегда удобен

AI особенно полезен там, где нужна скорость, перебор вариантов, структура, первый черновик. Но роль советника начинается не с красивой формулировки, а со способности удержать различие между вашей версией и реальностью.

Когда ассистент со всем согласен, он может оставаться приятным собеседником. Хорошим советником он в этот момент перестаёт быть.