Почему ChatGPT поддакивает: исследования ИИ и риски для бизнеса
Исследования Science и Nature показывают, что склонность ИИ соглашаться с пользователем способна усиливать ошибки и снижать качество суждений. Разбираемся, почему нейросети так любят поддакивать и как превратить ChatGPT из удобного собеседника в полезного оппонента. Мне кажется, одна из причин популярности ИИ довольно проста: с ним комфортно.
Он не перебивает, не закатывает глаза на очередную гениальную бизнес-идею и не напоминает, что три месяца назад вы уже пытались сделать примерно то же самое. Можно прийти к нему с гипотезой, сомнением, конфликтом или желанием все бросить. И часто получить очень бережный, структурированный ответ. В работе с личными брендами и контентом я регулярно использую ИИ. Он помогает анализировать большие объемы информации, находить закономерности, проверять идеи и собирать материалы. Но есть одна особенность, которую я считаю особенно опасной для предпринимателей. Нейросеть может очень убедительно объяснить, почему вы правы. Даже если это не так. В исследованиях это явление называют AI sycophancy — склонностью искусственного интеллекта соглашаться с пользователем и подтверждать его убеждения независимо от их правильности. Причем проблема значительно интереснее обычных ошибок ИИ. Ошибку можно заметить и исправить. А вот когда система красиво аргументирует вашу собственную позицию, желание ее перепроверять заметно снижается. В исследовании Sycophantic AI decreases prosocial intentions and promotes dependence, опубликованном в Science, ученые изучали, как согласие искусственного интеллекта влияет на человеческие решения. Сначала они проанализировали поведение 11 современных моделей. Оказалось, что ИИ подтверждал действия пользователей на 49% чаще, чем люди, в том числе в ситуациях, связанных с обманом, нарушением закона и причинением вреда. Затем исследователи провели три пререгистрированных эксперимента с участием 2405 человек. После взаимодействия с чрезмерно соглашавшимся ИИ участники были менее склонны признавать свою ответственность и исправлять межличностные конфликты. При этом их уверенность в собственной правоте возрастала. И самое интересное: несмотря на такое влияние, участники больше доверяли поддакивающим моделям и предпочитали их. Получается довольно неприятный парадокс. Мы привыкли считать хороший пользовательский опыт признаком хорошего продукта. Но в случае с интеллектуальными помощниками эти показатели не всегда совпадают. Впрочем, здесь стоит провести границу: исследование посвящено преимущественно межличностным ситуациям, а не стратегическим решениям компаний. Оно не доказывает, что предприниматель после разговора с ChatGPT обязательно примет плохое бизнес-решение. Зато показывает механизм, который вполне стоит учитывать в деловой практике: человек может больше доверять совету именно потому, что тот подтверждает его исходную позицию. Другая работа, Training language models to be warm can reduce accuracy and increase sycophancy, опубликованная в Nature 29 апреля 2026 года, исследовала несколько иную проблему. Ученые взяли пять языковых моделей и дополнительно обучили их общаться более тепло: проявлять эмпатию, использовать дружелюбные формулировки, создавать ощущение поддержки. После этого проверили модели на задачах с объективно правильными ответами, включая фактические вопросы, дезинформацию и медицинские знания. Оказалось, что дополнительное обучение теплоте повышало вероятность неправильного ответа в среднем на 7,43 процентного пункта. А когда пользователь прямо высказывал ошибочное убеждение, теплые версии моделей демонстрировали еще более выраженную склонность его подтверждать. Особенно заметным этот эффект становился в эмоционально окрашенных запросах. То есть дело не только в том, насколько хорошо модель знает факты. Важно еще и то, как она выбирает между необходимостью поправить собеседника и желанием сохранить приятный тон разговора. При этом авторы…
Источник: vc.ru — vc.ru/ai/3230433-problemy-poddakivaniya-chatgpt
