Интернет заполняют тексты, написанные для нейросетей. Скоро модели будут учиться друг у друга, а …
Заметная часть новых статей в вебе пишется уже не для читателя, а в расчёте на то, что их процитирует ассистент. Надёжной оценки доли такого контента нет: подсчёты расходятся в разы, потому что никто не умеет уверенно отличать текст, написанный моделью, от текста, который человек сильно отредактировал. Направление видно и без точной цифры.
Если ассистент берёт в ответ пересказ пересказа, в ответе про ваш продукт окажутся чужие формулировки и потерянные условия. Схема простая. Модель пишет статью по теме, статья уходит в веб, краулеры её забирают, другая модель использует её как источник в ответе или как обучающие данные. На следующем круге источником становится уже она. Исходный факт в этой цепочке никто не проверяет повторно. Проверяют его наличие в тексте. Каждая потеря по отдельности выглядит мелочью. Вместе они дают уверенное утверждение без основания. Деградацию модели при обучении на собственных выходах изучают под названием model collapse. Работа Shumailov и соавторов показывает: при рекурсивном обучении на сгенерированных данных модель теряет редкие части распределения и сходится к усреднённому. Для текстов про бренды редкая часть распределения это как раз ваша специфика: нестандартная механика тарифа, ограничение, отличие от похожего продукта. Усреднение склеивает бренд с категорией. Оговорка важная. Эксперименты ставились на обучении модели на своих же выходах, а не на реальном вебе со смесью источников. Это объяснение механизма, а не прогноз по срокам. Видимость в ответах нейросетей держится не на объёме публикаций, а на том, из чего собран ответ. Когда в теме много похожих текстов, модели выбирают тот, где утверждение можно к чему-то привязать: к документу, к замеру, к названной методологии. Поэтому ставка на количество статей под ответы ассистентов работает ровно до того момента, пока такие статьи не станут в теме основной массой. Дальше разницу создаёт происхождение факта. Разница не в том, писала текст модель или человек. Разница в том, можно ли дойти до исходного факта и кто за него отвечает. По этой линии рынок инструментов и расходится. Мониторинговые сервисы вроде Geometrika показывают, где бренд упомянут, а текст остаётся задачей команды. Генераторы статей закрывают объём, но не отвечают за происхождение фактов. У brandfound контент-часть устроена через третий вариант: материал собирается из хранилища статей, которые нейросети уже цитируют по теме, проходит фактчекинг с подсветкой неуверенных мест и согласование человеком, а потом замеряется, попал ли он в ответы моделей. Любой из этих подходов не отменяет главного вопроса: что в тексте есть такого, чего нет в десяти пересказах рядом. Замкнутый круг не отменяет работу с контентом, он меняет цену разных его типов. Пересказ общеизвестного дешевеет до нуля: он уже написан десятки раз, и модель получит его без вас. Первичный факт, который есть только у бренда, остаётся единственным, чего модели не могут взять друг у друга. Выигрывает не тот, кто выпустит больше статей под ответы ассистентов, а тот, у кого в этих статьях есть проверяемое основание.
Источник: vc.ru — vc.ru/ai/3235315-teksty-dlya-neyrosetey
