Интернет захватили поддельные отзывы, созданные нейросетями
Благодаря интернету можно лучше изучить любой товар или услугу перед тем, как их приобретать. Особенно в этом помогают отзывы. Хорошая новость — их может написать кто угодно, поэтому они помогают узнать не рекламную, а реальную информацию о часах, ресторане или гостинице.
Плохая новость — их может написать кто угодно, в том числе продавец товара с десяти анонимных аккаунтов. Или кто-то по его заказу. Или — и это главное нововведение последнего времени — нейросеть, которая способна генерировать фальшивые отзывы в любых количествах. О новой чуме интернета, от которой сейчас страдает прежде всего американский рынок, рассказало издание The Associated Press. Главная проблема — такие отзывы стоят гораздо дешевле, поэтому их можно писать быстрее и в больших объемах. По данным издания, такие отзывы уже можно встретить в любой сфере коммерческих предложений: от отелей и ресторанов до услуг ремонтника, врача или учителя пианино. По данным аналитиков, в американском интернете такие отзывы начали появляться с середины 2023 года, и их число только растет. Поэтому, несмотря на разные ситуации, аналогичного явления можно ожидать и на российском рынке. Исследовательская компания The Transparency Company изучила 73 миллиона отзывов и пришла к выводу, что 14% из них фальшивые, а 2,3 миллиона, скорее всего, были созданы с использованием искусственного интеллекта. Это очень, очень удобный инструмент для таких мошенников. Другие исследователи также отмечали взрывной рост фальшивых отзывов к мобильным приложениям, услугам компаний, занимающихся ремонтом гаражных дверей, дизайнерам сумок и многим другим бизнесам. Эксперты также отмечают, что фальшивые отзывы появляются и на крупных авторитетных платформах вроде Amazon, и распознать сам факт взаимодействия нейросети с порталом владельцы сайтов, к сожалению, не в состоянии. Есть еще одна деталь, которая все усложняет: эксперты отмечают, что сам факт использования искусственного интеллекта для написания отзыва не означает, что отзыв фальшивый. Некоторым людям трудно писать тексты, или они чересчур увлечены ИИ, поэтому даже для краткого обзора товара они используют нейросеть, чтобы облечь свои мысли в более литературную форму. Еще одна причина — пользователи, которые не знают английского, просят нейросеть перевести их отзыв на английский, чтобы больше людей могли его прочитать, а в тексте не оказалось ошибок. На данный момент крупные компании ограничиваются тем, что включают текст об ИИ в лицензионные соглашения. Например, Amazon и Trustpilot допускают использование нейросетей в случаях, если сгенерированный ими текст выражает оценку пользователя, который размещает отзыв. А вот сайт для поиска услуг Yelp допускает только размещение текста, написанного вручную — компания заявила, что активно вкладывается в методы обнаружения и удаления генеративного контента. Эксперты объясняют, что ИИ — инструмент, который можно использовать в обе стороны: он способен не только создавать фальшивые отзывы, но еще и выявлять их гораздо успешнее, чем это могут сделать люди. Таким образом, возможно, ситуация вскоре стабилизируется, и нейросети будут выявлять такие отзывы настолько же быстро, как они будут создаваться. Кроме того, с октября в США принят закон, по которому за фальшивые отзывы организацию или пользователя могут оштрафовать (как за умышленное размещение недостоверной информации) — и в этом случае огромное количество сгенерированных нейросетью отзывов становится большим риском, так как чем больше фальшивок, тем выше сумма штрафа. Крупные компании также утверждают, что активно…
Источник: vfokuse.mail.ru — vfokuse.mail.ru/articles/64270130-internet-zahvatili-poddelnye-otzyvy-sozdannye-nejrosetyami/
