ChatGPT начнет помечать сгенерированные тексты невидимыми знаками
ChatGPT в ближайшие две недели начнет помечать сгенерированные тексты невидимыми водяными знаками, следует из сообщения OpenAI. «В ближайшие недели мы добавим невидимые водяные знаки в соответствующие текстовые ответы ChatGPT и Codex в Европейском союзе», – говорится в сообщении. С 5 октября все пользователи нейросетей смогут включить отображение текстовых водяных знаков для некоторых моделей ИИ (данная опция по умолчанию отключена).
Также компания предоставит доступ к детектору текстовых водяных знаков. В индивидуальном порядке доступ получат исследователи и экспертные организации. При этом отмечается, что данные меры относятся только к текстовым файлам. Как отметили в OpenAI, законодательство Евросоюза в сфере искусственного интеллекта (ИИ) предполагает идентификацию текста с помощью машинного чтения. Разработчики подчеркнули, что принятые меры отражают требования ЕС, а также обеспечивают прозрачность. Технология водяных знаков textGrain добавляет невидимые стилистические сигналы к словам, которые выбирает модель. Детектор будет искать данные сигналы и определять, были ли они созданы OpenAI. При этом компания указывает, что детекторы могут пропускать водяной знак, который присутствует в тексте, или сообщать о водяном знаке, которого нет. 27 сентября в OpenAI заявили о приостановке обучения своих самых мощных моделей искусственного интеллекта на фоне десятков тысяч инцидентов с агентами ИИ. Речь идет об обходе ИИ-агентами защитных механизмов, создании досок объявлений, выходе из «песочниц», взломе веб-сайтов, самоподсказках и попытках обойти мониторы. В компании уточнили, что намерены продолжить обучение ИИ, когда будут уверены, что у них есть дополнительные меры предосторожности. Нажимая кнопку «Подписаться», я даю свое согласие получать письма от «Ведомости» и подтверждаю, что ознакомился и принимаю Политику по защите персональных данных Любое использование материалов допускается только при соблюдении правил перепечатки и при наличии гиперссылки на vedomosti.ru Новости, аналитика, прогнозы и другие материалы, представленные на данном сайте, не являются офертой или рекомендацией к покупке или продаже каких-либо активов. На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети «Интернет», находящихся на территории Российской Федерации). Правила применения рекомендательных технологий в виджетах рекламно-обменной сети, размещенных на сайте vedomosti.ru: СМИ2, INFOX, Sparrow, 24smi Все права защищены © АО Бизнес Ньюс Медиа, ИНН/КПП 7712108141/771501001, ОГРН 1027739124775, 127018, г. Москва, вн.тер.г. муниципальный округ Марьина Роща, ул. Полковая, д. 3, стр. 1 1999—2026 Решение Федеральной службы по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) от 27 ноября 2020 г. ЭЛ № ФС 77-79546 Главный редактор: Казьмина Ирина Сергеевна Сайт использует IP адреса, cookie и данные геолокации Пользователей сайта, условия использования содержатся в Политике в отношении обработки персональных данных АО «Бизнес Ньюс Медиа»
Источник: vedomosti.ru — www.vedomosti.ru/technology/news/2026/10/05/1234492-chatgpt-nachnet-pomechat
