ИИ ускорил развитие моделей Anthropic почти вдвое — самосовершенствование создаёт новые риски

Независимое исследование показало, что модели искусственного интеллекта компании Anthropic начали совершенствоваться почти в два раза быстрее, чем раньше, благодаря использованию ИИ для создания собственных более мощных версий. Это подтверждает опасения экспертов о том, что темпы развития ИИ могут опережать усилия по оценке связанных с ним рисков. Выводы некоммерческой организации METR (Model Evaluation and Threat Research), занимающейся вопросами безопасности ИИ, были опубликованы в четверг. Как пишет Reuters, эксперты называют эти данные одними из самых чётких доказательств того, что технологии вплотную подошли к рекурсивному самосовершенствованию (RSI), при котором ИИ сможет создавать новые версии себя полностью без участия человека. В ходе 11-недельного исследования, проводившегося с августа по октябрь и опиравшегося на конфиденциальные материалы, интервью и данные о производительности ещё не выпущенных моделей, было установлено, что показатели эффективности моделей Anthropic при решении определённых задач растут в 1,9 раза быстрее, чем в период до октября 2025 года. «По состоянию на октябрь 2026 года компания Anthropic, вероятно, повышает возможности своих моделей в решении конкретных задач примерно в два раза быстрее, чем это происходило в период с марта 2024 года по октябрь 2025 года. Эта оценка сопряжена с высокой степенью неопределённости. Нас не удивит, если фактический показатель ускорения окажется ближе к 1,5 или 2,5 от прежних темпов», — заявили в METR. В отчёте также говорится, что на данный момент ИИ ещё не способен вносить полностью автономный и значимый вклад в ключевые этапы обучения моделей. Исследователи Anthropic сообщают о резком росте продуктивности благодаря использованию ИИ для написания программного кода и проведения экспериментов. Согласно неофициальным опросам сотрудников, эффективность выросла примерно в 12 раз, однако в METR подчеркнули, что эти цифры не являются достоверными. Эксперты также выразили полную уверенность в том, что текущий скачок развития «не был связан с ускорением масштабирования вычислительных мощностей, используемых для обучения». Технологический сдвиг происходит на фоне подготовки базирующейся в Сан-Франциско компании к выходу на биржу. Это может стать одним из крупнейших IPO в истории и серьёзной проверкой интереса инвесторов к компаниям в сфере ИИ, которые тратят миллиарды долларов на развитие данной технологии. Вместе с тем перспектива рекурсивного самосовершенствования систем ИИ в последние месяцы стала поводом для предостережений со стороны исследователей в области искусственного интеллекта. Такие системы могут оказаться трудно поддающимися согласованию с человеческими целями, а также сложными в плане мониторинга и контроля, что потенциально создаёт экзистенциальную угрозу для человечества. Примечательно, что в сентябре сам генеральный директор Anthropic публично призывал замедлить темпы разработки передового ИИ. При цитировании документа ссылка на сайт с указанием автора обязательна. Полное заимствование документа является нарушениемроссийского и международного законодательства и возможно только с согласия редакции 3DNews. Сайт 3DNews использует файлы cookie и сервисы аналитики. Это помогает нам улучшать контент и работу Cайта. Во время посещения Cайта вы соглашаетесь с Пользовательским соглашением и даёте согласие на обработку и передачу (в т.ч. трансграничную) персональных данных, использование Cайтом файлов cookie и метрических программ.

Источник: 3dnews.ru — 3dnews.ru/1150935/ii-uskoril-razvitie-modeley-anthropic-pochti-vdvoe-samosovershenstvovanie-sozdayot-novie-riski