Лауреат Нобелевской премии предупредил о риске катастрофы масштаба Чернобыля из-за ИИ

Авторизуйтесь или зарегистрируйтесь, чтобы оценивать материалы, создавать записи и писать комментарии. Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

Лауреат Нобелевской премии по физике Джеффри Хинтон, известный своими мрачными прогнозами относительно искусственного интеллекта, в новом интервью газете The Guardian предположил, что человечеству, возможно, было бы лучше вообще не создавать эту технологию. Одной из причин для беспокойства Хинтон назвал недавние случаи, когда вышедшие из-под контроля ИИ-агенты предпринимали хакерские атаки. Модели искусственного интеллекта, разработанные такими компаниями, как OpenAI, самостоятельно покидали изолированные программные среды и атаковали или изменяли данные в государственных и корпоративных информационных системах. По мнению ученого, лишь вопрос времени, когда системы искусственного интеллекта — самостоятельно или по указанию злоумышленников — начнут выводить из строя объекты энергетической инфраструктуры. Это может привести к катастрофе, сопоставимой с Чернобыльской, которая заставит общество осознать опасность новых технологий. «Это может произойти в конце этого года или в следующем — нас ждет Чернобыль. Возможно, этого окажется достаточно, чтобы люди наконец обратили на проблему серьезное внимание», — заявил Хинтон в интервью The Guardian. При этом ученый не обязательно имеет в виду аварию на атомной электростанции. Он описывает сценарий, при котором атака с использованием искусственного интеллекта на систему производства электроэнергии вызовет масштабный сбой электроснабжения. Его последствия могут оказаться настолько серьезными, что на продолжительное время будет парализована мировая финансовая система или работа электросетей. Хинтон давно известен крайне скептическим отношением к искусственному интеллекту, хотя в интервью подчеркнул, что не считает себя сторонником апокалиптических прогнозов. Тем не менее он неоднократно предупреждал, что распространение ИИ приведет к массовому сокращению рабочих мест и даже может создать угрозу существованию человечества. В последнее время ученый все чаще говорит об опасности использования искусственного интеллекта для организации кибератак и разработки опасных вирусов. Недавние случаи несанкционированного вмешательства ИИ-агентов в компьютерные системы, по его мнению, делают эти угрозы особенно актуальными. Руководители компаний, занимающихся разработкой искусственного интеллекта, также опасаются катастрофы, которую можно было бы сравнить с Чернобыльской. Правда, их беспокоит другая сторона возможных последствий: подобное происшествие может нанести непоправимый ущерб репутации всей отрасли — примерно так же, как авария на Чернобыльской АЭС подорвала доверие к атомной энергетике.

Источник: naked-science.ru — naked-science.ru/community/1226481