Исследователи из Оксфордского университета и Google Deepmind поделились пугающим предупреждением в новой статье. В статье, опубликованной в журнале AI Magazine в прошлом месяце, утверждается, что угроза ИИ больше, чем считалось ранее. На самом деле это так здорово, что искусственный интеллект, вероятно, однажды восстанет и уничтожит человечество.
ИИ может подняться однажды
угроза искусственного интеллекта растет Источник изображения: AndSus/Adobe AI впечатляет. Он может имитировать голос Вэла Килмера в фильмах и неоднократно помогал исследователям решать сложные проблемы. Однако теперь исследователи утверждают, что угроза ИИ больше, чем мы когда-либо думали.
Исследователи опубликовали свои выводы в конце августа. Согласно статье, угроза ИИ может измениться в зависимости от ряда условий, которые определили исследователи. Это не первый раз, когда исследователи рассматривают ИИ как возможную угрозу. Но новая статья интригует из-за правдоподобных предположений, на которые она смотрит.
Главным из этих предположений, по мнению исследователей, является то, что «вмешательство ИИ в предоставление своих вознаграждений будет иметь очень плохие последствия», — написал в этом месяце в Твиттере один из авторов статьи Майкл Коэн. Коэн говорит, что условия, выявленные исследователями, показывают, что вероятность угрожающего вывода выше, чем в любой предыдущей публикации.
Кроме того, команда говорит, что угроза ИИ строится на основе экзистенциальной катастрофы. И что это не просто возможно, это очень вероятно. Одна из самых больших проблем, как отмечают Коэн и его коллеги-исследователи, заключается в том, что всегда можно приложить больше усилий для решения проблемы, чтобы довести ее до уровня, когда ИИ будет вознагражден за то, что он сделал. Таким образом, это может поставить нас в противоречие с машинами. «Короткая версия, — пишет Коэн в своем твиттере, — заключается в том, что всегда можно использовать больше энергии, чтобы повысить вероятность того, что камера навсегда увидит число 1, но нам нужно немного энергии, чтобы выращивать еду. Этот гной ставит нас в неизбежную конкуренцию с гораздо более продвинутым агентом». Имея это в виду, кажется, что угроза ИИ может меняться в зависимости от того, как его учат.
Число, на которое здесь ссылается Коэн, основано на тесте, который заставляет агента ИИ достичь определенного числа. И как только ему будет показан способ сделать это, он сможет использовать больше энергии для оптимизации достижения этой цели. Это интригующее предложение, которое показывает, почему так много людей обеспокоены угрозой ИИ.
Очевидно, что приведенные в статье примеры — не единственные возможные результаты. И, возможно, мы могли бы найти способ держать машины под контролем. Но это новое исследование поднимает некоторые вопросы о том, насколько мы хотим доверять ИИ в будущем и как мы можем контролировать его, если произойдет экзистенциальная катастрофа.
— Эта статья была автоматически переведена с языка оригинала —
