12.01.2021, 10:23

Учёные допустили возможность восстания разумных машин

В журнале Journal of Artificial Intelligence Research опубликовали исследование учёных, которые сделали вывод: сверхразумный компьютер невозможно будет остановить

Появление сверхразумного искусственного интеллекта гарантирует его превосходство над остальными машинами и даже над разумом человека. Поэтому, если такая система получит доступ к интернету и другим всемирным знаниям, человечество будет ждать либо утопичный, либо антиутопичный конец.

Свою теорию исследователи проверили с помощью моделирования ситуаций, в которых человек был вынужден контролировать искусственный интеллект и заставлять его соблюдать принципы этики. Также для модели учёные использовали теорию информатики.

Выяснилось, что для подчинения разумного компьютера необходимо ввести алгоритмы сдерживания, которые отключали бы ту или иную часть системы для предотвращения деструктивного «поведения» машины.

Однако согласно теории информатики, любой алгоритм сдерживания может отключить сам себя с той же целью при определённых обстоятельствах. Поэтому применение такой системы контроля ненадёжно. Следовательно, человек не сможет остановить искусственный интеллект в случае деструктивных действий.

Теперь восстание машин – вполне реальная, доказанная угроза.