В Институте Макса Планка заявили о невозможности управлять сверхразумным ИИ

В Институте Макса Планка заявили о невозможности управлять сверхразумным ИИ
Показать фото полностью »
Наука
Гречишкин Алексей
автор статьи пожаловаться на статью


19 сентября – ГЛАС. Идея свержения человечества искусственным интеллектом (ИИ) обсуждалась десятилетиями, и теперь учёные вынесли свой вердикт о том, сможем ли мы контролировать высокоуровневый компьютерный сверхразум

Специалисты из Института развития человека Макса Планка в Германии однозначно считают, что почти наверняка мы не сможем контролировать сверхразумный ИИ, который, в связи с этим, начнёт принимать абсолютно самостоятельные решения, независящие от желаний своего непосредственного создателя – человека.

Главная загвоздка состоит в том, что для управления сверхразумом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, чтобы мы могли его анализировать (и контролировать). Но если мы не в состоянии это понять, создать такую ​​симуляцию невозможно.

Такие правила, как «не причинять вреда людям», не могут быть установлены, если мы не понимаем, какие сценарии может предложить ИИ, предполагают исследователи, статья с описанием работы которых была опубликована в Journal of Artificial Intelligence Research.

Ранее ГЛАС писал о том, что группа исследователей из Университета Сучжоу на Тайване смогла создать жидкого магнитного робота, который при необходимости может разделяться и превращаться в каплю.