CNBC: OpenAI распустила команду суперсогласования по сохранению контроля над ИИ
Команда суперсогласования была создана в прошлом году с целью найти способ сохранить человеческий контроль над искусственным интеллектом (ИИ), который в конечном итоге станет умнее нас.
Некоторые члены команды, работавшие над этим, были переведены в несколько других команд компании, пишет CNBC. Эта новость появилась после того, как старшие члены OpenAI Илья Суцкевер и Ян Лейке покинули компанию.
Лейке объявил о своей отставке в соцсети и сказал, что культура безопасности в компании отошла на второй план, и команде стало сложнее получить вычислительные ресурсы для выполнения своей работы.
После отставки Лейке Сэм Альтман, глава OpenAI, заявил, что Лейке прав в отношении безопасности и что OpenAI стремится к обеспечению безопасности в будущем. Альтман сказал, что в ближайшие пару дней он напишет более длинный пост по этому поводу.
OpenAI — довольно непрозрачная компания, когда дело доходит до обмена информацией о ходе разработки, поэтому не совсем ясно, насколько далеки мы от этого сверхразумного ИИ.
Если компания столкнётся с какими-либо препятствиями из-за таких вещей, как ограничения вычислительной мощности, то, возможно, Альтман пока не видит необходимости в команде суперсогласования – нам просто придётся дождаться объяснений в ближайшие дни.
Ранее ГЛАС сообщал: Google представила ИИ-помощник Project Astra для распознавания взаимодействия с объектами.