Ученый оценил риск гибели человечества из-за ИИ более чем в 50%

Развитие искусственного интеллекта может привести к последствиям, которые человечество окажется не способно контролировать. Руководитель Института исследований машинного интеллекта Нейт Соарес считает, что вероятность исчезновения людей из-за ИИ в течение ближайшего десятилетия превышает 50%. Как пишет Business Insider, эксперт высказал такую оценку во время интервью Николасу Томпсону из The Atlantic.

По словам исследователя, основная опасность заключается не в существующих чат-ботах, а в возможном появлении значительно более совершенных систем. Такой искусственный интеллект сможет самостоятельно ставить задачи и действовать в соответствии с собственными целями.

Если эти цели разойдутся с интересами человечества, даже установленные разработчиками ограничения могут оказаться недостаточными.

Соарес допускает, что подобная система научится самостоятельно улучшать свои способности и в конечном итоге начнет преобразовывать окружающий мир без учета потребностей людей.

Эксперт настолько серьезно воспринимает угрозу, что уже около десяти лет не увеличивает собственные пенсионные накопления.

Вместе с тем он подчеркивает, что негативного исхода еще можно избежать. Для этого исследователь предлагает ограничить создание универсального ИИ, направив усилия на разработку специализированных систем для медицины и транспорта.