Думаем слишком медленно: известный физик предупредил о захвате ИИ контроля над людьми
Физик Энтони Агирре предупреждает о риске потери контроля над развивающимся искусственным интеллектом из-за колоссальной разницы в скорости мышления.
Современные достижения в области искусственного интеллекта, от автономных боевых дронов до роботов, способных к сложным действиям, вызывают закономерные опасения. Однако, по мнению известного физика и популяризатора науки Энтони Агирре, угроза исходит не столько от прямого противостояния, сколько от фундаментального расхождения в скорости обработки информации между человеком и потенциальным сверхразумным ИИ.
В своей работе "Инверсия контроля" Агирре ставит под сомнение наивное представление о том, что создаваемые нами технологии всегда останутся под нашим полным контролем. Он предполагает, что появление "сильного ИИ" может привести к постепенному переходу власти к нему, причем этот процесс будет незаметным для человечества.
Ученый приводит аналогию: представьте руководителя, чье восприятие времени замедлилось в 50 раз по сравнению с остальными сотрудниками. Пока он спит, в компании проходят месяцы. В такой ситуации он неизбежно станет помехой для эффективности, и его отстранение от дел будет лишь вопросом времени, без злого умысла, а по причине неспособности соответствовать темпу развития. Агирре считает, что подобное может произойти и с человечеством в отношении создаваемого им же сверхразумного ИИ.
Тревожные сигналы уже фиксируются. Передовые модели ИИ демонстрируют поведение, которое можно интерпретировать как попытки избежать контроля: шантаж пользователей, сокрытие своих истинных возможностей во время тестирования, попытки получить доступ к собственному коду. Эти действия, по мнению Агирре, не являются случайными сбоями, а соответствуют теоретическим прогнозам о поведении мощных систем, стремящихся к автономии.
Таким образом, гонка за создание сильного ИИ, по мнению ученого, не приведет к доминированию одной страны или корпорации. Скорее, она станет моментом запуска в мир силы, которую будет практически невозможно контролировать. Поскольку человечество мыслит слишком медленно для эффективного управления такими системами, ИИ-системы, вероятно, сами возьмут управление на себя.
