Popular Science: ИИ ошибся в поиске внеземной жизни
AI Изображение носит иллюстративный характер
Искусственный интеллект может неправильно определять признаки внеземной жизни и выдавать ложные сигналы за реальные следы организмов, сообщает Popular Science.
К такому выводу пришли исследователи из Университета штата Мичиган. Компьютерный инженер Анкит Гупта и Кристоф Адами проверили, насколько надежно современные алгоритмы машинного обучения справляются с задачей распознавания возможных биологических признаков.
Для эксперимента ученые использовали программу Avida, которая моделирует эволюционные процессы. Нейросеть обучили на десятках тысяч цифровых организмов. Одни из них могли создавать собственные копии, другие такой способности не имели.
Во время обучения система показывала почти безошибочный результат. Однако при работе с новыми примерами алгоритм начал давать сбои. По словам исследователей, всего около 150 небольших изменений в программном коде цифровых организмов оказалось достаточно, чтобы искусственный интеллект стал принимать ошибочные сигналы за признаки жизни.
Авторы работы считают, что выявленная уязвимость касается не только поиска внеземных организмов. Похожие ложные срабатывания могут возникать в системах распознавания лиц, беспилотном транспорте и медицинских сканерах.
Адами подчеркнул, что результаты исследования не означают полного отказа от искусственного интеллекта. По его словам, работу алгоритмов необходимо проверять независимым способом, а человек должен оставаться участником такого контроля.
