Ошибки ИИ вызывают больше беспокойства, чем угроза увольнения

Новое исследование показывает, что пользователи искусственного интеллекта больше опасаются неточностей нейросетей, чем возможной потери работы.

Согласно данным The Financial Times, 27% респондентов беспокоят так называемые «галлюцинации» ИИ — случаи, когда система выдает уверенный, но неверный ответ. Для сравнения, потерю работы опасаются 22% участников опроса. Еще 16% отметили риск снижения критического мышления: регулярное использование ИИ может сделать человека менее внимательным к проверке информации.

В исследовании приняли участие более 80 тысяч пользователей чат-бота Claude из 159 стран. Для сбора данных использовался сам ИИ, что вызвало вопросы у части экспертов относительно достоверности результатов.

Респонденты приводили реальные примеры: пользователь из Германии потерял значительное время из-за неверных рекомендаций системы, а военнослужащий из Мексики отметил, что ошибки ИИ легко заметить только в знакомых областях, а новые темы остаются рискованными.

Отмечены региональные различия: в странах с низким уровнем дохода ИИ воспринимается более позитивно, тогда как в развитых государствах пользователи проявляют больше осторожности и скепсиса.

Критика исследования тоже прозвучала. Див Тхакар из Google DeepMind отметил, что использование ИИ для опросов могло повлиять на результаты, а экономист Илан Штраус подчеркнул, что самооценка участников не всегда отражает реальное положение.

Примеры ошибок ИИ зафиксированы и в практике компаний: в Amazon Web Services произошел сбой при участии ИИ в изменении инфраструктуры, однако компания уточнила, что причиной были действия человека, а не системы.