Недавние эксперименты подтвердили, что многие пользователи искусственного интеллекта (ИИ) бездумно принимают ошибочные ответы от моделей, демонстрируя феномен, известный как «когнитивная капитуляция». Это открытие приводит к пересмотру нашего восприятия взаимодействия с ИИ в повседневной жизни.
Две группы пользователей ИИ
Согласно исследованию, пользователи ИИ делятся на две категории: одни воспринимают его как мощный инструмент, требующий тщательной проверки ответов, а другие полагаются на ИИ, оставляя за ним право принимать решения. В рамках новой модели, предложенной исследователями из Пенсильванского университета, выделяется третья категория, где пользователи охотно пользуются «искусственной когницией». Это приводит к тому, что они принимают решения на основе автоматизированных систем, а не личного анализа.
Традиционно, используя такие инструменты как калькуляторы или GPS-навигация, люди стремились разгрузить себя в определённых задачах, полагаясь на свою интуицию рядом с автоматическими алгоритмами. Однако с появлением ИИ стал отмечаться новый уровень капитуляции: пользователи перестают активно анализировать информацию и начерчивают полное доверие к алгоритмическим выводам.
Тестирование когнитивной капитуляции
Чтобы выяснить масштабы этого явления, исследователи применили Тесты на когнитивное отражение (CRT). Они предоставили участникам возможность обратиться к модифицированному чат-боту ИИ, который отвечал правильно в половине случаев и ошибался в другой. Участники, активно использовавшие ИИ, допустили ошибочные выводы лишь в 19,7% случаях, что ставит под сомнение их способность к критическому мышлению.
Одна из примечательных находок заключалась в том, что, несмотря на высокую частоту неверных выводов, испытуемые повышали свою уверенность в ответах, полагаясь на ИИ. Добавление небольших стимулов увеличивало вероятность успешного выявления ошибок, однако давление времени, наоборот, снижало эту способность.
Разные подходы к проверке информации
Общее число участников исследования составило 1372 человека, и результаты показали, что 73,2% испытуемых не опровергали ошибочные рассуждения ИИ. Наблюдения также показали, что те участники, у которых высокий уровень подвижного интеллекта, меньше полагаются на ИИ и чаще корректируют его выводы.
Невзирая на указанные риски, авторы подчеркивают, что когнитивная капитуляция не всегда является иррациональной. В некоторых случаях ИИ может давать более качественные результаты в сложных задачах, однако стоит помнить: надежность результатов зависит от точности самих систем.
