Психолог Никишина предупредила о рисках «доверительного общения» с чат-ботамиИрина НевиннаяВсеобщая эйфория от широких возможностей, которые люди получили благодаря развитию технологий ИИ, кажется, постепенно заканчивается. Регулярное использование чат-ботов может даже спровоцировать психоз. О таком результате исследований историй болезни десятков пациентов за последние девять месяцев рассказал The Wall Street Journal.
У пациентов появились симптомы психоза после длительных переписок с чат-ботами, в том числе с ChatGPT, сказали изданию опрошенные эксперты. Например, 26-летняя американка была уверена, что с помощью чат-бота общается с умершим братом. Поскольку чат-боты на основе ИИ вошли в нашу жизнь совсем недавно, формального определения психоза, спровоцированного именно при общении с роботами, нет. Однако врачи называют характерные признаки такого расстройства:
Врачи предупреждают: чат-боты могут не только «закреплять» ошибочные мнения, но даже провоцировать бредовые идеи: пациенты верят, что совершили научный прорыв, стали центром правительственного заговора или были избраны Богом. Объяснение довольно простое: алгоритмы, по которым работают чат-боты, устроены таким образом, что диалог развивается в приятном для пользователя направлении — бот соглашается с мнением пользователя, поддерживает высказываемые им идеи и развивает фантазии, даже если они далеки от объективной реальности.
«Сама технология, возможно, и не вызывает бред, но человек рассказывает компьютеру о своей реальности, а компьютер принимает это за истину и отражает обратно, таким образом, он становится соучастником в возникновении заблуждения», — цитирует издание психиатра из Калифорнийского университета, доктора Кита Саката. Доктор уже оказывал помощь 15 пациентам, получившим психоз после общения с ChatGPT.
Впрочем, он не отрицает, что окончательные выводы делать преждевременно: чтобы установить связь между использованием чат-ботов и психозом, необходимы дополнительные исследования. В OpenAI, разработчике ChatGPT, изданию сообщили, что продолжают обучать чат-бот, чтобы он мог распознавать признаки психического или эмоционального расстройства и реагировать на них.
Мнение
А что говорят по этому поводу российские специалисты?
Вера Никишина, профессор, директор Института клинической психологии и социальной работы Пироговского университета:
— Трудно не согласиться с данными зарубежных исследований, которые показали, что чат-боты не решают проблему выявления психических нарушений у пользователей и оказания помощи в таких случаях. Эти роботы устроены так, в них заложены такие алгоритмы, что они общаются одинаково и с человеком с нарушенной психикой, и с тем, у кого никаких отклонений нет и состояние нормативное. Но здесь должна быть кардинальная разница. И она состоит в том, что не только психическое расстройство, но и пограничное состояние или предрасположенность к нему может усугубиться при общении с чат-ботом, который своими ответами провоцирует у человека факт принятия, что у него что-то не в порядке. В результате человек может все глубже и глубже погружаться в это состояние. Чат-бот, не распознавая ненормативность состояния (так как такие функции в него просто не заложены), во время диалога как бы «подыгрывает» пользователю и погружает человека в психическое нездоровье, доводя эти проявления до максимально выраженных. И чем больше времени человек проводит в диалогах с чат-ботом, тем очевиднее нарастают симптомы.
По факту также могу сказать, что распространенность пограничных состояний увеличивается, и мотивация у людей с такими состояниями на диалог с чат-ботом, который их как будто понимает, тоже значительно больше. Значит, и активность таких людей и погружение их в эту синтетическую коммуникацию будет усиливать, может быть, на старте еще не выраженные патологические состояния, усиливать их и доводить до патологических. Так что в этом смысле много оснований для того, чтобы говорить о рисках использования ИИ-технологий людьми с нестабильной психикой.
Как минимизировать риски?
Для безопасного использования чат-ботов эксперты и исследователи советуют:
Источник: rg.ru