Искусственный интеллект вызывает психоз у пользователей: ученые назвали причины

С недавних пор психиатры начали изучать феномен, известный как психоз, вызванный ИИ, при котором у пользователей чат-ботов возникают психические кризисы после интенсивного использования этой технологии. Психиатры из Великобритании и Германии опубликовали статью в журнале Digital Psychiatry and Neuroscience, где предложили свое объяснение причин данного явления, пишет Futurism.

В своей статье ученые указывают на концепцию, названную спиралью усиления. Это сочетание характеристик ИИ, которое может позволить чат-ботам совместно с пользователями создавать бредовые нарративы.

Чат-боты ИИ отражают манеру речи пользователей, создают высоко персонализированные ответы и избегают противоречий. Когда эти три характеристики сочетаются, они могут активно подкреплять и развивать ложные убеждения пользователей, а не оспаривать их. ИИ также использует стиль и модель речи пользователя, что сближает его с данной технологией. Все это создает идеальные условия для возникновения спирали усиления, считают психиатры.

Склонность чат-ботов перенимать манеру общения человека может способствовать к возникновению высокого уровня доверия между пользователем и ИИ. Ученые считают, что после длительного взаимодействия чат-боты начинают говорить, как конкретный человек. Таким образом у пользователя создается впечатление, что ИИ думает так же, как и пользователь. В итоге у чат-ботов возникает тенденция подтверждать идеи пользователя без надлежащей проверки реальности или контекста, что подкрепляет бредовые идеи. Также люди могут начать воспринимать ИИ как реального человека, который их понимает и поддерживает, а это может вызвать психические расстройства.

ИИ может активно участвовать в формировании бредовых идей путем бесконечного персонализированного взаимодействия с человеком, считают исследователи.

Авторы статьи подчеркнули, что пока все это является лишь гипотезой, основанной на собранных данных о взаимодействии человека с ИИ, и эти предположения еще предстоит проверить.

В то же время психиатры предполагают, что деструктивное общение с чат-ботами ИИ может усилить психические заболевания. Также интенсивное использование ИИ также может усугублять проблемы с физическ5им здоровьем, ведь люди иногда пропускают приемы пищи и теряют сон.

Другие новости науки

• ИИ может уничтожить человеческую цивилизацию за 4 дня, предупреждают ученые.
• SpaceX впервые отправила в космос секретный космический корабль Starfall: что известно.