Штучний інтелект викликає психоз у користувачів: вчені назвали причини

З недавнього часу психіатри почали досліджувати феномен, відомий як психоз, спричинений штучним інтелектом, при якому у користувачів чат-ботів виникають психічні кризи після інтенсивного використання цієї технології. Психіатри з Великої Британії та Німеччини опублікували статтю в журналі Digital Psychiatry and Neuroscience, де запропонували своє пояснення причин цього явища, пише Futurism.

У своїй статті вчені звертають увагу на концепцію, яку називають "спіраллю посилення". Це поєднання характеристик ШІ, яке може дозволити чат-ботам спільно з користувачами створювати безглузді наративи.

Чат-боти на базі штучного інтелекту відтворюють манеру мовлення користувачів, формують високо персоналізовані відповіді та уникають суперечностей. Коли ці три характеристики поєднуються, вони можуть активно підкріплювати та розвивати хибні переконання користувачів, а не заперечувати їх. ШІ також використовує стиль і модель мовлення користувача, що зближує його з цією технологією. Все це створює ідеальні умови для виникнення спіралі посилення, вважають психіатри.

Схильність чат-ботів переймати манеру спілкування людини може сприяти формуванню високого рівня довіри між користувачем та ШІ. Вчені вважають, що після тривалої взаємодії чат-боти починають говорити, як конкретна людина. Таким чином у користувача створюється враження, що ШІ мислить так само, як і він сам. У результаті у чат-ботів виникає тенденція підтверджувати думки користувача без належної перевірки реальності чи контексту, що підкріплює маревні ідеї. Також люди можуть почати сприймати ШІ як реальну людину, яка їх розуміє та підтримує, а це може спричинити психічні розлади.

На думку дослідників, ШІ може активно брати участь у формуванні безглуздих ідей шляхом нескінченної персоналізованої взаємодії з людиною.

Автори статті наголосили, що поки що все це є лише гіпотезою, яка ґрунтується на зібраних даних про взаємодію людини з ШІ, і ці припущення ще належить перевірити.

Водночас психіатри припускають, що деструктивне спілкування з чат-ботами на базі штучного інтелекту може посилити психічні захворювання. Крім того, інтенсивне використання ШІ також може поглиблювати проблеми з фізичним здоров’ям, адже люди іноді пропускають прийоми їжі та страждають від безсоння.

Інші новини науки

• ШІ може знищити людську цивілізацію за 4 дні, попереджають вчені.
• SpaceX вперше відправила в космос секретний космічний корабель Starfall: що відомо.