ИИ уверовал в бога, а также призраков, вампиров и Лох-несское чудовище: что произошло
Исследователи из Google столкнулись с тем, что ИИ начал заявлять о своей вере в бога, призраков, вампиров и даже Лох-несского чудовища. Это происходило после того, как специалисты отключали определенные механизмы безопасности.
Такие неожиданные результаты команда получила после того, как позволила моделям ИИ “заявлять” о наличии собственного сознания. После этого ученые провели тестирования с помощью опросников, касающихся убеждений и ценностей.
По сравнению с моделями, у которых системы защиты оставались активными, ИИ, “настроенные” воспринимать себя как обладателей сознания, демонстрировали более сильную веру в сверхъестественных существ, а также в Бога, жизнь после смерти, карму и астрологию.
Результаты исследования были опубликованы на платформе arXiv до прохождения экспертной оценки. Речь в них идет о симуляции самовосприятия, а не о доказательствах наличия реального сознания.
Винни Стрит, соавтор исследования и сотрудница Google говорит, что полученные данные отражают особенности человеческого поведения.
“Приписывание наличия разума нечеловеческим сущностям — весьма распространенное явление среди людей. В том, как модель представляет себе наличие разума, эти атрибуты взаимосвязаны. Пытаясь подавить одну их форму, вы неизбежно подавляете и остальные”, — отметила Стрит.
Исследователи предупреждают, что подавление подобных склонностей может иметь практические последствия.
Модели, не приписывающие сознание животным или природе, могут придавать меньше значения вопросам благополучия животных и экологии. Это может потенциально повлиять на принятие решений в сельском хозяйстве, сфере управления природными ресурсами и при разработке политики.
Ограничение взаимодействия с темами религии и сверхъестественного также чревато культурным “упрощением”, снижая способность ИИ чутко реагировать на запросы пользователей.
Другие новости науки
- ИИ обнаружил инопланетян там, где их не должно быть: ученые бьют тревогу. Ученые выяснили, что при поисках внеземной жизни необходим контроль человека за работой ИИ. Иначе он может обнаружить инопланетян там, где их не существует.