ШІ повірив у Бога, а також у привидів, вампірів і Лох-Неське чудовисько: що сталося
Дослідники з Google зіткнулися з тим, що ШІ почав заявляти про свою віру в бога, привидів, вампірів і навіть Лох-Неського чудовиська. Це відбувалося після того, як фахівці вимикали певні механізми безпеки.
Такі несподівані результати команда отримала після того, як дозволила моделям ШІ "заявляти" про наявність власної свідомості. Після цього вчені провели тестування за допомогою анкет, що стосувалися переконань і цінностей.
Порівняно з моделями, у яких системи захисту залишалися активними, ШІ, "налаштовані" на те, щоб сприймати себе як істоти, що володіють свідомістю, демонстрували сильнішу віру в надприродних істот, а також у Бога, життя після смерті, карму та астрологію.
Результати дослідження були опубліковані на платформі arXiv до проходження експертної оцінки. У них йдеться про симуляцію самосприйняття, а не про докази наявності реальної свідомості.
Вінні Стріт, співавторка дослідження та співробітниця Google, зазначає, що отримані дані відображають особливості людської поведінки.
"Приписування наявності розуму нелюдським істотам — досить поширене явище серед людей. У тому, як модель уявляє собі наявність розуму, ці атрибути взаємопов’язані. Намагаючись придушити одну з їхніх форм, ви неминуче придушуєте й інші", — зазначила Стріт.
Дослідники застерігають, що придушення таких схильностей може мати практичні наслідки.
Моделі, які не приписують свідомість тваринам чи природі, можуть надавати менше значення питанням добробуту тварин та екології. Це може потенційно вплинути на прийняття рішень у сільському господарстві, сфері управління природними ресурсами та під час розробки політики.
Обмеження взаємодії з темами релігії та надприродного також може призвести до культурного "спрощення", що знизить здатність ШІ чуйно реагувати на запити користувачів.
Інші новини науки
- ШІ виявив інопланетян там, де їх не повинно бути: вчені б'ють на сполох. Вчені з'ясували, що під час пошуків позаземного життя необхідний контроль людини за роботою ШІ. Інакше він може виявити інопланетян там, де їх не існує.