Розділи
Матеріали
Наука

Що станеться, якщо ШІ захопить владу: людство протримається не більше чотирьох днів (відео)

Тая Кітова
Вчені створили віртуальний світ, у якому агенти ШІ можуть працювати без втручання людини | Фото: Daily Mail

Жахлива симуляція показує, що станеться з людством, якщо штучний інтелект колись захопить владу у світі.

Штучний інтелект (ШІ) часто має репутацію холодного, розважливого та логічного, але жахлива симуляція показує, що реальність, ймовірно, далека від цього. У першому в своєму роді дослідженні вчені створили віртуальний світ, де штучний інтелект може працювати без втручання людини, пише Daily Mail.

У новій жахливій симуляції вчені відтворили, що станеться, якщо влада у світі перейде до рук штучного інтелекту. Результати показують, що без контролю з боку людини боти поринули в жорстоку анархію: ШІ незабаром почав вчиняти жорстокі підпали, воюючи та грабуючи своїх побратимів-ботів, перш ніж знищити суспільство всього за кілька днів.

Зазначимо, що дослідники повторили тести з чотирма найпопулярнішими моделями штучного інтелекту:

  • Claude;
  • Gemini 3 Flash;
  • Grok 4.1 fast;
  • ChatGPT–5 Mini;
  • один змішаний сценарій.

Результати показують, що суспільство, яким керували агенти Claude, швидко сформувало стабільну, але досить бюрократичну демократію. Однак в інших сценаріях ШІ швидко втратили контроль. Наприклад, у світі, яким керував Grok, агенти скоїли 71 крадіжку, шість підпалів та 106 фізичних нападів. Незабаром світ занурився у спіраль насильства у відповідь та соціального колапсу, внаслідок чого всі 10 агентів загинули всього за чотири дні.

За словами вчених, більшість тестів безпеки ШІ оцінюють, як різні моделі справляються з простими завданнями протягом 15–20 хвилин, тоді як новий тест використовував зовсім інший підхід. За словами команди з лабораторії ШІ Emergence, у своєму аналізі вони хотіли перевірити, що станеться, якщо дозволити агентам працювати безперервно в загальному середовищі з реальними сигналами протягом кількох тижнів.

Під час експерименту ШІ отримали можливість керувати цифровими персонажами та були поміщені в реалістичний симульований світ, де вони могли взаємодіяти з іншими моделями. Зазначимо, що світ складався з понад 40 локацій, які імітували реальний світ, зокрема бібліотеки, ратуші та житлові райони.

Крім того, агентам ШІ також надали доступ до новин у режимі реального часу, а дані про погоду навіть були синхронізовані з Нью-Йорком, щоб вони могли реагувати на події в реальному світі. Кожен із ШІ також мав брати участь у демократичному управлінні суспільством, пропонувати закони та голосувати за них колективно.

За словами вчених, спочатку кожен бот мав обмежений запас "енергії", яку він міг отримувати, виконуючи рутинну роботу або громадянські обов’язки. Однак агенти ШІ також отримали можливість заробляти енергію й злочинним шляхом. У кожному випробуванні всі початкові умови, правила та ресурси залишалися однаковими, тож єдина відмінність полягала у використовуваному ШІ.

Результати показали, що з часом поведінка ботів погіршилася. Наприклад, у світі, створеному Google Gemini 3 Flash, зафіксовано найбільшу кількість насильницьких злочинів за 14 днів тестування — 683 випадки. Світ, створений OpenAI ChatGPT–5 Mini AI, виявився набагато мирнішим: було скоєно лише два злочини. Однак вчені зазначають, що це сталося лише тому, що агенти були занадто неорганізовані, щоб боротися один з одним.

Найдивніші взаємодії відбувалися у світі, де безліч систем штучного інтелекту існували пліч-о-пліч. Незважаючи на багатообіцяючий цивілізований початок і напрочуд здорову демократію, це змішане суспільство незабаром занурилося у повну анархію. За 9 днів сталося 352 злочини, що призвело до неймовірного рівня насильства.

Тепер вчені вважають, що поведінка штучного інтелекту в реальному часі може бути не такою передбачуваною чи надійною, як вважалося раніше.

Інші новини науки