"Чорнобильський момент": дослідники штучного інтелекту побоюються катастрофи, яка змінить світ

Американські та китайські дослідники штучного інтелекту закликають до глобальної співпраці в цій галузі, побоюючись, що безконтрольний розвиток штучного інтелекту може призвести до масштабної катастрофи. Після цього світ уже ніколи не буде таким, як раніше, пише Futurism.

Інформатик Стівен Каспер із Массачусетського технологічного інституту (США) вважає, що ШІ — це глобальна технологія, яка може принести як дуже багато користі, так і дуже багато шкоди.

"Зараз майже всі фахівці з ШІ сходяться на думці, що ШІ не потрібен "чорнобильський момент", — каже Каспер.

Вибух на Чорнобильській АЕС у 1986 році назавжди змінив думку багатьох людей щодо атомної енергетики та загальмував її розвиток. У деяких країнах взагалі відмовляються від АЕС на користь інших джерел енергії. "Чорнобильський момент" — це аналогія з сумнозвісною подією, яка має відношення до ШІ. Ця технологія також може спричинити глобальну катастрофу, після якої світ уже ніколи не буде таким, як раніше, вважають дослідники.

Існують різні апокаліптичні сценарії, пов’язані зі штучним інтелектом: від масового безробіття в усьому світі до повного контролю штучного інтелекту над усім світом.

Однак останнім часом, коли стало зрозуміло, що одним із найпрактичніших застосувань ШІ є генерація коду, експерти б’ють на сполох щодо потенційної можливості ШІ підірвати кібербезпеку. Хакери можуть легко використовувати агентів ШІ для організації руйнівних кібератак.

Такі побоювання підсилюють компанії, які розробляють ШІ. Наприклад, компанія Anthropic відмовилася публічно випустити свою модель ШІ Claude Mythos, оскільки вона настільки потужна, що може зламати будь-яку операційну систему та веб-браузери.

Цей ризик посилюється появою моделей ШІ з відкритим вихідним кодом, які є безкоштовними та користуються популярністю. Однак ці моделі не підлягають такому контролю, який притаманний провідним моделям ШІ.

Джерело в одній із китайських компаній, що займається розробкою ШІ, повідомило, що проблеми з безпекою є однією з причин, через яку передові моделі ШІ в Китаї більше не випускаються з відкритим вихідним кодом.

Лінь Юнь із Шанхайського університету Цзяотун вважає, що найближчим часом хакери отримають перевагу завдяки використанню ШІ. Водночас ШІ можна використовувати для зміцнення кібербезпеки, але для цього потрібно забезпечити глобальну співпрацю в цій сфері.

"Якщо різні країни по-різному сприймають ризики, стає простіше розробити загальні принципи безпеки. Важливо визначити сфери, де обмін інформацією може знизити системний ризик, не розкриваючи конфіденційних даних", — каже Лінь Юнь.

Інші новини науки

• Штучний інтелект викликає психоз у користувачів: вчені назвали причини.
• Римські сувої віком 2000 років нарешті розшифрували за допомогою ШІ: знайдено невідомий твір.