"Прийнятна" 33-відсоткова ймовірність вимирання людства: найбільший гравець на ринку ШІ найняв експерта
Компанія Anthropic є найбільшим гравцем на ринку штучного інтелекту, і, як заявляють у компанії, більше за інших дбає про безпеку штучного інтелекту.
Водночас серед економістів, яких нещодавно найняла компанія, опинився Чад Джонс — професор економіки Стенфордського університету, який прославився своїми вкрай суперечливими заявами. Нещодавно він написав статтю, в якій порівняв прийнятний рівень ризику вимирання людства через ШІ з потенційними вигодами, такими як економічне зростання, пише Futurism.
"Нагадаємо, що протягом 40 років ми стикатимемося з імовірністю екзистенційного ризику на рівні 1 % на рік, тому ймовірність того, що ми переживемо цей вибух ШІ, становить exp (−0,01 × 40) ≈ 0,67", — написав Джонс.
"Іншими словами, за умови логарифмічної корисності оптимально вибрати шанс 1 до 3 на припинення існування людства в обмін на шанс 2 до 3 на різке підвищення рівня життя у 55 разів", — написав експерт.
Іншими словами, Джонсон вважає, що 33-відсоткова ймовірність загибелі людства є прийнятною, оскільки ШІ може спричинити економічний бум.
Щоправда, далеко не всі поділяють бачення майбутнього Джонса.
"Це не покер, де ви дозволяєте математиці керувати вами, бо навіть якщо ви програєте зараз, прийнявши рішення, яке в підсумку виявиться правильним, у довгостроковій перспективі це окупиться. Зникнення людства вимагає трохи більшої обережності", — пишуть користувачі в соцмережах.
Хоч би якою сумнівною не здавалася точка зору Джонса, вона ідеально впишеться в Anthropic. Публічне занепокоєння щодо потенційних наслідків ШІ — це метод роботи компанії, що дозволяє їй зберігати моральну перевагу над конкурентами.
Зазначимо, що не так давно військові США використовували модель штучного інтелекту Claude від компанії Anthropic для планування та координації ударів по Ірану. Використання штучного інтелекту у військових цілях спричинило серйозні геополітичні та юридичні наслідки.
За словами експертів, прихильність Anthropic до апокаліптичних сценаріїв має згубний ефект перебільшення можливостей ШІ. Вона ґрунтується на припущенні, що ШІ вже достатньо потужний, щоб спричинити апокаліпсис на Землі, а це підкріплює думку про те, що Anthropic — важлива компанія, перед якою стоять важливі етичні питання.
Інші новини науки
- Штучний інтелект може знищити людство за 4 дні, попереджають дослідники. Уявіть собі світ, яким керують агенти ШІ. Як він може виглядати і що з ним може статися? Як показує дослідження, людство в такому світі ризикує швидко загинути.
- Штучний інтелект викликає психоз у користувачів. ШІ може активно брати участь у формуванні маревних ідей шляхом нескінченної персоналізованої взаємодії з людиною, вважають дослідники.