Восстание машин приведет к концу света: сможет ли ИИ действительно погубить человечество

В последние несколько лет появляется все больше теорий о том, что развитие искусственного интеллекта в конце концов приведет к гибели всего человечества. Представления об апокалипсисе, спровоцированном искусственным интеллектом, как правило, включают в себя ядерные взрывы, смертоносные искусственно созданные вирусы и армии роботов-убийц в духе "Терминатора", пишет Daily Mail.

Однако теперь ученые предупреждают, что реальный сценарий гибели человечества из-за искусственного интеллекта, скорее всего, будет гораздо менее очевидным. Ведущие исследователи в области ИИ бьют тревогу по поводу растущей угрозы так называемого "ослабления".

По словам старшего преподавателя робототехники и искусственного интеллекта в Университете Шеффилд-Халлам, доктора Самуэле Винаци, к гибели человечества, вероятно, приведет постепенная утрата навыков критического мышления, планирования и эмоциональных способностей, поскольку люди по всему миру все чаще перекладывают все больше ответственности на ИИ. Эксперты считают, что именно в это и кроется настоящая угроза.

Эксперты считают, что со временем эти, казалось бы, незначительные решения могут привести к тому, что люди разучатся мыслить без помощи машин и утратят способность понимать, проверять и контролировать системы, от которых зависят. И, судя по результатам все большего числа исследований, этот тревожный процесс уже начался.

За последние несколько месяцев в научном сообществе, занимающейся разработкой ИИ, возникли серьезные опасения по поводу того, что стремительный технологический прогресс может создать угрозу для человечества.

Например, по словам 27-летнего Джейкоба Коксона, участвовавшего в обучении новейших версий ИИ в компании Anthropic, заявил, что технология может достигнуть уровня суперинтеллекта. И это станет концом человечества. Более того, он заявил, что разработчики ИИ, всерьез полагают, что к концу десятилетия он может погубить всех людей на планете.

Руководитель направления исследований по обеспечению безопасности и согласованности ИИ в Anthropic Эван Хубингер подтвердил, что согласен с заявлением Коксона: они с коллегами действительно всерьез считают, что ИИ может погубить всех людей. Вероятность такого развития событий оценивается в 10% в ближайшее десятилетие.

Впрочем, мнения экспертов относительно того, какую именно форму примет эта угроза со стороны ИИ, разделились. Одни считают, что в конце концов ИИ может выйти из-по контроля и захватит управление критически важной инфраструктурой — например, энергосетями или атомными электростанциями.

Другие опасаются, что ИИ может непреднамеренно спровоцировать ядерную войну или создать опасные патогены, предназначенные для использования в качестве оружия. Однако Винаци считает, что ни один из этих драматических апокалиптических сценариев не является реалистичным. Эксперт полагает, что истинная опасность, вероятно, скрывается в том, что ИИ становится все более полезным. Доктор Винанци называет это явление "ослаблением способностей" — постепенной утратой человеческих навыков.

Другие новости науки

• Колонизаторы от бога: на Земле есть лишь одно существо, способное выжить на Марсе
• Неожиданное открытие: в мультфильме "Король лев" допущена серьезная ошибка