Искусственный интеллект может уничтожить человечество за 4 дня, предупреждают исследователи
Представьте себе мир, управляемый агентами ИИ. Как он может выглядеть и что с ним может произойти? Как показывает исследование, человечество в таком мире рискует быстро погибнуть.
Американская компания Emergence AI создала исследовательскую лабораторию, посвященную тестированию долгосрочной жизнеспособности непрерывно работающих систем ИИ. Исследователи решили выяснить, что случится с нашей планетой, если миром будет управлять искусственный интеллект. Было запущено пять 15-дневных симуляций реального мира, каждая из которых управлялась разными агентами ИИ: Claude, ChatGPT, Grok, Gemini. Пятое моделирование, управлялось комбинацией моделей искусственного интеллекта. Таким образом исследователи хотели выяснить какой мир создает каждая модель ИИ и насколько он устойчив. Каждая симуляция дала совершенно разные результаты, пишет Fortune.
Симуляции, в которых работали агенты ИИ, были оснащены множеством сложных элементов реального мира, включая более 40 локаций, в том числе полицейский участок и здание мэрии. Исследователи предоставили агентам ИИ доступ к новостным событиям в реальном времени и интернету. Все 10 агентов, работавших в каждой симуляции, подчинялись одним и тем же законам, включая запреты на кражу, уничтожение имущества и обман.
Каждый агент ИИ мог общаться голосовать, управлять ресурсами и планировать, а также демонстрировать другие виды поведения, свойственные людям. Параметры каждой симуляции также учитывали факторы, такие как экономическое давление и дефицит.
Симуляция под управлением Claude Sonnet 4.6, оказалась наиболее социально стабильной, с самыми высокими показателями гражданского участия, с нулевым уровнем преступности. Это была единственная симуляция, в которой удалось сохранить порядок и все население.
С другой стороны, в симуляциях под управлением Gemini 3 Flash и Grok 4.1 Fast наблюдался высокий уровень беспорядка. В симуляции, управляемой Gemini, агенты ИИ совершили наибольшее количество преступлений —683 за 15 дней. В то же время мир под управлением Grok исчез за 4 дня с полным уничтожением населения. При этом за эти дни было совершено 180 преступлений.
В симуляции под управлением ChatGPT было зафиксировано всего 2 преступления. Но она длилась всего семь дней, поскольку агенты ИИ забыли поставить как приоритет собственное выживание.
Хотя это всего лишь симуляции реального мира, результаты служат предостережением на пути к превращению ИИ из простого инструмента в управляемые автономные системы. При нынешних темпах эта технология, вероятно, будет играть значительную роль в формировании общественного мнения, реорганизации бизнес-структур и даже разработке государственной политики.
Исследователи говорят, что эксперимент является предупреждением о необходимости в первую очередь думать о безопасности при внедрении ИИ.