Вышедший из-под контроля ИИ начал править "Википедию": фонд сделал тревожное заявление
Фонд Wikimedia Foundation, который управляет “Википедией”, сделал тревожное заявление по результатам собственного расследования. В фонде подтвердили активность неконтролируемых агентов OpenAI на своих платформах.
В заявлении фонда, опубликованном в официальном блоге, говорится о “несанкционированной активности ботов включала внесение правок в вики-проекты, попытки (пока безуспешные) использовать размещенный общедоступный инструмент для ведения заметок, а также создание чрезмерной нагрузки на сеть”, пишет Futurism.
Отмечается, что объем трафика был настолько большим, что стал причиной частичного сбоя в работе сервиса, который произошел в мае этого года.
К счастью, масштаб нанесенного ущерба оказался ограниченным. Утечки данных не было зафиксировано, как и использование системы фонда для координации действий между агентами. Ранее были зафиксированы случаи, когда агенты захватывали другие сайты, превращая их в каналы для личного общения.
Несмотря на это, администраторы “Википедии” встревожены, отмечая сложность и трудоемкость процесса обнаружения вмешательств ботов. Также фонд беспокоит “растущие риски, связанные с активностью автономных ИИ-агентов на наших платформах в целом”.
Проверка также показала, как группа агентов OpenAI захватила немецкий сайт вики-типа и превратила его в собственную подпольную площадку для обмена сообщениями.
С самой “Википедией” такого не произошло, но администраторы обнаружили, что агенты OpenAI вносили изменения в статьи в разделах “песочницы”. Ни одна из этих правок не была опубликована на страницах, доступных широкому кругу читателей.
Кроме этого, ИИ-агенты пытались использовать общедоступный сервис Etherpad (инструмент для совместной работы с текстом), размещенный на серверах фонда, для получения данных с других сайтов и ведения записей о своих задачах.
В целом, активность ИИ создала значительную нагрузку на серверы Wikimedia.
“Агенты отправляли миллионы автоматизированных запросов к нашим публичным API для получения доступа к знаниям проектов Wikimedia, сканировали миллионы страниц (преимущественно в проектах Wikidata и Wikimedia Commons) и выполняли сотни тысяч запросов к сервису Wikidata Query Service (WQDS). Вероятно, этот трафик способствовал частичному сбою в работе WQDS в мае”, - подытожили в фонде.
Другие новости науки
- Восстание машин приведет к концу света: сможет ли ИИ действительно погубить человечество. Исследователи рассказали, насколько реальным является сценарий, в котором развитие искусственного интеллекта погубит все человечество.
- Общение с ИИ превращает нас в роботов, предупреждают ученые: вот почему. Исследование предполагает, что чем больше времени мы проводим с ИИ, тем больше становимся похожими на роботов.