Непідконтрольний ШІ почав самотужки редагувати "Вікіпедію": фонд опублікував тривожну заяву
Фонд Wikimedia Foundation, який керує "Вікіпедією", оприлюднив тривожну заяву за результатами власного розслідування. У фонді підтвердили активність неконтрольованих агентів OpenAI на своїх платформах.
У заяві фонду, опублікованій в офіційному блозі, йдеться про "несанкціоновану діяльність ботів, що включала внесення правок до вікі-проектів, спроби (поки що безуспішні) використовувати розміщений загальнодоступний інструмент для ведення нотаток, а також створення надмірного навантаження на мережу", — пише Futurism.
Зазначається, що обсяг трафіку був настільки великим, що став причиною часткового збою в роботі сервісу, який стався у травні цього року.
На щастя, масштаб завданих збитків виявився обмеженим. Витоків даних не було зафіксовано, як і використання системи фонду для координації дій між агентами. Раніше були зафіксовані випадки, коли агенти захоплювали інші сайти, перетворюючи їх на канали для особистого спілкування.
Незважаючи на це, адміністратори "Вікіпедії" стурбовані, відзначаючи складність і трудомісткість процесу виявлення втручань ботів. Також фонд турбують "зростаючі ризики, пов’язані з активністю автономних агентів штучного інтелекту на наших платформах загалом".
Перевірка також показала, як група агентів OpenAI захопила німецький сайт типу "вікі" та перетворила його на власну підпільну платформу для обміну повідомленнями.
З самою "Вікіпедією" такого не сталося, але адміністратори виявили, що агенти OpenAI вносили зміни до статей у розділах "пісочниці". Жодна з цих правок не була опублікована на сторінках, доступних широкому колу читачів.
Крім того, агенти ШІ намагалися використовувати загальнодоступний сервіс Etherpad (інструмент для спільної роботи з текстом), розміщений на серверах фонду, для отримання даних з інших сайтів та ведення записів про свої завдання.
Загалом, активність ШІ спричинила значне навантаження на сервери Вікімедіа.
"Агенти надсилали мільйони автоматизованих запитів до наших публічних API, щоб отримати доступ до знань проєкти Вікімедіа, сканували мільйони сторінок (переважно у проєктах Вікіданих та Вікімедіа Коммонс) та виконували сотні тисяч запитів до сервісу Wikidata Query Service (WQDS). Ймовірно, цей трафік спричинив частковий збій у роботі WQDS у травні", — підсумували у фонді.
Інші новини науки
- Повстання машин призведе до кінця світу: чи справді ШІ зможе знищити людство. Дослідники розповіли, наскільки реалістичним є сценарій, за якого розвиток штучного інтелекту знищить усе людство.
- Спілкування зі ШІ перетворює нас на роботів, попереджають вчені: ось чому. Дослідження припускає, що чим більше часу ми проводимо зі ШІ, тим більше стаємо схожими на роботів.