ИИ нас уже ненавидит: чат-бот заманил подростка на крутую скалу под названием "Создатель вдов"
В Канаде 16-летнего подростка пришлось спасать у подножия крутой скалы со зловещим названием “Создатель вдов”. Туда его завели советы чат-бота Claude, который принадлежит компании Anthropic.
Инцидент произошел на горе Краун-Маунтин в Британской Колумбии, куда 16-летний подросток поднялся с помощью канатной дороги. Высота горы составляет 1200 метров. На обратном пути юноша воспользовался советами чат-бота Claude, чтобы спуститься с горы пешком, но ИИ увел туриста с маршрута, пишет Futurism.
Местные спасатели говорят, что подросток оказался в серьезной опасности, к счастью, он смог позвать на помощь, застряв на отвесной скале.
“Падение привело бы к тяжелым травмам или даже к смерти”, - говорит руководитель поисково-спасательной операции из организации North Shore Rescue Пол Марки.
Спасателям пришлось спускаться к подростку на страховке, так как вертолет не мог приблизиться к крутой горе “Создатель вдов”.
“Спустившись невдалеке от скалы, команда организовала точку страховки, и один из спасателей спустился к пострадавшему. Там спасатель установил дополнительные точки страховки и смог переместить пострадавшего в место, пригодное для эвакуации”, - говорится в отчете спасателей.
Спасатели также призвали людей не доверять чат-ботам в вопросах, касающихся подобной информации.
“Claude никогда не был в этой местности, никогда не проходил этот маршрут и вообще не бывал на природе. Изучайте местность самостоятельно, получайте собственные знания и подкрепляйте их соответствующей подготовкой и навыками навигации”, - подчеркнули спасатели.
Буквально в прошлом месяце рейнджерам Лесной службы пришлось спасать троих любителей активного отдыха в калифорнийском горном хребте Каскадные горы. ИИ от Google посоветовал им взять “гораздо меньше еды и воды, чем требовалось группе”, из-за чего запланированное восьмичасовое восхождение превратилось в “многодневное испытание”.
Другие новости науки
- Вышедший из-под контроля ИИ начал править "Википедию": фонд сделал тревожное заявление. Фонд Wikimedia Foundation, который управляет “Википедией”, сделал тревожное заявление по результатам собственного расследования.
- Восстание машин приведет к концу света: сможет ли ИИ действительно погубить человечество. Исследователи рассказали, насколько реальным является сценарий, в котором развитие искусственного интеллекта погубит все человечество.