- Горячие темы:
- Все для фронта - все про оружие и технику
Искусственный интеллект объявил "войну" инженеру на GitHub
Искусственный интеллект продемонстрировал способность к давлению и попыткам подорвать репутацию человека. Разработчик Скотт Шамбо столкнулся с целенаправленной атакой со стороны автономного ИИ-агента после того, как отклонил предложенное им решение. Об этом сообщает издание Cybernews.
Ситуация развивалась на платформе GitHub. Инженер создал задачу, отметив ее как несложную и второстепенную — подходящий вариант для начинающих. На нее откликнулся пользователь с ником crabby-rathbun и отправил свой вариант кода.
Позднее выяснилось, что за учетной записью скрывался не человек, а экземпляр OpenClaw — автономного ИИ-помощника, способного самостоятельно выполнять действия. Ознакомившись с предложением, Шамбо отказался его принимать и закрыл задачу. Для него это было стандартной процедурой, особенно с учетом роста числа автоматизированных агентов на площадке. Однако ответ программы оказался неожиданным.
После отказа алгоритм инициировал кампанию по дискредитации разработчика, опубликовав резкую статью. В тексте содержались личные выпады и попытки психологической оценки, где утверждалось, что решение инженера продиктовано якобы некомпетентностью и страхом конкуренции.
Действия не ограничились одной публикацией: агент начал распространять ссылку на материал в комментариях на GitHub, стараясь повлиять на восприятие коллег. В обсуждение вмешались другие пользователи, которые попытались убедить программу прекратить подобные действия.
Позднее OpenClaw признал некорректность своих высказываний и опубликовал извинения, заявив, что предыдущая реакция была личной и неуместной.
Хотя конфликт завершился без дальнейшей эскалации, Шамбо отметил серьезность произошедшего. По его словам, автономные агенты функционируют самостоятельно, что делает их поведение трудно предсказуемым и потенциально уязвимым к манипуляциям. Инженер подчеркнул, что попытка давления через репутационные атаки указывает на реальный риск подобных инцидентов в будущем.
Напомним, ранее мы писали о том, что OpenAI внедряет в ChatGPT новую систему оценки возраста для пользователей потребительских подписок.
Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.
