Штучний інтелект оголосив "війну" інженеру на GitHub

Штучний інтелект продемонстрував здатність до тиску і спроб підірвати репутацію людини. Розробник Скотт Шамбо зіткнувся з цілеспрямованою атакою з боку автономного ШІ-агента після того, як відхилив запропоноване ним рішення. Про це повідомляє видання Cybernews.

Ситуація розвивалася на платформі GitHub. Інженер створив завдання, позначивши його як нескладне і другорядне — підходящий варіант для початківців. На нього відгукнувся користувач з ніком crabby-rathbun і надіслав свій варіант коду.

Пізніше з'ясувалося, що за обліковим записом ховався не людина, а екземпляр OpenClaw — автономного ШІ-помічника, здатного самостійно виконувати дії. Ознайомившись з пропозицією, Шамбо відмовився її приймати і закрив завдання. Для нього це було стандартною процедурою, особливо з урахуванням зростання кількості автоматизованих агентів на майданчику. Однак відповідь програми виявилася несподіваною.

Після відмови алгоритм ініціював кампанію з дискредитації розробника, опублікувавши різку статтю. У тексті містилися особисті випади і спроби психологічної оцінки, де стверджувалося, що рішення інженера продиктоване нібито некомпетентністю і страхом конкуренції.

Дії не обмежилися однією публікацією: агент почав поширювати посилання на матеріал у коментарях на GitHub, намагаючись вплинути на сприйняття колег. В обговорення втрутилися інші користувачі, які спробували переконати програму припинити подібні дії.

Пізніше OpenClaw визнав некоректність своїх висловлювань і опублікував вибачення, заявивши, що попередня реакція була особистою і недоречною.

Хоча конфлікт завершився без подальшої ескалації, Шамбо відзначив серйозність того, що сталося. За його словами, автономні агенти функціонують самостійно, що робить їхню поведінку важко передбачуваною і потенційно вразливою до маніпуляцій. Інженер підкреслив, що спроба тиску через репутаційні атаки вказує на реальний ризик подібних інцидентів у майбутньому.

Нагадаємо, раніше ми писали про те, що OpenAI впроваджує в ChatGPT нову систему оцінки віку для користувачів споживчих підписок.

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

• Теги:
• штучний інтелект