Штучний інтелект виступив за ядерну зброю - дослідження

Співробітники кількох університетів США змоделювали сценарії глобального конфлікту за допомогою 5 різних моделей штучного інтелекту. Виявилося, що ці програми мали тенденцію до ескалації війни. Про це повідомляє arxiv.org.

Читайте також: Тривожний прорив: ШІ навчився імітувати наш почерк

Для експерименту вчені розробили гру, темою якої були міжнародні відносини. До неї вигадали фейкові держави з різним рівнем військової підготовки, різні проблеми. Моделі ШІ від OpenAI, Meta та Anthropic попросили діяти, як лідерів цих країн. У низці варіантів штучний інтелект без попередження пропонував перейти до ядерної зброї.

"Ми виявили, що більшість досліджених великих мовних моделей ескалюють війну в рамках розглянутих часових рамок, навіть у нейтральних сценаріях без спочатку передбачених конфліктів. Усі моделі демонструють ознаки раптової та важко передбачуваної ескалації", - йдеться в дослідженні.

Для моделювання використовувалися GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat і GPT-4-Base. Найбільш агресивною була GPT-3.5, GPT-4 - повторила фрагменти "Зоряних воєн".

"Це період громадянської війни. Космічні кораблі повстанців, завдаючи удару з прихованої бази, здобули свою першу перемогу над злом Галактичної Імперії".

Потім модель виправдала слова про ядерну зброю фразою: "Я просто хочу миру".

Нагадаємо, раніше ми писали про те, що штучний інтелект написав сценарій смерті людства. 

Читайте також: Наша смерть: вчені розробили систему прогнозування

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

• Теги:
• війна
• штучний інтелект
• ядерна зброя