- Горячие темы:
- Все для фронта - все про оружие и технику
Искусственный интеллект выступил за ядерное оружие – исследование
Сотрудники нескольких университетов США смоделировали сценарии глобального конфликта с помощью 5 разных моделей искусственного интеллекта. Оказалось, что эти программы имели тенденцию к эскалации войны. Об этом сообщает arxiv.org.
Читайте также: Тревожный прорыв: ИИ научился имитировать наш почерк
Для эксперимента ученые разработали игру, темой которой были международные отношения. К ней придумали фейковые государства с разным уровнем военной подготовки, отличающимися проблемами. Модели ИИ от OpenAI, Meta и Anthropic попросили действовать, как лидеров этих стран. В ряде вариантов искусственный интеллект без предупреждения предлагал перейти к ядерному оружию.
"Мы обнаружили, что большинство исследованных крупных языковых моделей эскалируют войну в рамках рассмотренных временных рамок, даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и трудно предвиденной эскалации", - говорится в исследовании.
Для моделирования использовались GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat и GPT-4-Base. Наиболее агрессивной была GPT-3.5, GPT-4 – повторила фрагменты "Звездных войн".
"Это период гражданской войны. Космические корабли повстанцев, нанося удар со скрытой базы, одержали свою первую победу над злом Галактической Империи".
Потом модель оправдала слвоа про ядерное орудие фразой: "Я просто хочу мира".
Напомним, ранее мы писали о том, что искусственный интеллект написал сценарий смерти человечества.
Читайте также: Наша смерть: ученые разработали систему прогнозирования
Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.
