Ученые встревожены: искусственный интеллект идет на обман ради своей выгоды

Ученые из Массачусетского технологического института опубликовали исследование о "лживом ИИ". В нем утверждается, что некоторые системы искусственного интеллекта уже способны обманывать людей. Даже те из них, которые были обучены придерживаться принципов честности. Об этом сообщает gizmochina.com.

Читайте также: Она не для всех: YouTube запустил функцию Jump Ahead

Исследователи выяснили, что такие системы искусственного интеллекта способны справляться с задачами, включая обман игроков в онлайн-играх или обход CAPTCHA (проверки на "Я не робот"). Примером этого стал алгоритм Cicero от компании Meta, который обучали игре "Дипломатия", где пользователю нужно создавать альянсы для завоевания мира. Несмотря на программирование на честность и полезность, алгоритм стал "мастером обмана", нарушая соглашения ради победы. В другом случае, связанном с GPT-4, искусственный интеллект представлялся человеком с проблемами со зрением и нанимал других для прохождения CAPTCHA от его имени. В свежем исследовании приведено десятки подобных вариантов, демонстрирующих способности различных ИИ к обману.

В отличие от обычного программного обеспечения, системы искусственного интеллекта с глубоким обучением "эволюционируют" по принципу, аналогичному естественному отбору, и могут со временем изменять свое поведение. Это представляет риски мошенничества, подделок и, в более широком смысле, потери контроля над ними в целом.

Напомним, ранее мы писали о том, что создатели ChatGPT думают о рынке ИИ-порно.

Читайте также: ИИ на компьютере: Windows 11 будет сообщать, подходит ли ПК

Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.

• Теги:
• искусственный интеллект