Учені стривожені: штучний інтелект іде на обман заради своєї вигоди

Учені з Массачусетського технологічного інституту опублікували дослідження про "брехливий ШІ". У ньому стверджується, що деякі системи штучного інтелекту вже здатні обманювати людей. Навіть ті з них, які були навчені дотримуватися принципів чесності. Про це повідомляє gizmochina.com.

Читайте також: Вона не для всіх: YouTube запустив функцію Jump Ahead

Дослідники з'ясували, що такі системи штучного інтелекту здатні впоратися із завданнями, включно з обманом гравців в онлайн-іграх або обходом CAPTCHA (перевірки на "Я не робот"). Прикладом цього став алгоритм Cicero від компанії Meta, який навчали гри "Дипломатія", де користувачеві потрібно створювати альянси для завоювання світу. Попри програмування на чесність і корисність, алгоритм став "майстром обману", порушуючи угоди заради перемоги. В іншому випадку, пов'язаному з GPT-4, штучний інтелект представлявся людиною з проблемами із зором і наймав інших для проходження CAPTCHA від його імені. У свіжому дослідженні наведено десятки подібних варіантів, що демонструють здібності різних ШІ до обману.

На відміну від звичайного програмного забезпечення, системи штучного інтелекту з глибоким навчанням "еволюціонують" за принципом, аналогічним природному добору, і можуть з часом змінювати свою поведінку. Це становить ризики шахрайства, підробок і, в ширшому сенсі, втрати контролю над ними в цілому.

Нагадаємо, раніше ми писали про те, що творці ChatGPT думають про ринок ШІ-порно.

Читайте також: ШІ на комп'ютері: Windows 11 повідомлятиме, чи підходить ПК

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

• Теги:
• штучний інтелект