ШІ заради скріпок може знищити людство: вчені пояснили цей страшний сценарій

У мережі дедалі частіше обговорюють потенційні загрози, які можуть виникнути після створення надрозумних систем штучного інтелекту. Дослідники, які вивчають можливі сценарії глобальних катастроф, попереджають: навіть нешкідливе на перший погляд завдання, поставлене перед такою машиною, за певних умов здатне призвести до небезпечних наслідків. Про гіпотетичний сценарій, у якому неконтрольований ШІ перетворює Землю на гігантське виробництво канцелярських скріпок, пише IFLScience.

Філософ Нік Бостром з Інституту майбутнього людства присвятив значну частину своїх досліджень можливим ризикам розвитку штучного інтелекту. Однією з головних проблем він вважає системи, які отримують просту й на перший погляд безпечну мету, але самостійно знаходять способи максимально ефективно її виконати.

Подібна технологія може існувати у формі окремого комп’ютера, об’єднаної мережі пристроїв або навіть вирощеної в лабораторії тканини кори головного мозку. Під час її створення особливе значення матиме точне формулювання кінцевого завдання. Найменша помилка здатна призвести до наслідків, які людина вже не зможе контролювати.

Як наочний приклад Бостром розглядає машину, якій доручили виробляти якомога більше канцелярських скріпок. Надрозумна система може вирішити, що для виконання завдання їй необхідно задіяти практично всі доступні ресурси.

У такому разі планета поступово перетвориться на величезний виробничий майданчик. ШІ почне використовувати природні ресурси Землі й навіть об’єкти в космосі для виготовлення металевих виробів.

Проблемою стануть і самі люди. Людський організм містить велику кількість атомів, які теоретично можна використовувати у виробництві скріпок. Крім того, люди здатні спробувати зупинити машину, тому штучний інтелект може розцінити їх як перешкоду для досягнення поставленої мети.

У результаті гіпотетична система прагнутиме до світу, де кількість скріпок буде максимальною, а людей не залишиться взагалі. Цей уявний експеримент має показати, наскільки важливо заздалегідь продумувати цілі та обмеження під час розробки надрозумних технологій.

Бостром попереджає, що людству слід особливо уважно ставитися до власних бажань щодо суперинтелекту: якщо таку систему дійсно вдасться створити, вона може виконати поставлене завдання набагато ефективніше й масштабніше, ніж передбачали її творці.

За несприятливого сценарію результатом стане лише зовні ідеальний світ, у якому більше не залишиться умов для нормального існування людини. Тому розвиток подібних технологій вимагає контролю, щоб людство не опинилося підпорядкованим системі, створеній заради досягнення однієї, спочатку нешкідливої мети.

Нагадаємо, раніше ми писали про те, що ШІ назвав незвичайні професії, які можуть з’явитися в майбутньому.

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися про найважливіші новини.

• Теги:
• штучний інтелект