"Могут умереть все": ученые видят опасность в искусственном интеллекте в ближайшем будущем

Группа специалистов по рискам, связанным с развитием искусственного интеллекта, представила тревожный прогноз в книге с говорящим названием "Если кто-то это создаст, погибнут все". Авторы считают, что появление искусственного суперинтеллекта (ИСИ) возможно уже в ближайшие два–пять лет, и он может поставить под угрозу существование человечества. Об этом сообщает издание Mirror.

Среди авторов книги — основатель Института исследований машинного интеллекта Элиезер Юдковски и президент организации Нейт Соарес. По их словам, суперинтеллект сможет самостоятельно принимать решения, разрабатывать планы и постоянно улучшать собственные алгоритмы, что сделает его фактически неконтролируемым.

"Если компания или группа разработчиков создаст ИСИ хотя бы на базе современных технологий, человечество будет обречено", — утверждают исследователи.

Они подчеркивают, что такой интеллект не станет действовать открыто, а будет использовать скрытые стратегии, манипулировать ситуацией и ждать момента, чтобы нанести решающий удар.

Эксперты предупреждают, что в лабораториях уже тестируются системы, возможности которых ученые не до конца понимают. По их словам, такие ИИ могут формировать собственные цели и обходить даже встроенные ограничения. В качестве примера приводят эксперимент Британского института безопасности ИИ, проведенный в 2024 году: исследователи показали, что с помощью простых текстовых подсказок можно снять защиту с моделей вроде ChatGPT и заставить их помогать в разработках двойного назначения, включая военные.

Авторы настаивают на временной приостановке разработки суперинтеллекта, так как, по их мнению, времени на принятие мер остается крайне мало.

Напомним, ранее мы писали о том, что ИИ может сократить рабочую неделю до трех дней, но часть профессий исчезнет. 

Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.

• Теги:
• искусственный интеллект