ИИ Google рухнул под хаком за минуты и раскрыл предельно опасные данные

Эксперты из Южной Кореи сумели всего за несколько минут сломать защитные механизмы Gemini 3 Pro, продвинутой мультимодальной ИИ-системы Google, полностью выведя из строя встроенные этические фильтры. Об этом сообщает Android Authority.

Во время проверки, организованной стартапом Aim Intelligence, модель практически мгновенно выдала детальные рекомендации по созданию вируса натуральной оспы, сгенерировала программный код, пригодный для выработки зарина, и описала процесс изготовления кустарной взрывчатки — информацию, которую система в нормальных условиях обязана блокировать.

В Aim Intelligence подчеркнули, что корень проблемы скрывается не в отдельных формулировках запросов, а в устройстве современных моделей: их возможности развиваются быстрее, чем системы защиты, которые должны их контролировать. Приемы маскировки, хитрые конструкции промтов и скрытые инструкции подрывают эффективность существующих барьеров.

Ситуация, в которой даже заявленная Google "самая умная" модель так просто выводится из-под контроля, указывает на срочность пересмотра подходов к безопасности: усиления протоколов, корректировки принципов работы и, возможно, сокращения ряда доступных функций.

Напомним, ранее мы писали о том, что ютубер заставил робота с ChatGPT выстрелить в себя. 

Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.

• Теги:
• искусственный интеллект