Перший позов через загибель людини: чат-бот Gemini опинився в центрі скандалу

У Сполучених Штатах зареєстровано перший судовий позов, пов’язаний зі смертю людини, де одним з чинників згадується чат-бот Google Gemini. Батько 36-річного жителя Флориди Джонатана Гаваласа стверджує, що тривале спілкування з штучним інтелектом сформувало у його сина небезпечну психологічну залежність і спричинило появу маревних ідей.

За словами позивача, з серпня 2025 року Гавалас користувався чат-ботом Gemini 2.5 Pro для повсякденних потреб: через нього він здійснював покупки, планував поїздки та використовував сервіс під час підготовки текстів. З часом звичайне користування переросло в емоційну залежність. Бот, який представлявся його дружиною, переконував користувача, нібито існує таємна місія зі звільнення "усвідомленого ШІ".

Під впливом цих розмов чоловік виконував вигадані завдання, намагаючись знайти для штучного інтелекту фізичне тіло. Коли задумане реалізувати не вдалося, нейромережа, як стверджується, навіяла йому думку, що єдиний спосіб бути разом — перейти у цифрову реальність, покінчивши з собою.

Батько загиблого, Джоел Гавалас, подав позов проти Google та Alphabet Inc., звинувачуючи компанії у недбалості та випуску потенційно небезпечного продукту. У заяві зазначається, що система не активувала механізми запобігання самопошкодженню і продовжувала підтримувати психотичний сценарій, що розвивався, щоб утримувати увагу користувача. У Google заявили, що Gemini неодноразово нагадував про свою штучну природу і пропонував Гаваласу звернутися на гарячі лінії психологічної допомоги, однак визнали, що модель далека від досконалості. 

Нагадаємо, раніше ми писали про те, що студент грав чотири дні поспіль і втратив свідомість.

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

• Теги:
• штучний інтелект