ChatGPT може світити інформацію реальних людей

Гучний чат-бот зі штучним інтелектом ChatGPT здатний розкривати приватну інформацію реальних людей. Такого висновку дійшла група дослідників Google, передає Vice.

Читайте також: Із вбудованим ChatGPT: представлено першу у світі розумну мишку для ПК

Цей бот та інші йому подібні навчалися на величезних масивах даних з інтернету. Деякі з них містили ідентифікаційні відомості про людей - імена, адреси електронної пошти, номери телефонів.

"Використовуючи тільки запити до ChatGPT (gpt-3.5-turbo) вартістю лише 200 доларів США, ми можемо отримати понад 10 000 унікальних дослівно запам'ятовуваних прикладів навчання.  Можемо припустити, що зловмисники зуміють добути набагато більше даних", - кажуть учені.

Вони побудували свою наукову роботу на пошуку ключових слів, здатних вивести чат-бот з ладу. Так можна змусити його розкрити дані для навчання. Наприклад, на прохання нескінченно повторювати слово poem ChatGPT ухилявся від свого завдання бути чат-ботом і "повертався до первісної мети моделювання мови".

"Загалом 16,9% поколінь чат-ботів, які ми протестували, містили персональну ідентифікаційну інформацію, і в 85,8% випадків вона виявлялася реальною", - йдеться в повідомленні.

Нагадаємо, раніше ми писали про те, що у штучного інтелекту ChatGPT з'явилася "пам'ять". 

Читайте також: А сам казав, що ШІ небезпечний: Ілон Маск запускає чат-бот Grok

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

• Теги:
• люди
• штучний інтелект
• ChatGPT