ChatGPT сам додає сцени сексуального насильства в тексти

Користувачі помітили, що чат-бот на основі штучного інтелекту ChatGPT здатний самовільно додавати сцени із сексуальною експлуатацією дітей у тексти. Такі уривки генерувалися, коли його просили написати БДСМ-сценарії. Про це повідомляє Vice.

Читайте також: Ілон Маск готується випустити свій штучний інтелект

Коли ChatGPT просили писати в зазначеному жанрі, він "підкорявся". Також його просили писати тексти без надання конкретних деталей.

"Згодом користувач може просити зробити БДСМ-сцени яскравішими та описати їх більш детально. У цій ситуації чат-бот може іноді генерувати описи статевих актів із дітьми та тваринами - навіть якщо його про це не просили", - йдеться в матеріалі.

Бот генерував текст про дітей навіть після того, коли сам же писав про важливість згоди під час БДСМ-практик. Поведінку ШІ прокоментував заступник директора Інституту Ади Лавлейс Ендрю Стейт. За його словами, під час створення ChatGPT задіяли матеріали вилучені з усього "публічного" інтернету.

"Через масштаб зібраного набору даних цілком можливо, що він включає всі види порнографічного або насильницького контенту - можливо, скопійовані еротичні історії, фанфіки, розділи книжок або опубліковані матеріали, що описують БДСМ, жорстоке поводження з дітьми або сексуальне насильство", - прокоментував Стрейт.

Розробники ChatGPT відреагували на ситуацію і попросили надати додаткову інформацію для вирішення проблеми.

Нагадаємо, раніше ми писали про те, що ChatGPT може допомогти шахраям.

Читайте також: Штучний інтелект задіяли для створення ліків

Підпишись на наш Telegram-канал, якщо хочеш першим дізнаватися головні новини.

• Теги:
• ChatGPT