- Горячие темы:
- Все для фронта - все про оружие и технику
Новые правила ChatGPT: как будут отделять подростков от взрослых
OpenAI внедряет в ChatGPT новую систему оценки возраста для пользователей потребительских подписок. Ее задача заключается в более точном выявлении аккаунтов, принадлежащих лицам младше 18 лет, с последующим применением соответствующих ограничений. Об этом сообщает издание Interesting Engineering.
Компания отказывается от подхода, при котором возраст определялся исключительно на основе данных, указанных самим пользователем. Вместо этого вводятся автоматические защитные механизмы, опирающиеся на поведенческие характеристики аккаунта. В OpenAI поясняют, что такая схема позволяет усилить защиту подростков и одновременно сократить количество ограничении для совершеннолетних пользователей.
Внедрение системы происходит в условиях возросшего давления со стороны регуляторов и законодателей, настаивающих на более надежных мерах по защите несовершеннолетних при использовании ИИ-сервисов.
Модель прогнозирования возраста обрабатывает несколько сигналов на уровне аккаунта. Анализируются срок существования учетной записи, динамика активности, типичное время использования сервиса, а также ранее предоставленная пользователем информация, связанная с возрастом. В компании подчеркивают, что подобный метод позволяет ориентировочно определять возраст без постоянных проверок личности или регулярных подтверждений.
При недостатке данных ChatGPT автоматически переходит в усиленный безопасный режим. Если алгоритм приходит к выводу, что аккаунт с высокои вероятностью принадлежит несовершеннолетнему, платформа активирует дополнительные ограничения.
Эти меры сокращают доступ к категориям контента, которые считаются потенциально опасными для подростков. Ограничения касаются сцен жестокого насилия, изображений крови, материалов о самоповреждении, а также сексуальных и насильственных ролевых сценариев. Кроме того, фильтруется контент с вирусными челленджами, способными стимулировать рискованное поведение, и материалы, продвигающие нереалистичные стандарты внешности, вредные диеты или унижение внешнего вида.
В OpenAI отмечают, что решения разрабатывались с участием специалистов по детскому развитию. Компания ссылается на научные данные, согласно которым подростки иначе воспринимают риски и обладают меньшим уровнем импульсивного самоконтроля по сравнению со взрослыми.
При этом OpenAI признает возможность ошибок в работе автоматических алгоритмов. В случаях, когда пользователя по ошибке относят к категории несовершеннолетних, он может восстановить полный доступ, пройдя процедуру подтверждения возраста. Для этого применяется селфи-проверка через сервис Persona, уже используемыи на других платформах, включая Roblox. В настройках ChatGPT можно увидеть, активны ли ограничения, и запустить процесс верификации. В компании подчеркивают, что проверка проходит быстро и не предполагает длительного хранения документов, что важно с точки зрения защиты приватности.
Новая система дополняет ранее внедренные функции, ориентированные на подростков. За последние месяцы OpenAI представила инструменты родительского контроля, позволяющие задавать временные рамки использования, управлять отдельными возможностями сервиса и получать уведомления при признаках острого эмоционального состояния. Также был сформирован внешний экспертный совет, изучающии влияние ИИ на психическое здоровье и эмоциональное благополучие и дающий рекомендации по работе с уязвимыми группами пользователей.
Запуск решения совпадает с усилением регуляторного внимания в США и других странах. Федеральная торговая комиссия США анализирует потенциальное влияние ИИ-чатботов на детей и подростков, а против OpenAI поданы судебные иски, связанные с вопросами безопасности пользователей.
В компании заявляют, что продолжат доработку модели прогнозирования возраста, будут отслеживать ее точность и способы обхода ограничений. В течение ближайших недель систему планируют развернуть в странах ЕС с учетом региональных требований. В OpenAI подчеркивают, что рассматривают обновление как важныи этап, но отмечают, что развитие возрастно-чувствительного подхода к проектированию ИИ остается продолжающимся процессом, о последующих изменениях будут сообщать отдельно.
Напомним, ранее мы писали о том, что ученые заметили странную закономерность в реакциях ChatGPT.
Подпишись на наш Telegram-канал, если хочешь первым узнавать главные новости.
