Компания OpenAI внедряет специальный режим в ChatGPT для пользователей, которым младше 18 лет. Это позволит усилить безопасность несовершеннолетних при общении с искусственным интеллектом.
Как рассказал CEO компании Сэм Альтман, система будет автоматически активировать адаптированную версию для подростков, если определить, что пользователь несовершеннолетний. В режиме для подростков чат-бот будет ограничивать доступ к контенту с откровенным и сексуальным содержанием. В случаях выявления риска самоповреждения, ChatGPT будет предупреждать родителей или даже правоохранительные органы о риске для жизни пользователя.
Чтобы идентифицировать возраст, компания разрабатывает новые технологии. В частности, необходимо будет пройти верификацию. Если же она будет невозможна или сомнительна, тогда система по умолчанию активирует «подростковый режим». В некоторых же странах нужно будет подтверждать свой возраст с помощью ID-карты или паспорта.
Родительский контроль в чат-боте позволит подключить аккаунт родителей к профилю подростка через электронную почту, ограничить время пользования сервисом, деактивировать определенные функции, отправлять уведомления родителям, если обнаружено нестабильное состояние пользователя, настраивать стиль и содержание ответов.
Такое решение было принято после многочисленных консультаций со специалистами в области безопасности, психологии и цифровой этики. ChatGPT официально доступен для пользователей от 13 лет.
Напомним, ранее сообщалось, что ChatGPT подтолкнул подростка к суициду.
Продолжение следует…
Комментарии могут оставлять только зарегистрированые пользователи