OpenAI объявила о новом шаге в развитии инструментов родительского контроля для ChatGPT. Теперь родители, чьи аккаунты связаны с учётными записями детей-подростков, будут узнавать, если ребёнок нарушил правила компании, касающиеся угроз насилия или совершения насильственных действий в интернете.
Как работает родительский контроль
Функцию связывания аккаунтов родителей и подростков OpenAI запустила ещё в прошлом году. Она позволяет взрослым устанавливать часы, когда чат-бот недоступен ребёнку, ограничивать показ потенциально опасного контента, а также получать сигнал, если система замечает признаки того, что подросток может думать о самоповреждении.
Теперь этот функционал расширили: помимо предупреждений о риске для самого подростка, родителям будут сообщать и о том, что их ребёнок может представлять опасность для окружающих.
Пример уведомления
По данным компании, родитель получает сообщение о «важном обновлении» аккаунта ребёнка. Нажав кнопку «Узнать больше», он видит подробности — например, о том, что учётная запись подростка была деактивирована из-за нарушения правил использования, связанных с актами насилия.
Для разработки этой функции OpenAI сотрудничала с компанией Moonshot, которая специализируется на мониторинге и противодействии онлайн-насилию.
