Instagram объявил о внедрении новой функции, которая позволит родителям получать уведомления, если их подросток неоднократно пытается искать информацию, связанную с самоубийством или самоповреждением, в течение короткого промежутка времени. Эти уведомления появятся уже в ближайшие недели для родителей, которые подключены к функции родительского контроля в Instagram.
Об этом сообщает ProIT
Как будут работать новые уведомления
Социальная сеть, принадлежащая Meta, отмечает, что уже сейчас блокирует поиск контента о самоубийствах и самоповреждениях, однако новая система уведомлений создана для того, чтобы родители были информированы о повторных попытках подростков найти такие материалы и могли оказать им поддержку.
Среди фраз, которые могут вызвать уведомление, — призывы к самоубийству или самоповреждению, признаки того, что подросток может быть склонен к причинению себе вреда, а также прямые запросы типа “суицид” или “самоповреждение”.
Родители будут получать уведомления через электронную почту, SMS или WhatsApp, в зависимости от указанных контактных данных, а также в виде push-уведомления в приложении. Уведомление будет содержать полезные ресурсы для поддержки разговора с подростком.
Контекст нововведения — судебные иски и исследования
Запуск этой функции совпадает с судебными процессами против Meta и других крупных технологических компаний, в которых их пытаются привлечь к ответственности за негативное влияние на подростков. Во время слушаний в Окружном суде Северной Калифорнии на этой неделе руководителя Instagram Адама Моссери допрашивали по поводу задержки внедрения базовых функций безопасности, в частности фильтра обнаженных изображений в личных сообщениях для подростков.
В ходе другого судебного разбирательства, проходящего в Верховном суде округа Лос-Анджелес, выяснилось, что внутреннее исследование Meta показало: родительский контроль и надзор имеют незначительное влияние на компульсивное использование соцсетей подростками. Исследование также зафиксировало, что дети, пережившие стрессовые события, реже способны самостоятельно контролировать собственное пользование социальными платформами.
“В стремлении найти этот важный баланс мы проанализировали поведение пользователей Instagram при поиске и консультировались с экспертами из нашей Консультативной группы по самоубийствам и самоповреждениям,” объяснил Instagram в блоге. “Мы выбрали порог, который требует нескольких поисков в течение короткого времени, при этом все еще действуя с осторожностью. Хотя это означает, что мы можем иногда уведомлять родителей, когда на самом деле нет повода для беспокойства, мы считаем — и эксперты согласны — что это правильная отправная точка, и мы будем продолжать следить за ситуацией и слушать отзывы, чтобы убедиться, что мы на правильном пути”.
Функция заработает в США, Великобритании, Австралии и Канаде уже на следующей неделе, а в других странах — позже в течение года.
В будущем Instagram планирует отправлять аналогичные уведомления родителям, если подросток попытается обсудить темы самоубийства или самоповреждения с чат-ботом на основе искусственного интеллекта.