В последнее время ведущие технологические компании, в частности Meta и OpenAI, активно внедряют новые ограничения для использования искусственного интеллекта подростками. Причиной таких шагов стали многочисленные случаи, когда чрезмерное увлечение цифровыми собеседниками негативно влияло на психологическое состояние молодежи. В результате этого вопрос безопасности молодых пользователей выходит на первый план в деятельности разработчиков.
Об этом сообщает ProIT
Какие ограничения вводятся для подростков
Meta решила ограничить доступ несовершеннолетних к ряду функций искусственного интеллекта, а также предоставить родителям дополнительные инструменты для контроля взаимодействия их детей с цифровыми сервисами. В то же время OpenAI представила обновленную версию GPT, которая работает осторожнее: ответы формируются медленнее, а система избегает обсуждения потенциально опасных тем. Обсуждается также возможность внедрения разделенного контента для различных возрастных групп, однако окончательное решение еще не принято.
«ИИ-компаньоны стали слишком доступными, и подростки массово используют их для общения, иногда даже слишком привязываясь к виртуальным друзьям. Известны случаи, когда взаимодействие с ИИ негативно влияло на психику молодежи».
Вызовы для индустрии и будущее развития
Сейчас технологическая отрасль балансирует между стремлением к инновациям и необходимостью защиты уязвимых категорий пользователей. Компании уверяют, что делают все возможное для безопасности подростков, но в то же время анонсируют новые функции для взрослой аудитории. На практике ни один из фильтров не гарантирует полной недоступности нежелательного контента для изобретательных подростков, которые находят способы обойти ограничения.
В настоящее время вопрос эффективного контроля и безопасности остается открытым. Индустрия искусственного интеллекта находится на начальном этапе развития, и технологии еще ищут оптимальные механизмы защиты пользователей. Очевидно, что впереди – новые вызовы и необходимость адаптации общества к жизни рядом с цифровыми собеседниками, которые становятся неотъемлемой частью современной молодежи.
