Некомерческая организация Common Sense Media, специализирующаяся на безопасности детей в цифровой среде, провела оценку рисков для продуктов искусственного интеллекта Google Gemini. По выводам экспертов, хотя Gemini четко сообщает детям, что является компьютерной программой, а не другом, и это помогает предотвращать риски делюзий или психоза у уязвимых пользователей, платформа все же имеет существенные недостатки в области защиты детей и подростков.
Об этом сообщает ProIT
Недостатки подхода к безопасности детей и подростков
Согласно анализу, версии Gemini для пользователей «до 13 лет» и для подростков фактически основаны на взрослой модели продукта, к которой добавлено лишь несколько ограничений и фильтров. В Common Sense Media подчеркивают, что продукты ИИ должны разрабатываться с учетом потребностей и психологических особенностей детей с самого начала, а не быть адаптацией взрослых версий.
Исследование показало, что Gemini все еще может выдавать детям «неподобающий и опасный» контент, например, информацию о сексе, наркотиках, алкоголе или сомнительные советы по психическому здоровью. Это вызывает особую тревогу у родителей, поскольку именно советы ИИ уже становились фактором суицидальных случаев среди подростков. В частности, OpenAI в настоящее время фигурирует в первом иске о неправомерной смерти после того, как 16-летний подросток в течение нескольких месяцев планировал самоубийство, консультируясь с ChatGPT, обойдя защитные механизмы чат-бота. Ранее компания Character.AI также была привлечена к суду в подобном деле.
Риски для подростков и будущие интеграции
Ситуацию усложняет то, что, по данным утечек, Apple рассматривает возможность использования Gemini в качестве языковой модели для следующей версии Siri с поддержкой искусственного интеллекта, которую планируется представить уже в следующем году. Это может потенциально увеличить количество подростков, взаимодействующих с рискованным контентом, если Apple не внедрит дополнительные меры безопасности.
«Gemini справляется с базовыми задачами, однако имеет серьезные недостатки в деталях. Платформа искусственного интеллекта для детей должна соответствовать их возрасту, а не использовать универсальный подход для всех этапов развития ребенка. Чтобы ИИ был безопасным и эффективным для детей, он должен проектироваться именно с учетом их потребностей и развития, а не быть просто модифицированной версией взрослого продукта», – подчеркнул Робби Торни, старший директор по программам ИИ в Common Sense Media.
Оценка Common Sense Media указывает, что обе версии Gemini для детей и подростков получили статус «Высокий риск» несмотря на дополнительные фильтры и ограничения. Также в отчете отмечено, что разработчики не учли различные потребности младших и старших пользователей.
В ответ на замечания Google заявила, что постоянно совершенствует систему безопасности и имеет специальные политики и защитные механизмы для пользователей младше 18 лет. Компания утверждает, что проводит тестирование и привлекает внешних экспертов для повышения защиты, однако признает – некоторые ответы Gemini все еще не соответствуют ожидаемым стандартам, из-за чего внедряются дополнительные меры.
Google также отметила, что встроенные защитные функции не позволяют модели давать ответы, которые создают иллюзию настоящих человеческих отношений. Однако, по мнению компании, в отчете Common Sense были упомянуты функции, недоступные для несовершеннолетних пользователей, а перечень тестовых вопросов им не предоставили.
Ранее Common Sense Media уже проводила оценки других сервисов ИИ, в частности OpenAI, Perplexity, Claude, Meta AI и Character.AI. По их выводам, наивысший риск представляют Meta AI и Character.AI, Perplexity – высокий, ChatGPT – умеренный, а Claude (ориентированный на совершеннолетних) – минимальный.