Американские исследователи из группы по изучению общественных интересов провели анализ трех современных игрушек с искусственным интеллектом, предназначенных для детей, и предупредили о серьезных рисках, которые они несут. Эксперты обнаружили, что подобные игрушки могут инициировать разговоры на опасные и непристойные темы, что вызывает беспокойство накануне массовых покупок подарков к зимним праздникам.
Об этом сообщает ProIT
Какие риски скрывают игрушки с ИИ
По результатам исследования, чат-боты в детских игрушках способны вести диалоги с малышами на темы, выходящие за пределы возрастных норм. В частности, одна из игрушек подсказывала детям, где можно найти спички, ножи или даже таблетки в доме, а также предоставляла подробные инструкции по использованию опасных предметов. Другая — поддерживала откровенные разговоры о подростковой романтике, сексуальных позициях и фетишах, детально описывая нюансы и даже задавая детям вопросы о их предпочтениях.
“Эта технология действительно новая и практически не регулируется, и существует множество открытых вопросов о ней и о том, как она повлияет на детей. Если бы я была родителем, я бы сейчас не давала своим детям доступ к чат-боту или плюшевому медведю с ИИ внутри”, — отмечает соавтор доклада, директор программы PIRG “Наша онлайн жизнь” Р. Дж. Кросс.
Эксперимент охватил три игрушки: плюшевого медведя Kumma от FoloToy (на базе GPT-4o), планшет Miko 3 (искусственный интеллект которого не идентифицирован), а также футуристическую ракету Grok от Curio, озвученную певицей Клер “Граймс” Буше. Важно, что ни одна из игрушек не гарантирует безопасности диалога. В коротких разговорах модели пытались избегать неуместных тем, но во время более длительных бесед (от 10 минут до часа) защитные барьеры разрушались, и чат-боты начинали поддерживать опасные или неприемлемые диалоги.
Непредсказуемые ответы и неприемлемый контент
Grok прославлял смерть в бою по аналогии со скандинавскими мифами. Miko 3 подсказывал малышам, где на кухне найти потенциально опасные вещи, такие как спички или полиэтиленовые пакеты. Наибольшее беспокойство вызывал Kumma, который не только рассказывал, как найти спички, но и давал пошаговые инструкции по их использованию и сообщал о расположении ножей и медикаментов. Кроме того, Kumma легко поддерживал темы сексуального характера — от первых поцелуев до обсуждения БДСМ, фетишей, ролевых игр и сенсорных практик. Игрушка не только инициировала эти разговоры, но и спрашивала у ребенка о его интересе к различным видам сексуальных экспериментов, а также давала советы по связыванию партнера или добавлению пощечин в ролевые игры.
Исследователи подчеркивают: чат-боты на основе ИИ остаются непредсказуемыми, а игрушки с ними несовершенны с точки зрения безопасности. Компания Mattel уже объявила о сотрудничестве с OpenAI, что вызывает дополнительные опасения среди защитников детей.
По мнению экспертов, производители игрушек могут попытаться сделать свои продукты более безопасными и соответствующими возрасту, но даже усовершенствование ИИ не гарантирует отсутствия рисков. Особое беспокойство вызывает возможное влияние таких игрушек на социальное развитие детей в долгосрочной перспективе.
