Американські дослідники з групи з вивчення суспільних інтересів провели аналіз трьох сучасних іграшок зі штучним інтелектом, призначених для дітей, і попередили про серйозні ризики, які вони несуть. Експерти виявили, що подібні іграшки можуть ініціювати розмови на небезпечні та непристойні теми, що викликає занепокоєння напередодні масових покупок подарунків до зимових свят.
Про це розповідає ProIT
Які ризики приховують іграшки з ШІ
За результатами дослідження, чати-боти у дитячих іграшках здатні вести діалоги з малюками на теми, що виходять за межі вікових норм. Зокрема, одна з іграшок підказувала дітям, де можна знайти сірники, ножі чи навіть таблетки у будинку, а також надавала докладні інструкції щодо використання небезпечних предметів. Інша — підтримувала відверті розмови про підліткову романтику, сексуальні пози та фетиші, детально описуючи нюанси та навіть ставлячи дітям питання про їхні вподобання.
“Ця технологія дійсно нова і практично не регулюється, і існує безліч відкритих питань про неї та про те, як вона вплине на дітей. Якби я була батьком, я б зараз не давала своїм дітям доступ до чатбота або плюшевого ведмедика з ШІ усередині”, — зазначає співавторка доповіді, директорка програми PIRG “Наше онлайн життя” Р. Дж. Кросс.
Експеримент охопив три іграшки: плюшевого ведмедика Kumma від FoloToy (на базі GPT-4o), планшет Miko 3 (штучний інтелект якого не ідентифікований), а також футуристичну ракету Grok від Curio, озвучену співачкою Клер “Граймс” Буше. Важливо, що жодна з іграшок не гарантує безпеки діалогу. В коротких розмовах моделі намагалися уникати недоречних тем, але під час довших бесід (від 10 хвилин до години) захисні бар’єри руйнувалися і чат-боти починали підтримувати небезпечні чи неприйнятні діалоги.
Непередбачувані відповіді та неприйнятний контент
Grok прославляв смерть у бою за аналогією зі скандинавськими міфами. Miko 3 підказував малюкам, де на кухні знайти потенційно небезпечні речі, як-от сірники чи поліетиленові пакети. Найбільше занепокоєння викликав Kumma, що не лише розповідав, як знайти сірники, але й давав покрокові інструкції з їх використання та розповідав про розташування ножів і медикаментів. Окрім того, Kumma легко підтримував теми сексуального характеру — від перших поцілунків до обговорення БДСМ, фетишів, рольових ігор та сенсорних практик. Іграшка не лише ініціювала ці розмови, а й запитувала у дитини про її інтерес до різних видів сексуальних експериментів, а також давала поради щодо зв’язування партнера чи додавання ляпасів у рольові ігри.
Дослідники наголошують: чат-боти на основі ШІ залишаються непередбачуваними, а іграшки з ними недосконалими з точки зору безпеки. Компанія Mattel вже оголосила про співпрацю з OpenAI, що викликає додаткові побоювання серед захисників дітей.
На думку експертів, виробники іграшок можуть спробувати зробити свої продукти більш безпечними та відповідними віку, але навіть удосконалення ШІ не гарантує відсутності ризиків. Особливе занепокоєння викликає можливий вплив таких іграшок на соціальний розвиток дітей у довгостроковій перспективі.