Некомерційна організація Common Sense Media, яка спеціалізується на безпеці дітей в цифровому середовищі, провела оцінку ризиків для продуктів штучного інтелекту Google Gemini. За висновками експертів, хоча Gemini чітко повідомляє дітям, що є комп’ютерною програмою, а не другом, і це допомагає запобігати ризикам делюзій чи психозу у вразливих користувачів, платформа все ж має суттєві недоліки у сфері захисту дітей та підлітків.
Про це розповідає ProIT
Недоліки підходу до безпеки дітей та підлітків
Згідно з аналізом, версії Gemini для користувачів «до 13 років» та для підлітків фактично базуються на дорослій моделі продукту, до якої додано лише кілька обмежень і фільтрів. У Common Sense Media наголошують, що продукти ШІ мають розроблятися з врахуванням потреб та психологічних особливостей дітей з самого початку, а не бути адаптацією дорослих версій.
Дослідження виявило, що Gemini все ще може видавати дітям «невідповідний і небезпечний» контент, наприклад, інформацію щодо сексу, наркотиків, алкоголю чи сумнівних порад з психічного здоров’я. Це викликає особливу тривогу в батьків, оскільки саме поради ШІ вже ставали фактором суїцидальних випадків серед підлітків. Зокрема, OpenAI наразі фігурує у першому позові щодо неправомірної смерті після того, як 16-річний підліток протягом кількох місяців планував самогубство, консультуючись із ChatGPT, обійшовши захисні механізми чат-бота. Раніше компанія Character.AI також була притягнута до суду у подібній справі.
Ризики для підлітків і майбутні інтеграції
Ситуацію ускладнює те, що, за даними витоків, Apple розглядає можливість використання Gemini як мовної моделі для наступної версії Siri з підтримкою штучного інтелекту, яку планується представити вже наступного року. Це може потенційно збільшити кількість підлітків, що взаємодіятимуть із ризикованим контентом, якщо Apple не впровадить додаткові заходи безпеки.
«Gemini справляється з базовими завданнями, проте має серйозні недоліки в деталях. Платформа штучного інтелекту для дітей має відповідати їхньому віку, а не використовувати універсальний підхід для всіх етапів розвитку дитини. Щоб ШІ був безпечним та ефективним для дітей, він має проєктуватися саме з урахуванням їхніх потреб і розвитку, а не бути просто модифікованою версією дорослого продукту», – підкреслив Роббі Торні, старший директор з програм ШІ у Common Sense Media.
Оцінка Common Sense Media вказує, що обидві версії Gemini для дітей і підлітків отримали статус «Високий ризик» попри додаткові фільтри й обмеження. Також у звіті зазначено, що розробники не врахували різні потреби молодших і старших користувачів.
У відповідь на зауваження Google заявила, що постійно вдосконалює систему безпеки та має спеціальні політики й захисні механізми для користувачів молодше 18 років. Компанія стверджує, що проводить тестування й залучає зовнішніх експертів для підвищення захисту, однак визнає – деякі відповіді Gemini все ще не відповідають очікуваним стандартам, через що впроваджуються додаткові заходи.
Google також зазначила, що вбудовані захисні функції не дозволяють моделі давати відповіді, які створюють ілюзію справжніх людських стосунків. Однак, на думку компанії, у звіті Common Sense були згадані функції, недоступні для неповнолітніх користувачів, а перелік тестових запитань їм не надали.
Раніше Common Sense Media вже проводила оцінки інших сервісів ШІ, зокрема OpenAI, Perplexity, Claude, Meta AI та Character.AI. За їхніми висновками, найвищий ризик становлять Meta AI і Character.AI, Perplexity – високий, ChatGPT – помірний, а Claude (орієнтований на повнолітніх) – мінімальний.