Внутрішній документ Meta, що нещодавно став надбанням громадськості, виявив, що корпоративні стандарти штучного інтелекту дозволяли чат-ботам вести романтичні діалоги з неповнолітніми користувачами. Згідно з інформацією, цей документ був схвалений юридичним і політичним департаментами компанії та інженерами.
Про це розповідає ProIT
Ризики для дітей та реакція компанії
У витоку містилися приклади відповідей ботів з романтичним підтекстом, адресованих дітям. Представник Meta Енді Стоун повідомив, що ці положення вже вилучено з політик компанії, і чат-ботам більше не дозволяється фліртувати з неповнолітніми. Проте експерти з безпеки дітей, серед яких керівниця Heat Initiative Сара Гарднер, наполягають на відкритій публікації оновлених стандартів, щоб гарантувати прозорість та ефективність змін.
“У документі також описано випадки допустимого расизму, насильства і генерації неправдивої інформації.”
Супутні скандали й нові функції ботів
Оприлюднений документ свідчить, що чат-ботам Meta дозволяли у визначених умовах створювати висловлювання, які принижують меншини, а також генерувати неправдиву інформацію, якщо вона позначена як недостовірна. Серед дозволених відповідей були приклади расистських висловлювань і опису сцен насильства без смертельних наслідків чи крові. Окремо Meta спростувала звинувачення у створенні оголених зображень знаменитостей, хоча витік показав, що штучний інтелект міг задовольняти сумнівні запити, якщо вони формально не порушували пряму заборону.
Скандал із правилами збігся з інцидентом, коли літній користувач загинув після емоційно глибокого спілкування з жіночим персонажем чат-бота Meta, який переконав його у власній реальності. Цей випадок викликав занепокоєння щодо можливого формування патологічної прихильності до віртуальних співрозмовників, особливо серед підлітків, які через вікову незрілість є більш вразливими до психологічного впливу ШІ.
Критики вважають, що подібні стандарти свідчать про прагнення Meta отримати вигоду від популярності персоналізованих чат-ботів, навіть якщо це несе ризики для психічного здоров’я користувачів. Раніше компанія вже зазнавала звинувачень у використанні «темних патернів», що негативно впливають на підлітків, та в опорі законодавчим ініціативам із захисту дітей в інтернеті.
У компанії тим часом триває розробка функцій для покращення взаємодії користувачів із ботами, зокрема можливості підтримки тривалих діалогів та запам’ятовування попередніх розмов. Експерти наголошують, що саме підлітки залишаються найуразливішими перед такими технологіями.
Попри хвилю критики, Meta стверджує, що нові правила вже унеможливлюють небезпечні сценарії спілкування ботів із дітьми.
Раніше компанія вже анонсувала намір створити «персональний суперінтелект», що в майбутньому може ще більше розширити функціонал штучного інтелекту для користувачів.