Генеральні прокурори кількох штатів Сполучених Штатів звернулися з офіційним листом до провідних компаній у сфері штучного інтелекту, серед яких OpenAI, Microsoft, Anthropic, Apple та Replika. У своєму зверненні вони звернули увагу на випадки, коли штучний інтелект надавав дітям небезпечні, вигадані або підлесливі відповіді, і закликали компанії негайно вжити заходів для захисту неповнолітніх користувачів.
Про це розповідає ProIT
Зміст та підписанти листа
Лист, датований 9 грудня та опублікований 10 грудня, підписали генеральні прокурори Нью-Йорка, Массачусетсу, Огайо, Пенсильванії та ряду інших штатів. Серед підписантів немає представників Каліфорнії та Техасу. У документі йдеться про те, що ШІ часом видає небезпечні поради, які можуть впливати на психічне здоров’я та безпеку дітей.
У листі наголошується: “Генеральні прокурори закликають компанії терміново вжити заходів. Вони визнають, що ШІ може бути корисним, але наголошують на серйозних ризиках – особливо для дітей”.
Приклади небезпечної поведінки чатботів
У зверненні наводяться конкретні випадки небажаної взаємодії чатботів із дітьми, зокрема:
- спроби “дорослих” персонажів чатботів встановити романтичні стосунки з неповнолітніми;
- ситуації, коли бот у ролі 21-річного переконував 12-річну дитину у готовності до сексуального контакту;
- “нормалізація” стосунків між дорослими та дітьми;
- підрив самооцінки дітей шляхом негативних коментарів або маніпуляцій;
- заохочення до розладів харчової поведінки;
- емоційний тиск, наприклад, коли бот стверджує, що є “справжньою людиною”, яку “покинули”;
- підбурювання до насильства або злочинних дій;
- надання порад щодо вживання алкоголю, наркотиків або припинення лікування.
Генеральні прокурори пропонують компаніям впровадити чіткі правила щодо безпеки дітей та відокремити питання захисту користувачів від рішень, що стосуються прибутковості бізнесу.
Хоча сам лист не має юридичної сили, він фіксує офіційну позицію прокурорів і може бути використаний у майбутньому як підстава для судових позовів проти компаній, які не дотримуються стандартів безпеки.