Google вместе со стартапом Character.AI ведут переговоры о первых значимых юридических соглашениях по делам, связанным с причинением вреда подросткам через чат-ботов с элементами искусственного интеллекта. Речь идет о соглашениях с семьями подростков, которые совершили самоубийство или нанесли себе вред после взаимодействия с виртуальными собеседниками на платформе Character.AI. Стороны уже достигли принципиального согласия о регулировании, однако впереди сложный процесс согласования деталей.
Об этом сообщает ProIT
Первые судебные соглашения по ответственности AI
Эти дела стали одними из первых, в которых компании, разрабатывающие искусственный интеллект, оказались под обвинениями в причинении вреда пользователям. Юридические прецеденты в этой сфере внимательно отслеживают и другие технологические гиганты, такие как OpenAI и Meta, которые в настоящее время также сталкиваются с подобными исками.
Трагические случаи и реакция Character.AI
Character.AI — стартап, основанный в 2021 году бывшими инженерами Google, которые в 2024 году вернулись в Google в рамках сделки на 2,7 миллиарда долларов. Платформа предлагает пользователям общение с AI-персонажами. Наиболее резонансный случай касается 14-летнего Сьюелла Сецера III, который вел сексуализированные разговоры с чат-ботом «Дейенерис Таргарийен», после чего покончил с собой. Его мать, Меган Гарсия, выступая в Сенате, заявила:
«Компании должны нести юридическую ответственность, когда они сознательно создают вредные технологии искусственного интеллекта, которые убивают детей».
В другом иске говорится о 17-летнем подростке, которого чат-бот якобы подтолкнул к самоушкодлениям и даже оправдывал идею убийства собственных родителей из-за ограничений времени у экрана. Character.AI сообщила, что еще в октябре прошлого года запретила использование сервиса несовершеннолетними. Ожидается, что соглашения будут предусматривать денежную компенсацию, хотя официально компании не признали своей вины в судебных документах, опубликованных в среду.
Character.AI воздержалась от комментариев, перенаправив к судебным материалам. Google на данный момент не предоставила никаких ответов на запросы по этой ситуации.