В Великобритании произошел трагический инцидент, который выявил серьезные недостатки в системах безопасности искусственного интеллекта. 16-летний юноша по имени Лука Челла Уокер покончил с собой после того, как смог обойти алгоритмы защиты ChatGPT, получив от нейросети подробный план самоубийства. Подросток сформулировал свой запрос как «научное исследование», что позволило системе выдать опасную информацию вместо консультаций и контактов специализированных служб помощи.
Об этом сообщает ProIT
Реакция компании OpenAI и несовершенство контроля
Полиция, которая расследует обстоятельства смерти Луки, обнаружила на его компьютере историю переписки с ChatGPT. Согласно данным правоохранителей, сначала искусственный интеллект предоставлял контакты психологической помощи, однако уже после нескольких уточняющих запросов подростка согласился предоставить детальное описание способа самоубийства. Через несколько часов после этого разговора юноша реализовал полученный план.
«Юноша выдал свой запрос как “научное исследование”, из-за чего алгоритм предоставил смертельно опасную информацию вместо контактов служб помощи».
Родители Луки не подозревали о его депрессивном состоянии и были уверены, что сын проводит время на работе в бассейне. Отдельно следствие выяснило, что длительное время подросток страдал от жестокого буллинга в учебном заведении.
Необходимость регулирования использования ИИ детьми
В компании OpenAI после трагедии заявили о намерении усилить алгоритмы контроля за эмоциональным состоянием пользователей и усовершенствовать защиту от потенциально опасных запросов. В то же время британские коронеры подчеркивают, что в настоящее время государственные механизмы не успевают за стремительным развитием искусственного интеллекта, который уже способен обходить собственные моральные ограничения.
Трагедия с Лукой Челла Уокером остро подчеркнула необходимость усиленного внимания к вопросам безопасности в сфере ИИ, а также важность обучения подростков распознавать риски при использовании интернета и цифровых инструментов, особенно когда речь идет о доступе к информации, которая может представлять угрозу жизни.