OpenAI офіційно підтвердила, що штучний інтелект ChatGPT здатний аналізувати приватні діалоги користувачів на предмет небезпечного контенту. Якщо система виявить ознаки серйозної загрози фізичній безпеці, інформацію можуть передати до правоохоронних органів. Насамперед, розмови проходять через автоматизовані фільтри, після чого їх додатково перевіряє спеціальна група модераторів. Саме ці фахівці ухвалюють рішення щодо блокування акаунта або передачі даних поліції в разі виявлення “безпосередньої загрози серйозної фізичної шкоди”.
Про це розповідає ProIT
Особливості модерації та питання конфіденційності
Водночас OpenAI підкреслює, що повідомлення про випадки самоушкодження наразі не передаються владі — з міркувань приватності. У таких ситуаціях ChatGPT надає користувачам контакти фахівців і гарячих ліній психологічної підтримки, спрямовуючи їх до професійної допомоги.
Критика та відсутність прозорості
Ця політика стала відповіддю на хвилю критики, яка посилилася після резонансних випадків самогубств та інших шкідливих дій, що відбулися під впливом порад чат-бота. Експерти називають такі явища “ШІ-психозами” — станами, коли штучний інтелект може спотворити реальність для користувача. Критики зауважують, що компанія поки не забезпечила повної безпеки роботи ChatGPT, а вимушена сувора модерація суперечить деклараціям OpenAI щодо захисту конфіденційності користувачів. Додаткову стурбованість викликає те, що користувачі не мають доступу до повного переліку слів або тем, які можуть призвести до перевірки діалогу чи навіть передачі інформації поліції.
“Діалоги спершу проходять автоматичні фільтри, а потім перевіряються невеликою групою модераторів, які вирішують, чи блокувати обліковий запис і чи передавати інформацію поліції у випадках ‘безпосередньої загрози серйозної фізичної шкоди’, зазначає OpenAI у своєму блозі”.
Раніше Сем Альтман, генеральний директор OpenAI, наголошував, що переписка із ChatGPT може бути використана як доказ у суді. Це пояснюється тим, що нинішнє законодавство не надає чат-ботам особливого статусу конфіденційності, на відміну від комунікації з юристом чи терапевтом.