Платформа Reddit планує запровадити більш сувору верифікацію користувачів, щоб оцінити їхню «людяність» після нещодавнього експерименту, в якому використовувалися боти зі штучним інтелектом, що видавали себе за людей. Про це повідомляється на сайті TechCrunch. Експеримент відбувся в сабредіті «Change My View», де близько 4 мільйонів користувачів обговорюють різноманітні теми.
Про це розповідає ProIT
У рамках експерименту боти опублікували понад 1700 коментарів, прикидаючись жертвами насильства або критиками антирасистського руху Black Lives Matter. Основною метою цього дослідження було з’ясувати, наскільки переконливими можуть бути моделі ШІ.
Резонанс експерименту та його наслідки
Дослідження викликало чималий резонанс, оскільки Reddit традиційно сприймається як платформа, де справжні люди діляться своїми думками. Введення ботів може суттєво підривати довіру до соціальної мережі та загрожувати її ідентичності. Це також може негативно вплинути на фінансові показники компанії, оскільки Reddit продає контент OpenAI для навчання моделей ШІ.
У відповідь на інцидент керівник Reddit Стів Хаффман зазначив, що компанія працюватиме з «різними сторонніми сервісами», щоб покращити верифікацію користувачів. «Щоб зберегти Reddit людським і відповідати новим регуляторним вимогам, нам знадобиться трохи більше інформації. Зокрема, нам потрібно буде знати, чи ви людина, а в деяких регіонах — чи ви дорослий. Але ми не захочемо знати ваше ім’яр чи ким ви є насправді», — написав Хаффман.
Обговорення наслідків верифікації
Цей крок може стати спірним для деяких користувачів, адже анонімність є важливою складовою культури Reddit. Соціальна мережа традиційно не вимагала особистої інформації під час реєстрації акаунтів.
Представник Reddit не уточнив, за яких обставин користувачів можуть зобов’язати проходити верифікацію, але підтвердив, що компанія вже проводить заходи для блокування «шкідливих» ботів. Також не було розкрито, з якими саме сервісами планується співпраця та які дані потрібно буде надати.
Багато компаній вдаються до верифікаційних сервісів, таких як Persona, Alloy, Stripe Identity, Plaid і Footprint, які часто вимагають надання посвідчення особи, виданого державою, для підтвердження віку та людського статусу. Проте противники таких перевірок застерігають про ризики для конфіденційності та безпеки даних, які виникають під час передачі особистої інформації соціальним мережам. Це питання є особливо актуальним для Reddit, де користувачі часто діляться особистими історіями, яким не наважилися б дати публічний характер, якби їхні імена були прив’язані до профілю.