Системи штучного інтелекту дедалі активніше інтегруються у повсякденне життя: вони присутні у смартфонах, застосунках, пошукових системах та навіть автоматизованих сервісах. Водночас користувачам пропонують нові веббраузери з вбудованими помічниками на базі ШІ, які змінюють спосіб доступу до інформації й виконання рутинних завдань.
Про це розповідає ProIT
Штучний інтелект і доступ до персональних даних
Однак із розширенням функціоналу ШІ зростає й рівень доступу до особистих даних користувачів. Багато сучасних додатків вимагають широких дозволів під виглядом необхідності для коректної роботи. У минулому вже виникали питання щодо звичайних безкоштовних застосунків, наприклад, ліхтариків чи калькуляторів, які просили дозвіл на контакти, фотографії або геолокацію – не для роботи сервісу, а з метою монетизації даних користувачів.
Такий підхід отримав нове продовження у сфері ШІ. Наприклад, браузер Comet від Perplexity, оснащений пошуковою системою на базі штучного інтелекту, пропонує користувачам автоматизацію щоденних завдань, зокрема, підсумовування електронних листів та подій у календарі. Проте при підключенні Google Calendar браузер запитує значний обсяг дозволів до облікового запису Google, включаючи можливість керування чернетками й надсилання листів, завантаження контактів, перегляд і редагування всіх календарних подій, а також доступ до корпоративного довідника співробітників.
“Perplexity каже, що більшість цієї інформації зберігається локально на пристрої користувача, однак ви все одно надаєте компанії право доступу та використання ваших особистих даних, зокрема для покращення їхніх моделей ШІ для інших користувачів”.
Схожу практику впроваджують й інші розробники. Деякі застосунки для розшифровки дзвінків чи робочих зустрічей пропонують заощадження часу, проте вимагають доступу до приватних розмов, контактів, календарів тощо. Компанія Meta, наприклад, теж тестує межі дозволів, запитуючи доступ навіть до невикладених у мережу фотографій у пам’яті пристрою.
Небезпеки для безпеки та приватності
Президентка Signal Мередіт Віттакер порівняла використання агентів ШІ з “поміщенням мозку у банку”. Віттакер пояснює, що для виконання простих завдань, таких як бронювання столика чи купівля квитків, штучний інтелект вимагає численних персональних даних: дозволу на відкриття браузера (що відкриває доступ до паролів, закладок і історії перегляду), даних кредитної картки для бронювання, доступу до календаря та контактів для спільного використання інформації.
Надання ШІ такого рівня доступу несе серйозні ризики для безпеки та конфіденційності. Фактично, користувач відразу і безповоротно передає великий масив особистих відомостей – від електронної пошти до повідомлень і записів у календарі за багато років. Все це – заради автоматизації завдань, що мають спростити життя, або, як зазначає Віттакер, позбавити необхідності зайвий раз замислюватися над ними.
Додатково користувач дозволяє ШІ-агенту діяти автономно від свого імені, покладаючи велику довіру на технологію, яка може помилятися або вигадувати інформацію. Варто також пам’ятати, що компанії-розробники переслідують комерційні цілі й використовують дані користувачів для вдосконалення своїх моделей. При виникненні проблем співробітники компаній часто переглядають приватні запити користувачів для пошуку причин збоїв у роботі ШІ.
З точки зору безпеки та приватності, навіть простий аналіз співвідношення ризиків і вигод при наданні ШІ доступу до конфіденційної інформації свідчить, що це невиправданий компроміс. Жоден додаток не повинен вимагати зайвих дозволів, а такі запити повинні викликати у користувачів настороженість – так само, як колись прохання ліхтарика отримати доступ до місця перебування.
Перш ніж погоджуватися на передачу персональних даних, варто замислитися, чи справді це надає відчутну користь, що переважає потенційні ризики.