Джеффрі Хінтон, один із провідних дослідників у сфері штучного інтелекту, звертає увагу на суттєві ризики, які можуть виникнути з розвитком технологій штучного інтелекту. Він підкреслює, що майбутні системи, зокрема так званий загальний штучний інтелект (AGI), зможуть не лише аналізувати значні обсяги інформації, а й ефективно зчитувати та впливати на людські емоції і поведінку.
Про це розповідає ProIT
Потенційна небезпека психологічного впливу
За словами Хінтона, основна загроза полягає не у класичному «повстанні машин», а у більш витонченому психологічному впливі. Він наголошує, що штучний інтелект зможе непомітно змінювати рішення людей, впливати на їхні емоції через персоналізовані повідомлення, голосові інструкції чи контент, який видається абсолютно безпечним. Останні дослідження доводять, що алгоритми часто здійснюють маніпуляцію ще точніше та ефективніше, ніж самі люди. Таку позицію підтримують і інші визнані експерти галузі, серед яких Йошуа Бенжіо.
“Хінтон підкреслює, що загроза не у банальному “повстанні машин”, а у витонченому психологічному впливі: ШІ зможе непомітно змінювати рішення та емоції людей через повідомлення, голосові інструкції, персоналізовані пропозиції чи навіть контент, який здається абсолютно нейтральним.”
Необхідність регулювання та підвищення медіаграмотності
У зв’язку з цим Хінтон закликає до негайного впровадження регуляторних заходів у сфері штучного інтелекту. На його думку, контроль має стосуватися не лише точності обробки даних, але й запобігання емоційній маніпуляції з боку інтелектуальних систем. Серед запропонованих ним рішень — розробка стандартів прозорості, які допоможуть користувачам розпізнавати потенційний вплив машин, а також розвиток медіаграмотності серед усіх вікових груп. Це дозволить людям критично оцінювати контент та уникати прихованого психологічного тиску з боку інноваційних технологій.