Джеффри Хинтон, один из ведущих исследователей в области искусственного интеллекта, обращает внимание на существенные риски, которые могут возникнуть с развитием технологий искусственного интеллекта. Он подчеркивает, что будущие системы, в частности так называемый общий искусственный интеллект (AGI), смогут не только анализировать значительные объемы информации, но и эффективно считывать и влиять на человеческие эмоции и поведение.
Об этом сообщает ProIT
Потенциальная опасность психологического влияния
По словам Хинтона, основная угроза заключается не в классическом «восстании машин», а в более тонком психологическом влиянии. Он акцентирует внимание на том, что искусственный интеллект сможет незаметно изменять решения людей, влиять на их эмоции через персонализированные сообщения, голосовые инструкции или контент, который кажется абсолютно безопасным. Последние исследования подтверждают, что алгоритмы часто осуществляют манипуляцию еще точнее и эффективнее, чем сами люди. Такую позицию поддерживают и другие признанные эксперты отрасли, среди которых Йошуа Бенжио.
«Хинтон подчеркивает, что угроза не в банальном “восстании машин”, а в тонком психологическом влиянии: ИИ сможет незаметно изменять решения и эмоции людей через сообщения, голосовые инструкции, персонализированные предложения или даже контент, который кажется абсолютно нейтральным.»
Необходимость регулирования и повышения медиаграмотности
В связи с этим Хинтон призывает к немедленному внедрению регуляторных мер в области искусственного интеллекта. По его мнению, контроль должен касаться не только точности обработки данных, но и предотвращения эмоциональной манипуляции со стороны интеллектуальных систем. Среди предложенных им решений — разработка стандартов прозрачности, которые помогут пользователям распознавать потенциальное влияние машин, а также развитие медиаграмотности среди всех возрастных групп. Это позволит людям критически оценивать контент и избегать скрытого психологического давления со стороны инновационных технологий.