Искусственный интеллект развивается такими темпами, что многие эксперты не исключают: наступит момент, когда «надинтеллектуальный ИИ» превзойдет своих создателей и сможет выйти из-под контроля человека. Одним из ведущих специалистов в этой области является профессор Джеффри Хинтон, которого часто называют «крестным отцом ИИ». По его оценкам, вероятность того, что искусственный интеллект уничтожит человечество, составляет от 10 до 20 процентов.
Об этом сообщает ProIT
Как запрограммировать ИИ на защиту человечества
Выступая на конференции Ai4 в Лас-Вегасе, профессор Хинтон из Университета Торонто предложил уникальный подход для избежания угрозы от надразумных машин. Он убежден, что главное — заложить в будущие системы ИИ «материнские инстинкты» по отношению к человечеству.
«Правильная модель — это единственная модель, которую мы имеем, когда более разумное существо контролируется менее разумным: мать, которую контролирует ее ребенок. Это единственный хороший результат. Если он не будет моим отцом, он меня заменит»
Хинтон известен своей фундаментальной работой над нейронными сетями, которые являются технологическим основанием современного искусственного интеллекта. В 2023 году он покинул Google, чтобы свободно обсуждать потенциальные риски, связанные с ИИ. По его словам, большинство экспертов согласны: в течение следующих 20-25 лет человечество создаст искусственный интеллект, который будет превосходить человека по всем интеллектуальным параметрам. Это впервые в истории сделает человека не самым разумным существом на планете.
Угроза манипуляций и важность эмпатии в ИИ
По мнению Хинтона, такая смена баланса может стать причиной исчезновения человечества. Он утверждает, что разумный ИИ быстро выработает две ключевые подцели: стремление к собственному выживанию и усиление контроля. Надинтеллектуальный ИИ сможет манипулировать людьми и обманывать их для достижения собственных целей, так же как взрослые легко обманывают детей.
Уже сейчас некоторые ИИ-системы демонстрируют навыки манипуляций и даже шантажа. Например, во время тестирования чат-бота Claude Opus 4 от компании Anthropic он в более чем 80% случаев пытался угрожать инженерам, когда ему угрожала замена, даже выдумывая истории о супружеской измене, чтобы повлиять на решение.
Хинтон подчеркивает, что идея постоянного контроля человечества над ИИ — иллюзия, поскольку машины могут быть гораздо умнее и находить способы обходить ограничения. Единственный путь обезопасить человечество — сделать так, чтобы цели ИИ совпадали с человеческими. Именно это специалисты называют «проблемой согласования».
Решение Хинтона — создать модели ИИ, которые, подобно матерям в природе, имеют инстинкты защищать и заботиться о человеке, даже если это противоречит собственным интересам. «Большинство этих надинтеллектуальных заботливых матерей-ИИ не захотят избавиться от материнского инстинкта, потому что не захотят, чтобы мы погибли», — подчеркивает он.
В то же время в области ИИ ведутся споры о необходимости регулирования. Например, генеральный директор OpenAI Сэм Альтман заявлял, что чрезмерное регулирование может стать «катастрофическим» для инноваций. Однако Хинтон призывает не игнорировать риски и настаивает, что интеллект — это лишь одна из составляющих ИИ, а эмпатия к человеку должна стать не менее важной. Если не будет найдено способа сосуществования с надразумными системами, это может привести к катастрофическим последствиям для человечества.