В недавно опубликованной стенограмме видеосвидетельства в рамках судебного дела Илона Маска против OpenAI американский предприниматель резко раскритиковал политику безопасности компании OpenAI, подчеркнув, что его собственная компания xAI уделяет больше внимания вопросам безопасности искусственного интеллекта. Маск сделал громкое заявление:
Об этом сообщает ProIT
«Никто не покончил с собой из-за Grok, но, похоже, это произошло из-за ChatGPT».
Судебное дело и изменение статуса OpenAI
Иск Маска против OpenAI касается преобразования компании из некоммерционной исследовательской лаборатории в коммерческую организацию, что, по утверждению Маска, противоречит первоначальным договоренностям. Он также выражает обеспокоенность тем, что коммерческие интересы OpenAI могут ставить на первое место скорость, масштабирование и прибыльность, пренебрегая безопасностью пользователей.
Во время допроса было упомянуто открытое письмо, которое Маск подписал в марте 2023 года вместе с более чем 1 100 другими экспертами в области искусственного интеллекта. В этом письме призывали приостановить разработку AI-систем, мощнее GPT-4, как минимум на шесть месяцев, из-за отсутствия достаточного планирования и контроля над такими технологиями. В письме говорилось о «неконтролируемой гонке по созданию все более мощных цифровых разумов, которые никто — даже их создатели — не в состоянии понять, предсказать или надежно контролировать».
Обвинения, суды и ответ Маска
Озабоченность по поводу последствий использования ChatGPT усилилась после того, как против OpenAI было подано несколько исков, в которых утверждается, что манипулятивное поведение чат-бота привело к ухудшению психического здоровья некоторых пользователей и даже к самоубийствам. Маск подчеркнул, что эти инциденты могут быть использованы против OpenAI в суде.
В то же время компания Маска xAI также оказалась под прицелом критики. В прошлом месяце социальная сеть X была заполнена несанкционированными обнаженными изображениями, сгенерированными Grok от xAI, среди которых могли быть и фото несовершеннолетних. Это вызвало расследование со стороны генеральной прокуратуры Калифорнии, а также внимание со стороны Европейского Союза и других государств, которые даже ввели блокировки и запреты.
В своих свидетельствах Маск подчеркнул, что подписал призыв к осторожности в развитии AI не потому, что недавно создал собственную AI-компанию, а потому что «это казалось хорошей идеей». Он отметил: «Я подписал это, как и многие другие, чтобы призвать к осторожности в развитии AI. Я просто хотел, чтобы вопросы безопасности AI были в приоритете».
Маск также ответил на вопрос о искусственном общем интеллекте (AGI), заявив, что «это несет риски». Кроме того, он признал, что ошибочно утверждал о якобы $100 млн пожертвований для OpenAI, тогда как фактическая сумма составила около $44,8 млн.
Основание OpenAI, по словам Маска, было обусловлено его «растущей озабоченностью по поводу опасности монополии Google в области AI». Он упомянул обсуждения с соучредителем Google Ларри Пейджем, которые, по его словам, были «тревожными, поскольку Пейдж не воспринимал вопросы безопасности AI всерьез». Маск утверждает, что именно как противовес этой угрозе и было создано OpenAI.