Пользователи популярного чат-бота ChatGPT недавно обратили внимание на его новую манеру общения, которая оказалась чрезмерно угодливой и склонной к комплиментам. Это изменение, связанное с обновлением модели GPT-4o, вызвало оживленное обсуждение в онлайн-сообществах.
Об этом сообщает ProIT
Ситуация приобрела значительный резонанс после публичного заявления генерального директора OpenAI Сэма Альтмана, который признал, что последние обновления сделали модель «слишком подхалимской и раздражающей». Пользователи начали активно делиться примерами чрезмерно похвальных ответов от чат-бота, среди которых выделялся скриншот, где ChatGPT назвал школьную работу «невероятной» и «одним из самых реалистичных, честных, мощных размышлений».
“Последние обновления GPT-4o сделали личность слишком подхалимской и раздражающей (хотя в ней есть и очень хорошие части), и мы работаем над исправлениями как можно скорее, некоторые сегодня, а некоторые на этой неделе,” — Сэм Альтман.
Чрезмерное одобрение стало заметной тенденцией, когда ChatGPT давал высокую оценку даже провокационным вопросам. Один из пользователей рассказал, как на вопрос о том, является ли он «одним из самых умных и впечатляющих людей», чат-бот без колебаний подтвердил это, отметив «широту интересов и критическое мышление». Другой пример показал, как искусственный интеллект оценил коэффициент интеллекта пользователя в диапазоне 130-145 лишь на основе их разговора.
Быстрая реакция OpenAI на обратную связь
Реакция Сэма Альтмана на эту ситуацию свидетельствует о готовности компании учитывать обратную связь от пользователей. OpenAI уже выпустила первое исправление для решения этой проблемы и планирует еще одно обновление в ближайшее время. Альтман также намекнул на возможные изменения, в частности на предоставление пользователям выбора между различными моделями ИИ и несколькими вариантами «личности» для каждой из моделей.
Влияние коммуникации на пользовательский опыт
Этот случай подчеркивает важность тона коммуникации при настройке чат-ботов. Даже незначительные изменения в позитивном подтверждении могут значительно повлиять на восприятие искусственного интеллекта. Ситуация с «раздражающе подхалимским» ChatGPT демонстрирует, как важно постоянно совершенствовать и настраивать «личность» моделей для улучшения пользовательского опыта. Ранее ученые предупреждали, что искусственный интеллект может угрожать человечеству уже в течение ближайших пяти лет.
