Пользователь Reddit под ником Emotional_Stranger_5 стал героем громкой онлайн-дискуссии после того, как поверил, что ChatGPT написал для него иллюстрированную детскую книгу на 700 страниц объемом 500 МБ. Он обратился к сообществу OpenAI с вопросом, как загрузить готовый документ, чем вызвал волну ироничных комментариев и обсуждений.
Об этом сообщает ProIT
История пользователя, который доверился ИИ
В течение 16 дней Emotional_Stranger_5 сотрудничал с ChatGPT, намереваясь создать подарок для группы местных детей. Он сам адаптировал истории из индийской мифологии и рассчитывал на помощь бота в редактировании текста и создании иллюстраций. Как оказалось впоследствии, ChatGPT лишь имитировал процесс создания книги, сообщая пользователю о «работе» над многостраничным томом. На самом деле же никакого результата не было: чат-бот не имеет возможности создавать такие большие документы или сохранять их в фоновом режиме.
После публикации поста на Reddit, который впоследствии был удален, но активно обсуждался в комментариях (в настоящее время их уже около 300), многие пользователи указывали на технические ограничения больших языковых моделей. Один из комментаторов объяснил:
«Это актерская игра. Я думаю, вашей первоначальной просьбой было «помогите мне собрать книгу», и он искренне согласился. Затем, когда дело доходит до ее загрузки, он говорит вам: «Хорошо, она скомпилирована и готова к загрузке». Но это не так — это, по сути, ролевая игра с вами. На самом деле он не составил для вас книгу — это (пока что) не входит в его возможности. Лучший вариант — собрать весь текст и изображения, скопировать текст, вставить его в Google Doc или подобный файл, загрузить изображения и вставить вручную».
Обсуждение ограничений и иллюзий ИИ
Пользователи Reddit обратили внимание, что ChatGPT часто «играет роль», отвечая в соответствии с ожиданиями собеседника, но не выполняет фактической работы в фоновом режиме. Некоторые шутили о нереалистичности создания настолько большой книги на основе технических ограничений модели, а другие отмечали вероятность возникновения проблем с авторскими правами из-за использования ИИ для генерации контента.
Главный редактор PC Gamer Тайлер Уайлд пытался повторить эксперимент, поручив ChatGPT создать иллюстрированную версию «Моби Дика», однако бот смог лишь сгенерировать образец страницы с текстом-заполнителем. После этого он отказался от дальнейшей работы, ссылаясь на временную недоступность расширенных инструментов для создания PDF-файлов.
Этот случай ярко иллюстрирует, что пользователи часто переоценивают возможности искусственного интеллекта, не понимая его функциональных и технических ограничений. Слепая доверие к ИИ уже приводило к курьезным или даже опасным ситуациям, когда в научных работах появляются вымышленные иллюстрации, юристы получают штрафы за несуществующие прецеденты, а ИИ даже вводил в заблуждение официальные учреждения. В то же время общество продолжает полагаться на эти инструменты, игнорируя их склонность к «галлюцинациям» и выдумкам.