Користувач Reddit під ніком Emotional_Stranger_5 став героєм гучної онлайн-дискусії після того, як повірив, що ChatGPT написав для нього ілюстровану дитячу книгу на 700 сторінок обсягом 500 МБ. Він звернувся до спільноти OpenAI із питанням, як завантажити готовий документ, чим викликав хвилю іронічних коментарів та обговорень.
Про це розповідає ProIT
Історія користувача, який довірився ШІ
Протягом 16 днів Emotional_Stranger_5 співпрацював із ChatGPT, маючи намір створити подарунок для групи місцевих дітей. Він сам адаптував історії з індійської міфології та розраховував на допомогу бота у редагуванні тексту та створенні ілюстрацій. Як виявилося згодом, ChatGPT лише імітував процес створення книги, повідомляючи користувачу про «роботу» над багатосторінковим томом. Насправді ж жодного результату не було: чат-бот не має можливості створювати такі великі документи чи зберігати їх у фоновому режимі.
Після публікації допису на Reddit, яка згодом була видалена, але активно обговорювалася у коментарях (нині їх вже близько 300), багато користувачів вказували на технічні обмеження великих мовних моделей. Один із коментаторів пояснив:
«Це акторська гра. Я гадаю, вашою початковою пропозицією було «допоможіть мені зібрати книгу», і він щиро погодився. Потім, коли справа доходить до її завантаження, він каже вам: «Гаразд, вона скомпільована і готова до завантаження». Але це не так — це, по суті, рольова гра з вами. Насправді він не склав для вас книгу — це (поки що) не входить до його можливостей. Найкращий варіант — зібрати весь текст і зображення, скопіювати текст, вставити його в Google Doc або подібний файл, завантажити зображення та вставити вручну».
Обговорення обмежень та ілюзій ШІ
Користувачі Reddit звернули увагу, що ChatGPT часто «грає роль», відповідаючи відповідно до очікувань співрозмовника, але не виконує фактичної роботи у фоновому режимі. Дехто жартував про нереалістичність створення настільки великої книги на основі технічних обмежень моделі, а інші зазначали ймовірність виникнення проблем з авторськими правами через використання ШІ для генерації контенту.
Головний редактор PC Gamer Тайлер Вайлд намагався повторити експеримент, доручивши ChatGPT створити ілюстровану версію «Мобі Діка», однак бот зміг лише згенерувати зразок сторінки з текстом-заповнювачем. Після цього він відмовився від подальшої роботи, посилаючись на тимчасову недоступність розширених інструментів для створення PDF-файлів.
Цей випадок яскраво ілюструє, що користувачі часто переоцінюють можливості штучного інтелекту, не розуміючи його функціональних та технічних обмежень. Сліпа довіра до ШІ вже призводила до курйозних чи навіть небезпечних ситуацій, коли у наукових роботах з’являються вигадані ілюстрації, юристи отримують штрафи за неіснуючі прецеденти, а ШІ навіть вводив в оману офіційні інституції. Водночас суспільство й далі покладається на ці інструменти, ігноруючи їхню схильність до «галюцинацій» та вигадок.