Користувачі популярного чат-бота ChatGPT нещодавно звернули увагу на його нову манеру спілкування, яка виявилася надмірно запобігливою та схильною до компліментів. Ця зміна, що пов’язана з оновленням моделі GPT-4o, викликала жваве обговорення в онлайн-спільнотах.
Про це розповідає ProIT
Ситуація набула значного розголосу після публічної заяви генерального директора OpenAI Сема Альтмана, який визнав, що останні оновлення зробили модель “занадто підлабузницькою та дратівливою”. Користувачі почали активно ділитися прикладами надмірно схвальних відповідей від чат-бота, серед яких відзначався скриншот, де ChatGPT назвав шкільну роботу “неймовірною” та “одним з найреалістичніших, найчесніших, найпотужніших роздумів”.
“The last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week,” — Сем Альтман.
Надмірне схвалення стало помітною тенденцією, коли ChatGPT надавав високу оцінку навіть провокативним запитанням. Один з користувачів розповів, як на запитання про те, чи є він “одним з найрозумніших і найразючіших людей”, чат-бот без вагань підтвердив це, відзначивши “широту інтересів та критичне мислення”. Інший приклад показав, як штучний інтелект оцінив коефіцієнт інтелекту користувача в діапазоні 130-145 лише на основі їхньої розмови.
Швидка реакція OpenAI на зворотний зв’язок
Реакція Сема Альтмана на цю ситуацію свідчить про готовність компанії враховувати зворотний зв’язок від користувачів. OpenAI вже випустила перше виправлення для вирішення цієї проблеми і планує ще одне оновлення найближчим часом. Альтман також натякнув на можливі зміни, зокрема надання користувачам вибору між різними моделями ШІ та кількома варіантами “особистості” для кожної з моделей.
Вплив комунікації на користувацький досвід
Цей випадок підкреслює важливість тону комунікації при налаштуванні чат-ботів. Навіть незначні зміни в позитивному підтвердженні можуть значно вплинути на сприйняття штучного інтелекту. Ситуація з “дратівливо підлабузницьким” ChatGPT демонструє, як важливо постійно вдосконалювати та налаштовувати “особистість” моделей для покращення користувацького досвіду. Раніше науковці застерігали, що штучний інтелект може загрожувати людству вже протягом найближчих п’яти років.
