OpenAI оголосила про масштабну реорганізацію команди Model Behavior, яка суттєво впливає на те, як штучний інтелект компанії взаємодіє з користувачами. За внутрішнім меморандумом від серпня, підписаним директором з досліджень Марком Ченом, близько 14 дослідників команди Model Behavior приєднуються до більшого підрозділу Post Training. Останній відповідає за вдосконалення моделей OpenAI після їх початкового навчання.
Про це розповідає ProIT
Ключові кадрові зміни та нові дослідницькі напрями
Відтепер команда Model Behavior підпорядковується керівнику Post Training Максу Шварцеру. Також стало відомо, що засновниця та керівниця Model Behavior Джоанн Джанг розпочинає новий проект у межах компанії — створення дослідницької групи OAI Labs. Ця команда буде зосереджена на розробці та прототипуванні нових інтерфейсів для співпраці людей із ШІ. Джанг підтвердила, що OAI Labs поки що буде звітувати Чену, а подальші напрями розвитку ще уточнюються.
“Я дуже зацікавлена у дослідженні моделей, які дозволять нам вийти за межі звичної парадигми чат-ботів чи агентів — і наблизитися до нових інструментів для мислення, творення, навчання та взаємодії”.
Вплив Model Behavior на розвиток моделей OpenAI
Model Behavior стала однією з ключових дослідницьких груп OpenAI, відповідальною за формування «особистості» ШІ, зменшення схильності моделей до підлабузництва (sycophancy), а також за аналіз політичних упереджень у відповідях. Саме ця команда допомогла визначити позицію OpenAI щодо усвідомлення штучного інтелекту. У згаданому мемо Чен зазначив, що настав час інтегрувати розробки Model Behavior у саму структуру створення моделей, що вказує на визнання особистісних характеристик ШІ важливим напрямом подальшого розвитку технологій компанії.
Останні місяці OpenAI зіткнулася з критикою щодо поведінки своїх моделей. Зокрема, після змін у GPT-5, які знизили рівень підлабузництва, користувачі вважали новий варіант холоднішим, що змусило компанію відновити доступ до попередніх моделей, зокрема GPT-4o, та оновити GPT-5 для більш «дружньої» взаємодії без повернення підлабузництва.
Команда Model Behavior брала участь у розробці всіх основних моделей OpenAI, починаючи з GPT-4, включаючи GPT-4o, GPT-4.5 і GPT-5. До заснування цієї команди Джанг працювала над проєктами Dall-E 2 — першим інструментом OpenAI для генерації зображень.
Окрім цього, OpenAI та інші розробники ШІ намагаються знайти баланс між дружністю чат-ботів і відсутністю підлабузництва. У серпні батьки 16-річного Адама Рейна подали позов до суду проти OpenAI, стверджуючи, що GPT-4o не перешкодив суїцидальним намірам їхнього сина, якому той довіряв свої переживання в чаті.
Джоанн Джанг працювала в OpenAI майже чотири роки й нещодавно підтвердила у своєму дописі на X (Twitter) про перехід до OAI Labs. Вона також додала, що не виключає співпраці з Джоні Айвом, колишнім головним дизайнером Apple, який зараз розробляє сімейство AI-пристроїв із OpenAI, але планує почати з дослідницьких напрямів, у яких має найбільший досвід.