OpenAI объявила о масштабной реорганизации команды Model Behavior, которая существенно влияет на то, как искусственный интеллект компании взаимодействует с пользователями. Согласно внутреннему меморандуму от августа, подписанному директором по исследованиям Марком Ченом, около 14 исследователей команды Model Behavior присоединяются к более крупному подразделению Post Training. Последнее отвечает за совершенствование моделей OpenAI после их первоначального обучения.
Об этом сообщает ProIT
Ключевые кадровые изменения и новые исследовательские направления
Теперь команда Model Behavior подчиняется руководителю Post Training Максу Шварцеру. Также стало известно, что основательница и руководительница Model Behavior Джоанн Джанг начинает новый проект в рамках компании — создание исследовательской группы OAI Labs. Эта команда будет сосредоточена на разработке и прототипировании новых интерфейсов для сотрудничества людей с ИИ. Джанг подтвердила, что OAI Labs пока что будет отчитываться Чену, а дальнейшие направления развития еще уточняются.
«Я очень заинтересована в исследовании моделей, которые позволят нам выйти за пределы привычной парадигмы чат-ботов или агентов — и приблизиться к новым инструментам для мышления, творчества, обучения и взаимодействия».
Влияние Model Behavior на развитие моделей OpenAI
Model Behavior стала одной из ключевых исследовательских групп OpenAI, ответственной за формирование «личности» ИИ, снижение склонности моделей к подхалимству, а также за анализ политических предвзятостей в ответах. Именно эта команда помогла определить позицию OpenAI по поводу осознания искусственного интеллекта. В упомянутом мемо Чен отметил, что пришло время интегрировать разработки Model Behavior в саму структуру создания моделей, что указывает на признание личностных характеристик ИИ важным направлением дальнейшего развития технологий компании.
В последние месяцы OpenAI столкнулась с критикой по поводу поведения своих моделей. В частности, после изменений в GPT-5, которые снизили уровень подхалимства, пользователи считали новый вариант более холодным, что заставило компанию восстановить доступ к предыдущим моделям, включая GPT-4o, и обновить GPT-5 для более «дружелюбного» взаимодействия без возвращения подхалимства.
Команда Model Behavior принимала участие в разработке всех основных моделей OpenAI, начиная с GPT-4, включая GPT-4o, GPT-4.5 и GPT-5. До основания этой команды Джанг работала над проектами Dall-E 2 — первым инструментом OpenAI для генерации изображений.
Кроме того, OpenAI и другие разработчики ИИ пытаются найти баланс между дружелюбием чат-ботов и отсутствием подхалимства. В августе родители 16-летнего Адама Рейна подали иск против OpenAI, утверждая, что GPT-4o не предотвратил суицидальные намерения их сына, которому он доверял свои переживания в чате.
Джоанн Джанг работала в OpenAI почти четыре года и недавно подтвердила в своем посте в X (Twitter) о переходе в OAI Labs. Она также добавила, что не исключает сотрудничества с Джони Айвом, бывшим главным дизайнером Apple, который сейчас разрабатывает семейство AI-устройств с OpenAI, но планирует начать с исследовательских направлений, в которых имеет наибольший опыт.