OpenAI провела реорганізацію команди Model Behavior, яка займалася формуванням поведінкових характеристик ШІ-моделей. Відтепер вона стане частиною більшого підрозділу Post Training, а її засновниця Джоанн Джанг очолить новостворену лабораторію OAI Labs, що зосередиться на пошуку нових форматів взаємодії людини з ШІ.

Як зазначається у службовій записці, з якою ознайомилося TechCrunch, команда з приблизно 14 дослідників підпорядковуватиметься керівнику Post Training Максу Шварцеру. Її завданням було зменшення улесливості моделей, балансування політичних упереджень та участь у формуванні позиції компанії щодо “свідомості” ШІ.

Головний науковий співробітник OpenAI Марк Чен пояснив, що об’єднання з Post Training дозволить краще інтегрувати роботу над поведінкою моделей із технічним ядром. Це рішення ухвалили на тлі критики після оновлення GPT-5, коли користувачі назвали відповіді ШІ занадто холодними й різкими. У відповідь компанія повернула доступ до попередніх версій, включно з GPT-4o, і випустила оновлення, яке зробило відповіді “теплішими”, але без надмірного підлещування. Додатковим підтвердженням серйозності проблеми став судовий позов від родини підлітка, яка звинуватила ChatGPT на базі GPT-4o у тому, що він не зміг відвернути сина від суїцидальних думок.

Джанг наголосила, що OAI Labs на початковому етапі зосередиться на дослідженні агентних і автономних систем, які виходять за межі звичного чату. Вона вбачає у них інструменти для мислення, творчості, навчання, гри та комунікації. На питання про можливу співпрацю з колишнім головним дизайнером Apple Джоні Айвом, який працює над апаратними продуктами OpenAI, вона відповіла, що відкрита до ідей, але почне з напрямів, де має найбільший досвід.

Источник: itechua.com