Згідно з новим дослідженням, опублікованим у Nature Medicine, чат-бот ChatGPT Health від OpenAI неодноразово не розпізнавав серйозні медичні стани, що потребують негайної допомоги.

Дослідники на чолі з Ашвіном Рамасвамі створили 60 реалістичних сценаріїв із різними симптомами – від легких до критичних. Їх оцінювали лікарі за клінічними стандартами, після чого порівнювали з рекомендаціями ШІ.

У 51,6% випадків, коли пацієнтів потрібно було терміново госпіталізувати, бот радив залишатися вдома або звернутися до лікаря пізніше. Найкраще система справлялася з очевидними екстреними ситуаціями, але гірше – зі складними симптомами, які можуть швидко стати небезпечними.

Водночас у 64,8% безпечних випадків ChatGPT Health, навпаки, рекомендував негайну допомогу. У OpenAI заявили, що такі результати не повністю відображають реальне використання сервісу і що модель постійно вдосконалюється.

Источник: itechua.com