Читач ArsTechnica Чейз Уайтсайд зауважив, що ChatGPT розкриває дані з приватних розмов, які включають облікові дані для входу та іншу інформацію.

Два із семи скріншотів, представлених користувачем, містили кілька пар імен користувачів та паролів, які замовляли рецептурні ліки з аптечного порталу. Його співробітник, який використовує чат-бота, схоже, усував проблеми, що виникли під час використання порталу. у витоку фігурує назва програми, у якій співробітник усуває неполадки, і номер магазину, під час якого виникла проблема. Один із скріншотів демонструє всю розмову в чаті. 

Читач отримав ці дані, коли використовував ChatGPT, щоб зробити запит із зовсім іншої області. Він попросив чат-бота вигадати розумні назви для квітів у палітрі. Після цього користувач помітив історії своїх запитів елементи кількох чужих діалогів.

Вони включали назву презентації, над якою хтось працював, подробиці неопублікованої дослідницької пропозиції та сценарій, що використовує мову програмування PHP.

В одній із розмов про портал рецептів згадувався 2020 рік. В інших бесідах дати не фігурували.

Торік у березні OpenAI вже відключала чат-бота після того, як через помилку він показував заголовки з історії чату одних користувачів іншим. У квітні компанія дозволила користувачам відключати історію чатів у налаштуваннях доступу.

У червні на OpenAI подали позов через передбачувану крадіжку особистих даних користувачів. Автори заяви заявили, що компанія порушила законодавство про персональні дані та незаконно зібрала інформацію в інтернеті, у тому числі персональні дані людей, які не давали згоди на обробку.

У листопаді дослідники опублікували документ, в якому повідомлялося, як вони використовували запити, щоб спонукати ChatGPT розкрити адреси електронної пошти, номери телефонів та факсів, фізичні адреси та інші особисті дані, які були включені до матеріалів, які використовуються для навчання великої мовної моделі.

Багато компаній, включаючи Apple, обмежили використання ChatGPT та інших чат-ботів своїми співробітниками.

Цей епізод та інші подібні до нього підкреслюють важливість видалення особистих даних із запитів, зроблених у ChatGPT та інших службах штучного інтелекту.

Представник OpenAI повідомив, що компанія розслідує звіт.