Китай опублікував запропоновані вимоги безпеки для компаній, що надають послуги на основі штучного генеративного інтелекту. У документі наведено чорний список джерел, які не можуть бути використані для навчання моделей ІІ.

Генеративний ІІ, що став популярним завдяки успіху ChatGPT від OpenAI, навчається на основі минулих даних і створює новий контент, такий як текст або зображення.

Вимоги було опубліковано у середу Національним комітетом зі стандартизації інформаційної безпеки. У комітет входять представники Адміністрації кіберпростору Китаю, Міністерства промисловості та інформаційних технологій, а також поліції.

Комітет пропонує проводити оцінку безпеки кожного контенту, який використовується для навчання загальнодоступних генеративних моделей ІІ. Контент, що містить «понад 5% незаконної та шкідливої ​​інформації», буде внесено до чорного списку. До такої інформації відносяться заклики до тероризму, насильства, «повалення соціалістичної системи», «підриву іміджу країни» та «національної єдності».

Проект правил також свідчить, що інформація, що зазнала цензури в китайському інтернеті, не повинна використовуватися для навчання моделей.

Публікація цих вимог відбулася через місяць після того, як регулятори дозволили кільком китайським технологічним компаніям, включаючи пошуковий гігант Baidu, запустити свої чоботи на базі генеративного ІІ.

З квітня Адміністрація кіберпростору Китаю заявляла про необхідність надання безпекових оцінок перед запуском послуг на базі генеративного ІІ.

У липні регулятор кіберпростору опублікував заходи, що регулюють такі послуги, які, на думку аналітиків, були набагато менш суворими, ніж заходи, представлені у проекті квітня.

Вимоги, опубліковані у середу, зобов’язують організації, які навчають ці моделі ІІ, отримувати згоду осіб, чия особиста інформація, включаючи біометричні дані, використовується у навчальних цілях.

Також у документі наведено докладні рекомендації щодо запобігання порушенням інтелектуальної власності.

Багато країн світу стикаються із завданням встановлення рамок для цієї технології. Китай бачить ІІ як область, в якій країна хоче конкурувати зі США і ставить за мету стати світовим лідером у цій галузі до 2030 року.