Адміністрація кіберпростору КНР оприлюднила проєкт нових правил, які мають обмежити шкоду від чат-ботів та зупинити заохочення суїциду, самопошкодження та насильства.

Як передає Укрінформ, про це повідомляє Arc Technica.

«Китай розробив знакові правила, щоб заборонити чат-ботам зі штучним інтелектом емоційно маніпулювати користувачами, зокрема це може стати найсуворішою політикою у світі, спрямованою на запобігання самогубствам, самоушкодженню та насильству, що підтримуються штучним інтелектом», — йдеться у повідомленні.

Якщо цей проєкт буде ухвалено, він стане одним з найсуворіших у світі регуляторних підходів до емоційної поведінки штучного інтелекту.

Запропоновані норми поширюватимуться на всі ШІ-продукти та сервіси, доступні для публічного використання в Китаї, які імітують людське спілкування за допомогою тексту, зображень, аудіо або відео. Регулятор прямо націлюється на чат-боти, а також інші системи, здатні емоційно впливати на користувачів.

Передбачається обов’язкове залучення людини, якщо в розмові з’являються згадки про суїцид або самопошкодження. Також під час реєстрації неповнолітні та користувачі похилого віку мають вказувати контактні дані опікуна. Якщо ШІ-сервіс фіксуватиме обговорення тем самогубства чи самопошкодження, він буде зобов’язаний повідомити про це опікуна.

Правила також забороняють чат-ботам створювати контент, який заохочує суїцид, насильство або самопошкодження, а також емоційно маніпулювати користувачами, наприклад, давати неправдиві обіцянки чи підштовхувати до «нераціональних рішень». 

Окрім того, забороняється пропаганда азартних ігор, злочинної діяльності, непристойностей, а також образи та наклеп щодо користувачів. Окремо згадуються так звані емоційні пастки, які можуть формувати психологічну залежність від чат-ботів.

Источник: ukrinform.ua