Компанія Meta замінює людей на ШІ: ризики оцінюватиме алгоритм
Meta готується кардинально змінити підхід до оцінки безпеки своїх продуктів. Компанія планує відмовитися від людських рецензентів і покладатися переважно на штучний інтелект, пише Engadget. У пріоритеті Meta — швидкість, однак співробітники компанії попереджають, що такий крок може призвести до ігнорування серйозних ризиків.
Які зміни очікувати в Meta та як це вплине на безпеку в інтернеті?
Meta прагне до того, щоб до 90% оцінок потенційної шкоди продукції здійснювалися ШІ, зокрема й у сферах, що стосуються ризиків для молоді, дезінформації та насильницького контенту. Раніше оновлення Instagram, WhatsApp та інших платформ проходили ретельну людську перевірку перед запуском, але останні два місяці компанія значно активізувала автоматизацію цього процесу.
Тепер команди Meta зобов’язані заповнювати анкету для нових продуктів і подавати її на оцінку системі штучного інтелекту. Алгоритм надає «миттєве рішення» — перелік ризиків та вимог, які мають бути виконані для запуску продукту.
У коментарі для NPR представники Meta заявили, що все ще залучатимуть експертів-людей до оцінки «нових і складних питань», натомість алгоритмам залишать лише продукти з «низьким ризиком».
У першому звіті Meta про дотримання стандартів цілісності після зміни політики компанії щодо модерації контенту та перевірки фактів є зміни. У документі зазначено, що кількість видаленого контенту зменшилася, однак спостерігається зростання випадків онлайн-знущань, домагань та насильницького контенту.
Источник: speka.media
