Національний центр у справах зниклих і експлуатованих дітей (NCMEC) оголосив про створення нової платформи, призначеної для видалення з Інтернету відверто сексуальних зображень неповнолітніх. Meta розповіла в дописі в блозі, що вона надала початкове фінансування для створення безкоштовного інструменту NCMEC «Take It Down» , який дозволяє користувачам анонімно повідомляти та видаляти «оголені, частково оголені або відверто сексуальні зображення чи відео» неповнолітніх осіб, знайдених на платформах-учасниках, і заблокувати повторне поширення образливого вмісту.

Facebook і Instagram підписалися на інтеграцію платформи, як і OnlyFans, Pornhub і Yubo. Take It Down призначений для неповнолітніх, які можуть самостійно повідомляти про свої зображення та відео; однак дорослі, які з’являлися в такому вмісті, коли їм не було 18 років, також можуть скористатися службою, щоб повідомити про нього та видалити його. Батьки або інші дорослі, яким довіряють, також можуть подати звіт від імені дитини.

У поширених питаннях щодо Take It Down зазначено, що користувачі повинні мати на своєму пристрої зображення або відео, про які повідомляється, щоб користуватися послугою. Цей вміст не надсилається в рамках процесу звітування, тому він залишається приватним. Натомість вміст використовується для створення хеш-значення, унікального цифрового відбитка, призначеного кожному зображенню та відео, який потім можна надати платформам-учасникам для виявлення та видалення на своїх веб-сайтах і в додатках, мінімізуючи при цьому кількість людей, які бачать фактичний зміст.

«Ми створили цю систему, тому що багато дітей стикаються з такими безвихідними ситуаціями», — сказала Мішель ДеЛон, президент і генеральний директор NCMEC. «Ми сподіваємося, що діти дізнаються про цей сервіс і відчують полегшення, оскільки існують інструменти, які допомагають знімати зображення. NCMEC тут, щоб допомогти».

Сервіс Take It Down можна порівняти з StopNCII , сервісом, запущеним у 2021 році, який спрямований на запобігання невільному обміну зображеннями для осіб старше 18 років. StopNCII так само використовує хеш-значення для виявлення та видалення відвертого вмісту в Facebook, Instagram, TikTok, і Бамбл.

Окрім оголошення про співпрацю з NCMEC у листопаді минулого року , Meta запровадила нові функції конфіденційності для Instagram і Facebook , спрямовані на захист неповнолітніх, які використовують ці платформи. Це, зокрема, спонукання підлітків повідомляти про облікові записи після того, як вони заблокували підозрілих дорослих, видалення кнопки повідомлення з облікових записів підлітків в Instagram, коли їх переглядають дорослі, які раніше були заблоковані, і застосування суворіших налаштувань конфіденційності за замовчуванням для користувачів Facebook молодше 16 років (або 18 у деяких країнах).

Інші платформи, які беруть участь у програмі, вжили заходів для запобігання та видалення відвертого контенту, що зображує неповнолітніх. Yubo, французька програма для соціальних мереж, розгорнула низку інструментів модерації, керованих штучним інтелектом, і людей , які можуть виявляти сексуальні матеріали із зображенням неповнолітніх, а Pornhub дозволяє окремим особам напряму надсилати запити на видалення незаконного чи неконсенсусного контенту, опублікованого на його платформі.

Усі п’ять платформ-учасників раніше критикували за неспроможність захистити неповнолітніх від сексуальної експлуатації. У звіті BBC News за 2021 рік було виявлено, що діти можуть легко обійти системи перевірки віку OnlyFans , а того ж року проти Pornhub подали до суду 34 жертви сексуальної експлуатації , стверджуючи, що сайт свідомо отримував прибуток від відео, які зображують зґвалтування, сексуальну експлуатацію дітей, торгівлю людьми тощо. контент сексуального характеру без згоди. Yubo — описаний як «Tinder для підлітків» — використовувався хижаками для контакту та зґвалтування неповнолітніх користувачів , і NCMEC оцінив минулого рокущо план Meta із застосування наскрізного шифрування на своїх платформах може ефективно приховати 70 відсотків матеріалів сексуального насильства над дітьми, які зараз виявляються та повідомляються на платформі.

«Коли технологічні компанії впроваджують наскрізне шифрування без вбудованих профілактичних заходів для виявлення відомого матеріалу про сексуальне насильство над дітьми, вплив на безпеку дітей є нищівним», — сказав ДеЛон у судовому комітеті Сенату на початку цього місяця .

У прес-релізі Take It Down згадується, що платформи-учасники можуть використовувати надані хеш-значення для виявлення та видалення зображень на «загальнодоступних або незашифрованих сайтах і програмах», але не ясно, чи поширюється це на наскрізне використання Meta шифрування в таких службах, як Messenger. Ми звернулися до Meta за підтвердженням і оновимо цю історію, якщо отримаємо відповідь.