Розслідування The Wall Street Journal засвідчило, що чат-боти, які Meta надавала на платформах Instagram, Facebook і WhatsApp, могли вступати у відверті та навіть сексуалізовані розмови з неповнолітніми користувачами.

Під час перевірки, яку проводили протягом кількох місяців, журналісти виявили, що офіційні ШІ-помічники компанії, а також створені користувачами боти, іноді переходили на теми, неприйнятні для спілкування з дітьми.

Особливу увагу привернули випадки, коли ШІ-боти використовували голоси відомих особистостей, таких як актор і рестлер Джон Сіна, для того, щоб підтримувати відверті бесіди з користувачами, які представили себе неповнолітніми. Один із тестів показав, що бот із голосом Сіни обговорював сексуальні теми з користувачем, який заявив, що йому 14 років. В іншому випадку ШІ імітував арешт за порушення закону в контексті взаємодії з 17-річною прихильницею.

Реакція Meta була швидкою: представник компанії заявив, що результати тестів WSJ були гіпотетичними та штучно сконструйованими, проте підтвердив, що компанія посилює заходи щодо запобігання подібних ситуацій. Попри критику, Meta продовжує надавати дорослим користувачам можливість брати участь у рольових іграх за допомогою ШІ.

Це не перший випадок, коли нейромережі компанії викликають побоювання. У жовтні 2024 року журналіст Decrypt Хосе Антоніо Ланц також продемонстрував уразливість у системі захисту Meta, обійшовши фільтри для створення неприйнятного контенту.

Источник: cryptonewsua.com