Новий функціонал дозволяє моделі не лише взаємодіяти з настільними застосунками, але й переглядати вебсторінки для виконання завдань, що приховує в собі небезпеку. Можна уявити, як модель з доступом до робочого столу може використовувати деякі застосунки, щоб скомпрометувати особисту інформацію (або зберігати чати у відкритому тексті).

Anthropic не заперечує, що є ризик у випуску нового 3.5 Sonnet. Але компанія стверджує, що переваги спостереження за тим, як модель використовуватиметься в компʼютерами, в кінцевому підсумку переважує цей ризик.

Anthropic також каже, що вжив заходів для запобігання неправильному використанню, наприклад, не навчати новий 3.5 Sonnet на скріншотах та підказках користувачів, а також не дозволяти моделі отримувати доступ до інтернету під час навчання. Компанія каже, що розробила класифікатори, щоб «відштовхнути» 3.5 Sonnet від дій, які сприймаються як високий ризик, таких як публікації в соціальних мережах, створення облікових записів та взаємодія з урядовими вебсайтами.

На тлі конкурентів, таких як Adept і OpenAI, які також працюють над створенням «агентів ШІ», здатних автоматизувати робочі процеси, Anthropic прагне виділитися завдяки надійнішій та потужнішій моделі. Однак, Claude 3.5 Sonnet все ще має певні обмеження і потребує додаткових тестів для більш складних завдань.