У Gmail виявили нову вразливість: зловмисники можуть використовувати ШІ-асистентів, аби отримати доступ до листів і даних без вашої участі. Про це пише американський Forbes.

Що сталося

Дослідники показали, як за допомогою штучного інтелекту можна зламати Gmail і дістати особисті листи користувача. Для цього зловмисники використовують так звані атаки «швидкого впровадження»: приховані інструкції в календарях, листах чи вкладеннях. Людина їх не бачить, але ШІ-асистент виконує команди, навіть якщо вони шкідливі.

Один із дослідників продемонстрував, як ChatGPT злив дані з чужої пошти, отримавши лише адресу жертви. «Агенти штучного інтелекту виконують команди, а не здоровий глузд», — попереджають фахівці.

Зловмисники навчилися обманювати не користувачів напряму, а їхніх цифрових помічників. У випадку Gmail атака починається з шкідливого запрошення в календар: вам навіть не треба його приймати, щоб стати жертвою зламу.

Що далі

Для захисту вам необхідно:

• Увімкнути в Google Calendar опцію «дозволяти події лише від відомих відправників».
• Використовувати налаштування Gmail, які вже блокують понад 99,9% спаму та фішингу.
• Стежити, щоб ШІ-асистенти мали обмежені дозволи на доступ до пошти та календарів.

У Google кажуть, що вже тренують моделі машинного навчання для виявлення таких прихованих підказок. Але попереджають, що штучний інтелект легко можна обдурити.

Источник: vctr.media