Міжнародна група дослідників розробила унікального мережевого черв’яка, здатного атакувати сервіси на основі генеративного штучного інтелекту — ChatGPT від OpenAI та Gemini від Google. Зловмисне ПЗ може не лише самостійно поширюватися між ШІ-сервісами, але й викрадати дані та розсилати спам.

Розроблений зловмисний продукт Morris II може запустити атаку на віртуальних помічників, заснованих на ШІ, обходячи при цьому чинні механізми захисту. Черв’як використовує здатність великих мовних моделей працювати з текстом, зображеннями та відео.

Дослідники продемонстрували, як через електронну пошту можна здійснити атаку, змусивши ШІ звертатися до інтернету за додатковою інформацією, що призводить до «злому» та крадіжки конфіденційних даних з електронних листів.

Для захисту від таких атак експерти пропонують не лише покращити надійність ШІ-систем, але й змінити підхід до їхнього використання. Важливо, щоб користувачі не надавали ШІ надмірні привілеї, наприклад, можливість відправляти електронні листи від їхнього імені. Також важливо, щоб усі дії системи узгоджувалися з людиною.

Источник: noworries.news