ПолiтДумка

Кіберфахівці розробили програмне забезпечення, що зламає будь-який ШІ

05 марта
13:41 2024

Міжнародна група дослідників розробила унікального мережевого черв’яка, здатного атакувати сервіси на основі генеративного штучного інтелекту — ChatGPT від OpenAI та Gemini від Google. Зловмисне ПЗ може не лише самостійно поширюватися між ШІ-сервісами, але й викрадати дані та розсилати спам.

Розроблений зловмисний продукт Morris II може запустити атаку на віртуальних помічників, заснованих на ШІ, обходячи при цьому чинні механізми захисту. Черв’як використовує здатність великих мовних моделей працювати з текстом, зображеннями та відео.

Дослідники продемонстрували, як через електронну пошту можна здійснити атаку, змусивши ШІ звертатися до інтернету за додатковою інформацією, що призводить до «злому» та крадіжки конфіденційних даних з електронних листів.

Для захисту від таких атак експерти пропонують не лише покращити надійність ШІ-систем, але й змінити підхід до їхнього використання. Важливо, щоб користувачі не надавали ШІ надмірні привілеї, наприклад, можливість відправляти електронні листи від їхнього імені. Також важливо, щоб усі дії системи узгоджувалися з людиною.

Источник: noworries.news


Warning: count(): Parameter must be an array or an object that implements Countable in /home/politdumkakiev/public_html/wp-content/themes/legatus-theme/includes/single/post-tags.php on line 5
Share

Статьи по теме

Последние новости

Литва планує відкликати свого посла в Україні

Читать всю статью

Мы в соцсетях

Наши партнеры

UA.TODAY - Украина Сегодня UA.TODAY

EA-LOGISTIC: Международные грузоперевозки – всегда своевременно и надежно!