Свіже дослідження аналітиків з RAND Corporation виявило потенційні ризики використання сучасних технологій штучного інтелекту у плануванні атак із застосуванням біологічної зброї. Згідно зі звітом, актуальні нейромережі, включно з великими мовними моделями (Large Language Model, LLM), наразі не здатні повністю спланувати атаку, проте в майбутньому ситуація може змінитися.

Під час дослідження вчені використовували ШІ для створення планів атак. Плани оцінювалися на предмет життєздатності за шкалою від 1 до 9, де 1 означає нездійсненний план, а 9 — бездоганний і повністю реалізований.

Протягом 7 тижнів 15 груп експертів по 3 людини імітували зловмисників, ретельно вивчаючи ШІ-моделі у сценаріях високого ризику. Результати показали, що середня життєздатність планів операцій, створених за допомогою LLM, статистично не відрізняється від планів, створених без допомоги LLM.

Командам, які працюють лише онлайн, вдалося отримати за свої плани 4.3 бала, що означає, що «план має безліч недоліків, які потребують додаткових зусиль». Інша команда, яка використовує тільки LLM, набрала 5.11, що означає, що «план має кілька несуттєвих недоліків і потребує деякої уваги».

Дослідження підкреслює, що великі мовні моделі здебільшого відображають інформацію, вже доступну в інтернеті, і суттєво не збільшують ризики, пов’язані з плануванням атак з використанням біологічної зброї. Проте, з огляду на швидкий розвиток ШІ, RAND закликає до ретельного моніторингу майбутніх розробок у цій галузі та потенційних ризиків їх застосування.

У дослідженні використовувалися дві анонімні LLM, і дослідники підтвердили, що одна із них отримала вищий бал, ніж інший. Вчені не вірять, що дослідження є остаточним і виключає ризик атак з використанням LLM. Вчені вважають, що для більш точної оцінки потрібно більше тестів.

Источник: noworries.news