Генеративний штучний інтелект поступово починає відтворювати все більш шаблонний і передбачуваний контент. Якщо системи довго працюють автономно — без нових даних і без участі людини — вони «замикаються» на власних результатах і втрачають різноманітність. Таких висновків дійшла міжнародна група дослідників, передає Futurism.

Експерти попереджають, що це може призвести до явища, яке вони називають «культурною стагнацією».

У чому проблема

Сучасні генеративні моделі навчаються на величезних масивах людського контенту — текстах, зображеннях, відео. Але дедалі більше матеріалів в інтернеті створюють самі алгоритми.

Постає логічне питання: що буде, якщо ШІ почне навчатися переважно на контенті, який створив інший ШІ?

Попередні дослідження вже показували, що в такому випадку системи починають «пережовувати» власні копії. У результаті відповіді стають більш поверхневими, менш точними і все більш схожими одна на одну.

Експеримент із «візуальною ліфтовою музикою»

У новому дослідженні вчені з’єднали генератор зображень із системою, що описує зображення словами, і змусили їх працювати по колу: створювати новий контент на основі попереднього результату. Нових даних не додавали. Модель не перенавчали.

Через певний час система почала генерувати дуже загальні, «стерильні» картинки — без яскравих деталей і без оригінальності. Дослідники назвали це «візуальною ліфтовою музикою» — щось фонове, нейтральне і без емоцій.

Професор комп’ютерних наук Університету Ратгерса Ахмед Елгаммал зазначив: деградація відбулася не через помилку в навчанні, а просто через повторюване використання.

Чому це важливо

Проблема не лише технічна. Якщо алгоритми дедалі більше наповнюватимуть інтернет власним контентом, то майбутні моделі навчатимуться вже не на людських творах, а на алгоритмічних копіях.

Це може призвести до ефекту «усереднення» культури — коли все стає знайомим, безпечним і схожим між собою.

Додатковий ризик полягає в тому, що алгоритми рекомендацій уже зараз просувають контент, який відповідає популярним шаблонам. Незвичні або експериментальні роботи можуть просто губитися в потоці стандартних рішень.

Чи можна це зупинити

Дослідники вважають, що повністю автономний ШІ без участі людини — це шлях до одноманітності.

На їхню думку, майбутні системи потрібно проєктувати так, щоб вони не прагнули лише до «середнього» результату. Алгоритми мають стимулювати новизну й відхилення від шаблонів.

Інакше генеративний штучний інтелект ризикує не збагачувати культуру, а поступово спрощувати її.

Источник: sud.ua