Розробники генератора мови VALL-E 2 з Microsoft бояться випускати власне творіння у масовий доступ через занадто досконалу генерацію людської мови і можливі зловживання. 

Чому у Microsoft злякались власної розробки генератора людської мови

За словами розробників, VALL-E 2 переконливо відтворює людські голоси навіть за допомогою кількасекундних аудіозаписів.

Розробники заявляють, що їхня розробка досягла людського рівня відтворення голосів.

Генератор голосу за допомогою ШІ достатньо переконливий, щоб не відрізнити його від людського.

На переконання розробників, це відкриває безліч можливостей для шахраїв і інших недобросовісних осіб.

VALL-E 2 – це останнє досягнення в мовних моделях нейронних кодеків, яке знаменує собою важливу віху в синтезі тексту в мовлення (TTS). […] VALL-E 2 послідовно синтезує високоякісне мовлення, навіть для речень, які традиційно викликають труднощі через свою складність або повторювані фрази, — пояснюють розробники.

Ми вже бачили приклади нейромереж, які вміють клонувати голоси на основі кількасекундного запису, але Microsoft каже, що її технологія перевершує все, що досі виходило на ринок.

Чим відрізняється нова технологія Microsoft

Наші експерименти, проведені на наборах даних LibriSpeech і VCTK, показали, що VALL-E 2 перевершує попередні TTS-системи […] за надійністю, природністю і схожістю з дикторами. Це перша в своєму роді система, яка досягла паритету з людиною за цими показниками, — цитує видання заяви розробників.

Якість результатів VALL-E 2 залежить від довжини та якості мовних підказок, а також від факторів навколишнього середовища, таких як фоновий шум.

Однак у Microsoft відмовляються випускати VALL-E 2 у широкий доступ.

VALL-E 2 – це суто дослідницький проєкт. Наразі ми не плануємо включати VALL-E 2 в продукт або розширювати доступ до нього для громадськості. Це може нести в собі потенційні ризики зловживання моделлю, наприклад, підробка голосової ідентифікації або видавання себе за конкретного мовця, — пояснюють розробники.

Але вони припускають, що технологія штучного інтелекту може знайти практичне застосування в майбутньому.

Источник: news.online.ua