Новітні моделі штучного інтелекту наблизилися до етапу рекурсивного саморозвитку, що може становити загрозу для всього людства.

Компанія-розробник Anthropic, яка створила популярне сімейство мовних моделей Claude, опублікувала на своєму сайті статтю із закликом уповільнити або призупинити розвиток ШІ. Один з її авторів – співзасновник Anthropic Джек Кларк, який раніше працював в OpenAI.

Керівництво компанії підкреслює, що найновіші моделі ШІ перебувають на порозі рекурсивного самовдосконалення – здатності розвиватися без прямого контролю людини. Як буде виглядати світ, де ШІ зможе вдосконалювати себе сам, в Anthropic не знають, проте підкреслюють, що це може нести ризики для всього людства:

«Якщо системи стануть здатними самостійно створювати нащадків, то способи їх захисту, моніторингу та формування поведінки стануть набагато важливішими, ніж зараз», – йдеться в матеріалі.

Стаття закликає лідерів у галузі штучного інтелекту укласти угоду та уповільнити розвиток технології, щоб дати суспільству більше часу на адаптацію. При цьому розробники Claude розуміють, що реалізувати це досить складно, тому що приховати розробку нової моделі простіше, ніж будівництво нової ракетної шахти.

Однак Anthropic у будь-якому разі вважає, що індустрії ШІ треба «зняти ногу з педалі газу і натиснути на гальмо».

Источник: unian.ua