Керівник ШІ-напряму Microsoft Мустафа Сулейман заявив, що дослідження свідомості штучного інтелекту є передчасним і небезпечним. На його переконання, спроби представити ШІ як свідому істоту здатні поглибити психологічні проблеми у людей і спричинити нові соціальні конфлікти.

У своєму блозі він розкритикував дослідників, які займаються так званим “благополуччям ШІ”. Сулейман вважає, що дискусії про можливі права для алгоритмів лише підживлюють суперечки в суспільстві, яке й без того переживає період зростаючої поляризації. За його словами, надання значимості ідеї про свідомість ШІ тільки посилює людські проблеми, включно з психозами та залежністю від чат-ботів.

Водночас не всі поділяють цю точку зору. Компанії Anthropic, OpenAI та Google DeepMind вже запустили наукові програми, спрямовані на вивчення ШІ-свідомості. Anthropic навіть додала у свій ШІ Claude функцію завершення діалогів із користувачами, які поводяться агресивно, пояснюючи це турботою про “благополуччя” моделі.

Дослідницька група Eleos у співпраці з науковцями NYU, Stanford та Oxford у 2024 році опублікувала статтю під назвою “Сприймаючи благополуччя ШІ всерйоз”. У ній автори стверджують, що суб’єктивні переживання ШІ вже не виглядають фантастикою, а отже, обговорювати це потрібно негайно. Лариса Шіаво, колишня співробітниця OpenAI і нині представниця Eleos, підкреслила, що турбота про людей і про штучний інтелект не виключають одна одну.

Сулейман наполягає, що ШІ не здатний самостійно набути свідомості – цього можна досягти лише шляхом спеціального програмування, яке змусить його імітувати людину. Він вважає створення “свідомих” моделей негуманістичним напрямом і наголошує, що ШІ слід розробляти для людей, а не у вигляді людини.

Цікаво, що ще кілька років тому він очолював стартап Inflection AI, який представив чат-бота Pi – особистого емоційного помічника. Сьогодні ж він зосереджується на інструментах для продуктивної роботи та відмежовується від ідей про ШІ-свідомість.

Попри різні позиції, і прихильники, і противники визнають: обговорення прав і свідомості штучного інтелекту лише починається, і з розвитком дедалі реалістичніших моделей ця дискусія ставатиме все гострішою.

Источник: itechua.com