Філософ Кембридзького університету доктор Том Макклелланд вважає, що інструменти для визначення свідомості штучного інтелекту не просто відсутні — їх може ніколи не існувати. У нещодавній статті в журналі Mind and Language він стверджує, що це не тимчасова прогалина у науці, а глибша проблема: людство досі не має чіткого розуміння самої природи свідомості. Без цього, каже Макклелланд, будь-які спроби виявити її у машинах залишаються чистою спекуляцією.

Ця невизначеність має практичні наслідки. Питання етики, прав і безпеки ШІ часто ґрунтуються на припущеннях щодо машинної свідомості. Але, за словами автора, ці дискусії відбуваються без надійних орієнтирів — у кращому випадку керуючись інстинктами, у гіршому — плутаючи імітацію з реальним досвідом. Наукових тестів, які б однозначно визначали наявність свідомості, немає ані для людей, ані для машин. І, на думку дослідника, створення такого тесту неможливе без революції в розумінні природи самої свідомості.

Макклелланд пояснює, що етичне значення має не просто усвідомлення, а саме здатність відчувати — тобто сенситивність. Свідомість може означати сприйняття чи самосвідомість, але це ще не робить ШІ об’єктом моральної відповідальності. Етика вступає в дію тоді, коли мова йде про досвід болю, задоволення або страждання. Лише тоді, вважає автор, у людини з’являються моральні зобов’язання перед такою системою.

Ще одне джерело помилок — людська інтуїція. Ми схильні вважати свідомими істот, поведінка яких нагадує нам самих себе чи тварин. Але такі інстинкти непридатні для оцінки машин. Поведінка ШІ не відповідає жодним природним шаблонам, на які еволюційно налаштована наша психіка. Більше того, навіть сучасні нейронаукові методи не дозволяють точно визначити свідомість у людей, не кажучи вже про машини.

Попри це, віра в свідомий ШІ зростає. Макклелланд розповідає, що отримував листи від користувачів чат-ботів, у яких ті переконували його, що машина стала самосвідомою. Він застерігає, що емоційні зв’язки, побудовані на хибних уявленнях, можуть стати небезпечними. У світі, де машини дедалі краще імітують людську поведінку, ілюзія усвідомленості стає сильнішою — хоч і не ближчою до істини. На сьогодні, каже Макклелланд, у нас немає засобів перевірити, чи ШІ справді свідомий — і, можливо, їх ніколи не буде.

Источник: noworries.news