OpenAI вирішила змінити вектор і тепер повністю концентрується на створенні суперінтелекту. Сем Альтман, гендиректор компанії, каже, що AGI вже можна вважати “під контролем”, тому настав час рухатися далі. І я, чесно кажучи, не знаю, чи це вселяє надію чи трохи лякає.

Що варто знати

Альтман впевнений, що суперінтелект з’явиться набагато швидше, ніж ми всі думаємо, і обіцяє, що він змінить все: науку, економіку, рівень життя. І, звичайно, він говорить, що потрібно бути максимально обережними, щоб цей процес не перетворився на катастрофу. Але от що мене дивує – з одного боку, вони визнають, що керування такими штуками ще те випробування, а з іншого – розпускають команди, які займалися безпекою ШІ. Як це пояснити?

Сам Альтман на критику відповів щось у стилі “ми вже довели, що знаємо, що робимо”. Звучить трохи самовпевнено, якщо чесно. Але треба визнати, OpenAI дійсно має чимало крутих досягнень, хоча такі кроки викликають запитання.

Мені здається, вся ця історія – це як ходити по канату: на одному боці неймовірні можливості, а на іншому – серйозні ризики. І хочеться вірити, що вони зможуть знайти баланс і справді змінити світ на краще, а не створити новий набір проблем.

Источник: itechua.com