Ученые из университетов Оксфорда, Мюнстера и Эксетера, а также из IBM Research разработали способ значительного уменьшения задержки в системах ИИ.

В статье для Nature они представили ​​фотонное тензорное ядро, способное выполнять ключевые вычислительные примитивы моделей ИИ, таких как глубокие нейронные сети для компьютерного зрения, менее чем за микросекунду, с высокими вычислительными плотностью и эффективностью.
Вычисления в памяти (IMC) – это развивающаяся, отличная от фон-неймановской парадигма, в которой устройства памяти используются как для обработки, так и для хранения данных.

Устраняя необходимость перемещать данные между памятью и процессорами, IMC может значительно сократить время задержки. Однако подлинный выигрыш сулит сочетание этой концепции с фотоникой, позволяющее преодолеть физические ограничения электронных процессоров.

Интегрированный фотонный процессор поддерживает гораздо более высокую частоту модуляции данных, чем электронный. Кроме того, он может выполнять параллельные операции в одном физическом ядре с использованием так называемого «мультиплексирования с разделением по длине волны» (WDM) – технологии, которая обеспечивает дополнительное масштабирование за счёт использования частотного пространства.

Вооруженные разработанной ими пять лет назад фотонной фазовой памятью и созданной в EPFL частотной гребёнкой на базе нелинейной оптики (источник света для подачи входных векторов в фотонное тензорное ядро), авторы продемонстрировали устройство, которое выполняет так называемую операцию свёртки за один временной шаг. Нейронной сети для обработки одного изображения могут потребоваться миллиарды таких операций.

В качестве доказательства концепции в статье приведены результаты экспериментов с матрицами размером до 9×4. Используя четыре мультиплексированных входных вектора на каждый временной шаг и частоту модуляции 14 ГГц, учёные получили скорость обработки в два триллиона операций умножения-накопления (MAC) в секунду (2 TOPS).

Делая разумные допущения о возможностях масштабирования, оксфордская команда оценивает конечный результат в беспрецедентные 1000 TOPS (PetaMAC) на квадратный миллиметр. Это превышает вычислительную плотность лучших ИИ-процессоров более, чем на три порядка величины.

Статья в Nature демонстрирует огромный потенциал фотонной обработки для ускорения определенных типов вычислений, таких как свёртки. Теперь перед учёными стоит задача, связать эти вычислительные примитивы вместе и при этом добиться существенной производительности на системном уровне.

Источник: ko.com.ua