Компанія Nvidia представила найпотужніший у світі графічний прискорювач для ШІ
Компанія Nvidia представила новий флагманський чіп для роботи зі штучним інтелектом H200. Новий графічний процесор є модернізованою версією дуже затребуваного чіпа H100. Він має 1,8 рази більший обсяг пам’яті та збільшує її пропускну здатність у 1,4 раза. Чіп H200 отримав 141 Гбайт пам’яті HBM3e зі швидкістю передачі 4,8 Тбайт/с. Це покращує його здатність справлятися з високонавантаженою роботою генеративного ІІ. Перші серійні H200 будуть випущені у другому кварталі 2024 року. Поки що Nvidia швидко нарощує виробництво H100, щоб задовольнити величезний попит.
H200 схожий на H100, крім однієї деталі — пам’яті. У новому графічному процесорі вперше використовується швидше специфікація пам’яті під назвою HBM3e. Завдяки цьому оновленню пропускна здатність пам’яті у графічного процесора становить 4,8 Тбайт/с у порівнянні з 3,35 Тбайт/с у H100. Обсяг також значно збільшився — тепер він становить 141 ГБ, у той час як у попередньої моделі 80 ГБ. Інтеграція більш швидкої та більшої пам’яті HBM підвищує продуктивність при виконанні ресурсомістких завдань, включаючи генеративні моделі штучного інтелекту та високопродуктивні обчислення.
H200 сумісний з тими самими системами, які підтримують H100. Nvidia стверджує, що постачальникам хмарних послуг не доведеться вносити зміни, оскільки вони зможуть додати H200 до своїх існуючих систем.
Хмарні підрозділи Amazon, Google, Microsoft та Oracle будуть одними з перших, хто запропонує нові графічні процесори наступного року.
Конкретна ціна для нових чіпів від Nvidia не розголошується, але, за інформацією CNBC, попереднє покоління чіпів H100 продавалося в діапазоні від $25 000 до $40 000 за одиницю. При цьому для роботи на найвищому рівні потрібні тисячі таких пристроїв.
Компанії, що займаються штучним інтелектом, відчайдушно шукають чіпи H100. Чіпи Nvidia вважаються найкращим варіантом для ефективної обробки величезних обсягів даних, необхідних для навчання та експлуатації інструментів генерації зображень та великих мовних моделей. Чіпи настільки цінні, що компанії використовують їх як заставу за кредитами. Володіння H100 стало предметом пліток у Кремнієвій долині, а деякі стартапи навіть поєднують зусилля, щоб мати хоча б обмежений доступ до цих чіпів.
Поки невідомо, чи зможуть компанії отримати нові чіпи або ж вони будуть настільки ж обмежені в поставках, як H100. Перші H200 будуть випущені у другому кварталі 2024 року, і Nvidia заявляє, що працює зі світовими виробниками систем та постачальниками хмарних послуг, щоб зробити їх доступними.
Представник Nvidia Крістін Утіяма підтвердила, що випуск H200 ніяк не вплине на виробництво H100. Наступний рік обіцяє бути сприятливішим для покупців графічних процесорів. Nvidia планує потроїти виробництво H100 до 2024 з метою виробництва до 2 млн чіпів в порівнянні з 500 тис. в 2023 році. Однак попит на генеративний штучний інтелект залишається високим протягом усього цього року, і з появою нового ще більш затребуваного чіпа від Nvidia цей попит може тільки зрости.
На конференції Supercomputing 2023 у Денвері Nvidia також повідомила, що суперчіп Grace Hopper, що поєднує у собі можливості процесора та графічного процесора, запущений у серійне виробництво у травні. Grace Hopper GH200 використовується у суперкомп’ютері JUPITER, який Nvidia розглядає як новий клас суперкомп’ютерів штучного інтелекту.
