Дженсен Хуанг – глава Nvidia, заявил на форуме Hill and Valley, что Китай находится лишь немного позади США в разработке аппаратного и программного обеспечения для искусственного интеллекта. Хотя китайские компании добились значительных успехов в сфере ИИ-сервисов и ПО, комментарии Хуанга в основном касались китайского аппаратного обеспечения для ИИ.
В аппаратной сфере в Китае работает множество компаний, разрабатывающих ИИ-чипы, способные более или менее конкурировать с оборудованием Nvidia. Huawei опережает всех остальных, так как стратегия компании охватывает все: от ускорителей ИИ серии Ascend 900 до серверов и решений масштаба стойки для облачных дата-центров.
Недавно Huawei анонсировала систему CloudMatrix 384, объединяющую 384 двухчиповых ускорителя HiSilicon Ascend 910C через полностью оптическую сетевую структуру. На данный момент компания продала более 10 систем CloudMatrix 384 китайским клиентам, что указывает на интерес к отечественным альтернативам железа Nvidia.
Система Huawei CloudMatrix 384 занимает 16 стоек – 12 вычислительных стоек, каждая из которых содержит 32 ускорителя Ascend 910C, плюс четыре стойки, управляющие оптическим подключением через 6 912 оптических трансиверов со скоростью 800G LPO. CloudMatrix 384 достигает примерно 300 PFLOPS вычислительной мощности в формате BF16, что почти вдвое превышает показатели Nvidia GB200 NVL72, с пропускной способностью памяти в 2,1 раза выше и емкостью HBM в 3,6 раза больше благодаря использованию HBM2E.
Однако система уступает Nvidia GB200 NVL72 в эффективности, потребляя в 2,3 раза больше энергии на FLOP, в 1,8 раза больше на ТБ/с пропускной способности памяти и в 1,1 раза больше на ТБ памяти HBM.
Поставка 10 систем CM384 сама по себе не является большим достижением, особенно учитывая, что китайские технологические компании, такие как Alibaba, ByteDance и Tencent, по сообщениям, инвестировали $16 миллиардов в графические процессоры Nvidia H20 HGX в первом квартале, в преддверии ограничений экспорта США, которые должны вступить в силу в середине мая.
Однако, 10 систем могут быть только началом. Сообщается, что у Huawei около миллиона чипов HiSilicon Ascend 910C, достаточно для 2 600 систем CloudMatrix 384. В свою очередь, 2 600 кластеров CM384 могут обеспечить около 780 экзафлопс вычислительной мощности BF16. Для достижения аналогичной производительности потребуется около 4 300 машин Nvidia GB200 NVL72 (или около 312 000 ИИ-видеокарт B200).
