NVIDIA представляет свой флагманский ИИ-ускоритель – самый мощный чип в мире

Свежие модели ускорителей Blackwell B200 и GB200 привносят революционные изменения в энергоэффективность и производительность систем искусственного интеллекта, поднимая их на невиданный ранее уровень.

Инновационный кристалл Blackwell B200 обладает впечатляющим составом из 208 миллиардов транзисторов, что обеспечивает высокую вычислительную мощность до 20 петафлопс (FP4).

Однако данные процессоры не предназначены для самостоятельной работы. В этой связи Nvidia представила специальный ускоритель GB200, который объединяет в себе два графических процессора Blackwell B200 и центральный процессор Grace, оборудованный 144 ядрами ARM Neoverse V2.

Производительность ГП Blackwell B200:

По словам производителя, этот трёхчиповый модуль гарантирует увеличение производительности в задачах LLM до 30 раз и снижение стоимости и энергопотребления в 25 раз по сравнению с H100.

Интересно, что в увеличении энергоэффективности большую роль сыграли не только сами чипы, но и обновлённые интерфейсы NVLink с пропускной способностью до 1,8 терабит в секунду (или 1800 гигабит в секунду). Это значительно сократит время на синхронизацию и передачу данных, которое ранее занимало до 60% времени работы системы.

Новые системы вычислительных станций NVL72 от Nvidia состоят из 72 графических процессоров B200, обеспечивая высокую производительность до 1,4 экзафлопс в области обучения искусственного интеллекта. Эти системы способны поддерживать языковые модели с огромным количеством параметров – 27 триллионов, что значительно превосходит новую модель Grok от xAI с её 314 миллиардами параметров.

Необходимо отметить систему DGX Superpod, которая включает в себя восемь модулей NVL72. Эта система обеспечивает впечатляющие 11,5 экзафлопс вычислительной мощности, 240 терабайт памяти и 576 чипов B200. Однако производитель настаивает на том, что это только начало, и разработчики могут масштабировать свои системы, объединяя десятки тысяч модулей GB200 в единую сеть.

Важно! Крупные компании будут иметь возможность приобрести серверные системы, состоящие из восьми стоек, обеспечивающие общую вычислительную мощность в 11,5 экзафлопс. При необходимости такие системы можно будет объединить друг с другом, расширяя всю инфраструктуру.

Nvidia подчёркивает, что новые устройства значительно ускорят процесс обучения моделей с триллионами параметров и снизят энергопотребление. Пока цены не объявлены, однако компания подчеркивает, что Microsoft, Oracle, Google и Amazon уже выразили желание приобрести серверные стойки для своих облачных вычислительных платформ.

Из-за ухода компании с российского рынка в 2022 году, неизвестно, когда появится возможность протестировать новинку от мирового лидера.

Также, прекратились все поставки из Тайваня, где производились российские чипы. Однако отечественные производители стараются найти выход из ситуации. Об этом – далее.

Производитель процессоров Baikal осуществляет сборку чипов на территории России

Компания «Байкал электроникс», разработчик процессоров Baikal, продолжает расширять эксперимент по локализации процесса корпусирования чипов в России. Начиная с 2021 года, завод GS Group в Калининградской области был включен в этот эксперимент, и теперь к нему присоединились компании «Миландр» и «Микрон» в Зеленограде.

Важно! Необходимо отметить, что процесс корпусирования является сложным и дорогостоящим, и до сих пор имеет высокий процент брака на выходе.

До 24 февраля 2022 года компания «Байкал электроникс» вела производство чипов, включая их корпусирование, на фабрике TSMC на Тайване. Однако после введения антироссийских санкций сотрудничество было прекращено. В течение 2022 года 300 тысяч процессоров Baikal, которые уже были произведены на TSMC, не были отправлены в Россию.

Уже в 2021 году «Байкал электроникс» столкнулась с проблемами удлинения сроков поставок и ростом цен из-за усиливающегося дефицита. В связи с этим компания начала эксперимент по корпусированию на производственных мощностях холдинга GS Group в Калининградской области, рассчитывая на более низкие затраты. Ведь процесс корпусирования и сборки микросхем (коммутации) могут определять до половины стоимости производства.

В России имеется несколько предприятий, занимающихся корпусированием микроэлектроники. Среди них генеральный директор Ассоциации разработчиков и производителей электроники Иван Покровский упомянул GS Nanotech (входящий в состав GS Group), Зеленоградский нанотехнологический центр и Воронежский завод полупроводниковых приборов.

«Миландр», который присоединился к расширенному эксперименту компании «Байкал электроникс», ранее специализировался исключительно на корпусировании микроконтроллеров и периферийных микросхем.

Представители компаний-производителей электроники сообщают, что экспериментальные работы идут с трудом.

Более половины произведенных партий чипов оказываются с браком. Это вызвано как необходимостью настройки оборудования на предприятиях, так и недостаточной квалификацией специалистов, занимающихся корпусированием чипов.

Важно! В России есть возможность корпусировать небольшое количество процессоров, но при работе с серийными партиями часто возникает много брака. Производители сталкиваются с трудностями в поддержании однородного качества всех изделий.

Однако, согласно высказыванию генерального директора «Норси-транса» (компании, занимающейся производством серверов) Сергея Овчинникова, на иностранных заводах также встречается значительное количество брака. Он отметил, что с учётом объёма производства это не так заметно, и при этом у них имеется процесс отбраковки.

Согласно объяснению Овчинникова, отбраковка позволяет повторно использовать часть дефектных чипов после их исправления. Он заявил, что дефекты становятся своеобразным сигналом для улучшения процессов, пересмотра материалов и обновления оборудования, что аналогично методам, применяемым на зарубежных производствах.

По мнению Овчинникова, эксперименты в области корпусирования представляют собой значительный шаг в развитии производства. Российские компании только начинают этот путь и постепенно будут совершенствоваться. Эксперт также отмечает, что для производств будет полезно увеличивать компетенции в области отбраковки.

Если говорить о технических характеристиках, то для самого популярного процессора Baikal-M с самым низким энергопотреблением, они следующие:

• техпроцесс: 28 нм;

• процессор: 8 x ARM CortexA57 с тактовой частотой 1,5 ГГц (4 кластера по 2 ядра);

• графика: Mali-T628 (8 ядер, 500 МГц);

• кэш L2: 1 МБ на кластер;

• кэш L3: 8 МБ;

• контроллер памяти: 2 х DDR3/DDR4-2400 64-бит DRAM, ECC;

• энергопотребление: менее 30 Вт.

Ещё один популярный производитель микропроцессоров – «Эльбрус».

Технические характеристики следующие:

• тактовая частота — до 300 МГц;

• число ядер — 1;

• количество операций в такт (на ядро) — до 23;

• кэш-память данных 1-го уровня, на ядро — 64 Кб;

• кэш-память команд 1-го уровня, на ядро — 64 Кб;

• кэш-память 2-го уровня (универсальная) — 256 Кб;

• организация оперативной памяти — DDR2 ECC;

• пропускная способность каналов оперативной памяти — 4,8 ГБ/сек;

• возможность объединения в многопроцессорную систему с когерентной общей памятью — 2.

• потребляемая мощность: 6 Вт.

Ситуация с чипами на российском рынке ещё далека от идеала. Но опыт мировых лидеров подстёгивает производителей совершенствовать процессы производства и качество выпускаемой продукции.

Фото: © freepik.com/freepik.com