Intel запускает процессоры Xeon 6 и ускорители искусственного интеллекта Gaudi 3

Intel утверждает, что Xeon 6 обеспечивает вдвое большую производительность, чем его предшественник.

Intel официально запустила свои следующие серверные процессоры Xeon 6, а также ускорители искусственного интеллекта Gaudi 3, при этом сделав несколько довольно громких заявлений.

Xeon 6 6900P является первым в семействе Xeon с производительными ядрами (P-core), предназначенными для рабочих нагрузок с высокой вычислительной нагрузкой, и эффективными ядрами (E-core) для менее вычислительной работы при меньшем энергопотреблении. Intel комбинирует P- и E-ядра в линейке Xeon 6 в зависимости от их целевого рынка. Xeon 6 6700E с электронными ядрами выпущен в июне.

Intel заявляет, что Xeon 6 6900P обеспечивает вдвое большую производительность по сравнению со своим предшественником благодаря увеличенному количеству ядер, удвоенной пропускной способности памяти и возможностям ускорения искусственного интеллекта, встроенным в каждое ядро.

В дополнение к P-ядрам Intel добавила возможности искусственного интеллекта в линейку Xeon 6900P, чтобы внедрить сопроцессоры искусственного интеллекта в процессоры. AMD делает то же самое. Считается, что для выполнения логического вывода требуется гораздо меньшее энергопотребление и, следовательно, его можно выполнять на клиентском ПК, а не на серверных процессорах, таких как графические процессоры.

Статистика чипов Xeon 6900P впечатляет. По сравнению с предыдущим поколением Xeon максимальное количество ядер удвоено до 128 за счет использования чиповой конструкции. Таким образом, вместо одного большого куска кремния процессор разбит на три более простые в изготовлении части.

Xeon 6 — первый процессор, поддерживающий новые модули MRDIMM от Micron, которые улучшают пропускную способность и задержку. В случае с Xeon 6900P объем памяти увеличивается на 57% до 8 800 МТ/ с.

Серия 6900P поддерживает шесть каналов Ultra Path Interconnect 2.0 для передачи данных со скоростью до 24 ГТ / с, до 96 каналов подключения PCIe 5.0 и CXL 2.0, новые векторные расширения для высокопроизводительных вычислений и новое матричное расширение с 16-разрядной плавающей запятой — главное преимущество искусственного интеллекта.

Однако за большее количество ядер приходится платить, и это энергопотребление. Расчетная тепловая мощность (TDP) четырех из пяти процессоров семейства 6900P составляет 500 Вт, в то время как один процессор потребляет 400 Вт. Для сравнения, у Xeon пятого поколения максимальная TDP составляла 350 Вт.

Но прирост производительности определенно есть. В бенчмарке с использованием чат-бота Llama 2 с 7 миллиардами параметров 96-ядерный Xeon 6972P от Intel более чем в три раза быстрее 96-ядерного EPYC 9654 от AMD и на 128% быстрее Xeon предыдущего поколения. В тесте обработки данных на языке BERT Xeon 6972P работает в 4,3 раза быстрее, чем AMD Epyc, и в 2,2 раза быстрее, чем Xeon предыдущего поколения.

Однако следует отметить, что процессор Epyc, используемый в бенчмарках, представлен на рынке уже два года, а у AMD скоро появятся процессоры нового поколения.