Есть достижения, которые не нуждаются в огнях и фанфарах, но могут изменить структуру архитектуры. Компания AMD, которая в последние годы успешно исследовала границы кремниевого проектирования, в настоящее время изучает, как расширить свою известную 3D-кэш-память за пределы уровня L3. Новая цель — это кэш L2, и, хотя это все еще экспериментальная разработка, направление, на которое указывает их последний патент, предлагает путь, который будет иметь очень серьезные последствия для производительности, эффективности и способа проектирования чипов будущего.

В основе этого предложения лежит предыдущий опыт, который уже доказал свою ценность. Технология 3D V-Cache от AMD, впервые представленная в линейке Ryzen и позже распространенная на процессоры EPYC как часть серии Milan-X*, заключается в вертикальном размещении блоков кэша L3 поверх основного чиплета. Такой подход позволил значительно увеличить объем доступной кэш-памяти без изменения базовой конструкции процессора с ощутимым приростом при нагрузках, чувствительных к задержке, таких как видеоигры или технические симуляции. Теперь следующим естественным шагом, по-видимому, будет повторение той же концепции … но на другом уровне.

В своей новой исследовательской работе под названием “Накопленный кэш со сбалансированной задержкой” AMD описывает архитектуру, в которой кэш-память L2 также может быть организована в виде многоуровневого макета. Согласно документации, структура включает в себя один или несколько кристаллов кэша, выровненных по вертикали и управляемых с помощью центрального модуля управления, так называемого CCC (схема управления кэшем). В иллюстративном примере упоминается конфигурация кэша L2 объемом до 4 МБ, разделенная на блоки по 512 КБ, соединенные с остальной частью микросхемы с помощью проходов через кремний, расположенных в центре системы. Такое расположение обеспечивает модульность и масштабируемость без изменения путей передачи данных или добавления структурных задержек.

Однако наиболее интересным является не размер, а увеличение задержки, которое влечет за собой этот дизайн. В то время как обычная кэш-память L2 объемом 1 МБ в плоской конфигурации имеет расчетную задержку 14 циклов, конструкция с накоплением, описанная AMD, сокращает это число до 12 циклов. Разница может показаться незначительной, но в контексте очень высокочастотных архитектур и интенсивных нагрузок эти два цикла преимуществ имеют ощутимое значение. Кроме того, симметричное распределение стекирования гарантирует, что обе половины системы будут иметь одинаковое время доступа, избегая внутренних узких мест.

Еще одно большое преимущество стекирования L2 заключается в потреблении. Меньшая задержка означает, что кэш может быстрее входить и выходить из активного состояния, сокращая время работы и, следовательно, затраты энергии. Также выигрывают такие факторы, как общая емкость и длина внутренних дорожек, что приводит к более чистому сигналу, меньшему выделению тепла и более общей электрической эффективности конструкции.

На данный момент все это остается техническим предложением. Нет даты развертывания или подтверждения того, что технология появится в ближайшее время, но если мы пройдем путь, пройденный оригинальным 3D V-Cache, будет разумно предположить, что мы увидим некоторый рабочий прототип в будущих поколениях процессоров или даже графических процессоров. В последние годы AMD демонстрирует сильную склонность к инновациям в тех аспектах внутренней архитектуры, в которые другие производители еще не решились вникнуть. И если этот дизайн оправдает свои обещания, он может стать одним из тех незаметных улучшений, которые приносят больше пользы для реальной производительности, чем многие более заметные изменения.

История современной микроархитектуры буквально состоит из слоев. Некоторые толще, некоторые тоньше, но все с одной и той же целью: продвинуть немного дальше того, что мы считали возможным в кремнии. То, что теперь AMD делает ставку на то, чтобы перенести накопление и в кэш L2, — это не только естественное развитие ее стратегии, но и еще один пример того, что эффективность при продуманном проектировании может стоить столько же, сколько и полная мощность. Возможно, больше.

Сообщение AMD сейчас тестирует накопление кэша L2 появились сначала на Новости технологий, игр и гаджетов — AndreyEx News | Всё о IT, железе и инновациях.

Кэш L3 в моде. Этот компонент позволил AMD создавать процессоры с наилучшей производительностью в играх, существующие на данный момент, и доказал, что он настолько важен в приложениях такого типа, что может заставить процессор с меньшим количеством ядер и меньшей частотой превзойти процессор с большим количеством ядер, большей частотой и гораздо более высокая цена.

Хотя сегодня мы говорим о кэше L3 в обычном режиме, правда в том, что этот тип памяти не всегда был доступен в мире технологий. Первым процессором, интегрировавшим этот тип памяти, был Pentium 4 Extreme Edition, выпущенный в 2003 году, модель с кэш-памятью L3 объемом 2 МБ.

Intel была большим пионером в использовании этого типа кэша, а также была той, кто сделал на него самую сильную ставку на первом этапе. Процессоры Intel Core i7 (Nehalem) были первыми чипами компании, в которых кэш L3 использовался совместно всеми ядрами, которые обменивались данными с ним через систему кольцевой шины, дизайн, который Intel продолжает использовать в течение многих лет.

С процессорами Intel Core i7 первого поколения объем кэш-памяти L3 увеличился с этих 2 МБ до 8 МБ, а Intel Core i9 980X Extreme Edition стал первым, объем которого достиг 12 МБ для L3.

Что такое кеш L3: подробное объяснение

Кэш L3 — это тип быстрой памяти с малой задержкой, которая служит для поддержки процессоров, а также графических процессоров (графических процессоров).

Его появление было вызвано необходимостью увеличения доступного кэша на высокопроизводительных процессорах и стало ответом на проблемы, с которыми столкнулись инженеры при увеличении кэша L2.

Чтобы лучше понять роль кэша L3, мы должны поместить его в контекст с остальными типами кэш-памяти:

• Кэш L1: он уникален для каждого ядра, имеет очень низкую емкость, минимальную задержку и высокую скорость.
• Кэш L2: он также уникален для каждого ядра, но имеет большую емкость, чем предыдущее. Его задержка также выше, и она медленнее, чем у кэша L1.
• Кэш L3: эта память является общей, что означает, что различные ядра ЦП или шейдеры графического процессора могут получить к ней доступ. Его можно развернуть в больших количествах, но он медленнее и имеет большую задержку, чем кеш L2.

В отличие от оперативной памяти, которая вставляется в выделенные слоты материнской платы и является автономным компонентом, кэш L3 может быть интегрирован тремя различными способами:

• На той же кремниевой пластине, что и ЦП или графический процессор, создавая монолитную конструкцию.
• На чиплете, подключенном к процессору или графическому процессору, создавая модульную или мультичиплетную конструкцию.
• Он расположен вертикально на процессоре, что AMD реализовала с помощью своей технологии X3D.

Какие преимущества дает кеш L3 по сравнению с кешем L2

У нас есть два очень важных преимущества, которые позволяют нам понять, почему это так важно. Первым преимуществом является его емкость, поскольку он может быть развернут в гораздо больших объемах, чем кеш L2.

Приведу вам пример: такой процессор, как Ryzen 7 9700X, имеет 8 МБ кэш-памяти L2 (1 МБ на ядро), но имеет 32 МБ кэш-памяти L3, то есть имеет в четыре раза больше такой памяти.

Почему емкость кэша L3 так важна?

Потому что кэш действует как вспомогательный тип памяти, что означает, что он хранит данные и инструкции, которые могут понадобиться процессору или графическому процессору в определенное время. Наличие большего кэша L3 позволяет хранить в нем больше данных и инструкций.

Второе преимущество — его скорость. Хотя кэш L3 медленнее, чем L2, и имеет большую задержку, чем этот, он по-прежнему быстрее, чем ОЗУ и видеопамять, он ближе к процессору и графическому процессору., и, кроме того, не происходит посредничества шины данных для доступа к нему.

Почему так важна скорость кэширования L3?

Это важно, потому что позволяет процессору и графическому процессору находить нужные им данные и инструкции за меньшее время и с меньшими затратами времени. Это помогает упростить рабочие циклы обоих компонентов и может оказать очень положительное влияние на производительность.

Как работает кэш L3?

В этом кэше хранятся данные и инструкции, доступные процессору или графическому процессору во время их рабочих циклов. Оба компонента сначала ищут то, что им нужно, в кеше L2, если они не могут его найти, они смотрят в кеш L3, а если они также не находят его в этом блоке памяти, им уже приходится искать в ОЗУ или видеопамяти.

Кэш L3 работает быстрее, чем ОЗУ и видеопамять, и имеет меньшую задержку, поэтому, если данные, необходимые процессору или графическому процессору, находятся в таком кэше, нет необходимости прибегать к ОЗУ или видеопамяти, которые работают медленнее, имеют большую задержку и, кроме того, имеют меньшую задержку. они связаны с посредничеством шины данных.

Наличие кэша L3 большей емкости повышает частоту попаданий ЦП и графического процессора при поиске в нем данных и инструкций, а также сокращает количество поисков в ОЗУ и видеопамяти, поэтому емкость этой памяти так важна.

Я объясняю это на примере. Когда мы запускаем игру, многие элементы и данные сохраняются в графической памяти (текстуры, геометрия, освещение и другие) и в оперативной памяти (игровая логика, физика, базовый код и другие).

ЦП может получить доступ к этим данным, но они находятся в компонентах, находящихся очень далеко от него, и, кроме того, он должен проходить через шину данных, что значительно увеличивает задержку в этих передачах и оказывает негативное влияние на производительность.

При запуске этой игры некоторые данные и инструкции, которые потребуются процессору или графическому процессору в определенное время, также могут быть сохранены в кэше L3 при запуске этой игры. Как я уже говорил ранее, доступ к ним будет осуществляться за меньшее время и с меньшей задержкой, и это заметно повысит производительность.

Как это влияет на производительность процессоров

Ryzen 7 7800X3D и Ryzen 7 9800X3D — это восьмиъядерные шестнадцатипоточные процессоры с большим объемом кэш-памяти L3. Благодаря использованию чиплетов с 3D-накопителем AMD смогла интегрировать в обе модели в общей сложности 96 МБ памяти L3, что практически утроило объем кэш-памяти третьего уровня, который мы можем найти в высокопроизводительных процессорах.

Такое увеличение кэш-памяти L3 очень сильно влияет на производительность этих процессоров в играх, настолько, что позволяет им превосходить более дорогие процессоры с более высокой тактовой частотой и более высоким потреблением. Ryzen 7 7800X3D работает на частоте 4,2 ГГц-5 ГГц в обычном и турбо-режимах, а Ryzen 7 9800X3D работает на частоте 4,7 ГГц-5,2 ГГц в обычном и турбо-режимах.

Intel Core i9-14900K имеет 24 ядра и 32 потока и может развивать частоту 6 ГГц в турбо-режиме. Несмотря на такую разницу в скорости, его производительность в играх хуже, и он потребляет гораздо больше энергии, чем две альтернативы AMD. Это не волшебство, это разница в том, что при запуске игр используется больший объем кеша L3.

На двух прикрепленных графиках вы можете увидеть реальные данные о производительности в играх, которые являются приложениями, которые больше всего выигрывают от увеличения объема кэша L3. При использовании более мощной видеокарты, такой как GeForce RTX 5090, разница была бы еще больше, особенно при разрешении ниже 4K, поскольку на графических процессорах, таких как GeForce именно на этих уровнях возникает большая зависимость от процессора.

Как это влияет на производительность графических процессоров

Кэш L3 также может помочь повысить производительность при использовании в графических ядрах, хотя в данном случае, из-за нехватки места на уровне кремния, он не всегда реализовывался с монолитной конструкцией (на той же кремниевой пластине, что и графический процессор).

AMD была первой, кто обратился к нему с архитектурой RDNA 2. Самые мощные модели имели 128 МБ кэш-памяти L3, переданной на внешний сервер в виде микросхем, соединенных между собой графическим процессором. Только модели с 32 МБ кэш-памяти L3 интегрировали такую память в один и тот же кремниевый планшет (Radeon RX 6650 XT и ниже).

То же самое и с Radeon RX 7000, в которых используется кэш-память L3, переданная на внешний чип в более мощных моделях, и используется монолитный дизайн в моделях с объемом памяти 32 МБ (Radeon RX 7600 XT и ниже).

С Radeon RX 9000 от AMD они приняли конструкцию с монолитным ядром, что означает, что все модели интегрируют кэш L3 в один и тот же кремниевый блок (рядом с графическим процессором). Это положительно сказывается на производительности и задержке такого кэша.

Наличие кэша L3 на графическом процессоре уменьшает количество обращений к видеопамяти и ее зависимость от нее, поскольку вы можете выполнять больше поисков в этом кэше, чем вам нужно, и вы можете получать необходимые данные и инструкции с большей скоростью и с меньшей задержкой. Этот кэш позволяет достигать пиков пропускной способности, которые были бы невозможны при использовании графической памяти, повышая производительность.

Графический процессор с большим объемом кэш-памяти L3 и небольшой шиной данных может достичь аналогичной производительности по сравнению с графическим процессором, настроенным без кэша L3 и с большей шиной данных, благодаря этой меньшей зависимости от подсистемы графической памяти.

Сообщение Кэш L3: что это такое, для чего он нужен и почему это так важно появились сначала на Новости технологий, игр и гаджетов — AndreyEx News | Всё о IT, железе и инновациях.