Моддеры нашли способ раскрыть весь вычислительный потенциал потребительских графических процессоров Nvidia GeForce, включая видеокарты RTX 40, RTX 30 и RTX 20. Эти моды значительно повышают производительность ИИ на графических процессорах GeForce, хотя геймеры не заметят никаких улучшений.
Инструмент изменяет низкоуровневые конфигурационные регистры до загрузки драйвера Nvidia, переопределяя сброс уровня функций PCIe (FLR), обходя программную блокировку и раскрывая весь потенциал каждого графического процессора. Другими словами, это временное изменение, которое не влияет на драйвер или производительность CUDA и сбрасывается после каждой перезагрузки. Кроме того, нет необходимости вручную устанавливать исправления каждый раз, когда Nvidia выпускает новый драйвер.
Это стало возможным главным образом потому, что Nvidia использует одни и те же графические процессоры на своих потребительских картах GeForce и профессиональных картах (ранее Quadro), ограничивая вычислительную производительность игровых карт с помощью программного обеспечения. Благодаря снятию этого ограничения производительность карт GeForce удваивается, что позволяет выполнять определенные инструкции Tensor Core. Это в основном касается операций FP16 и BF16 с накоплением FP32, а также некоторых рабочих нагрузок TF32 и FP8 на поддерживаемых архитектурах.
Начиная с графических процессоров RTX 30, у нас есть gpu-unlock — инструмент, который, как утверждается, ускоряет умножение матриц в BF16, что крайне важно для работы многих нейронных сетей. Сообщается, что на картах на базе GA102, GA103, GA104 и GA106 прирост производительности достигает 94 %. Например, его создатель оценивает следующие улучшения в RTX 3090 Ti.
| Входные данные | До | После |
| FP16 | 87,46 ТФЛОПС | 118,39 ТФЛОПС |
| BF16 | 87,50 ТФЛОПС | 157,41 ТФЛОПС |
| TF32 | 42,58 ТФЛОПС | 82,61 ТФЛОПС |
Далее, у нас есть gpu-unlock-ada для карт RTX 40, что позволяет повысить производительность вычислений на картах на базе AD102, AD103 и AD106 до 100%, включая тензорную пропускную способность FP16 и BF16 с накоплением FP32. Его создатель заявляет о следующих преимуществах RTX 4090.
| Режим | До | После |
| FP16 → FP32 с накоплением | 165,6 TFLOPS | 331,6 TFLOPS |
| BF16 → FP32 с накоплением | 165,5 TFLOPS | 330,6 TFLOPS |
Наконец, у нас есть Turing-unlock для моделей RTX 20, повышающий вычислительную производительность до 1,99 раза. Ниже вы можете увидеть показатели производительности при различных рабочих нагрузках.
| Рабочая нагрузка | Заблокировано | Разблокировано | Изменение |
| FP16-ввод / FP32-накопление MMA, FLOP/SM/такт | 511.6652 | 1022.4380 | 1,9983× |
| Тот же MMA, TFLOPS | 46.9361 | 93.6649 | 1,9956× |
| cuBLAS 8192 GEMM, TFLOPS | 48.1488 | 85.1705 | 1,7689× |
| FP16-ввод / FP16-накопление MMA, FLOP/SM/такт | 1022.1337 | 1022.1171 | Без изменений |
Все это, конечно, здорово, но, к сожалению, ни одно из этих улучшений не принесет никакой пользы геймерам, скорее наоборот. Поскольку 3D-рендеринг в реальном времени и технология DLSS уже используют 100% доступных ресурсов, эти ограничения, связанные с вычислительными мощностями, никак не повлияют на игровой процесс.
Ограничения Nvidia касаются только вычислительных мощностей, чтобы корпорации и серверы не могли использовать более дешевые игровые видеокарты. Другими словами, те, кто выполняет ресурсоемкие задачи, например локальные языковые модели, должны рассчитывать на значительно более высокую пропускную способность.
Теперь, когда блокировка снята, многие профессионалы обратят внимание на видеокарты GeForce, что может привести к еще большему росту цен. К счастью, большинство заинтересовано в моделях с большим объемом видеопамяти, так что бюджетные и средние видеокарты останутся в безопасности. В настоящее время мод доступен только для Linux, но в какой-то момент может появиться поддержка Windows.
